تکنولوژی اخلاقی

اتومبیل‌­های خودران¹ در مستی رانندگی نمی‌کنند و هوش مصنوعی‌های مورد استفاده در پزشکی خستگی نمی‌شناسند. با درنظرگرفتن خطاهای آشکارمان، پس ما انسان‌ها چه کاری را بهتر انجام می‌دهیم؟

پسربچه‌ی پنج ساله‌ای در حال کمک کردن به مادربزرگش در آشپزی است. او تکه‌های بیسکوییت را از خمیری که مادربزرگش آماده کرده، جدا می‌کند. او در این کار هیچ مهارتی ندارد. بنابراین به ربات خانوادگی‌شان دستور می‌دهد تا به جای او این کار را انجام دهد و گرچه آن ربات تا به حال چنین کاری نکرده است، به سرعت چگونگی انجامش را یاد می‌گیرد و بیسکوییت‌ها را به نحو احسن از خمیر جدا می‌‌کند. مادربزرگ حسابی ناامید می‌شود، چون از ته قلب به یاد روزهایی می‌افتد که پسرش با لذتِ تمام در همان سن و سال کنونی نوه‌اش، برای او بیسکوییت‌های نازکی درست می‌کرد که جای انگشتانش روی سطح آن باقی مانده بود. نوه‌ی او برای انجام دادن چنین کارهایی باز هم از ربات‌شان استفاده خواهد کرد و بدون بهره‌وری از مهارت‌های دست‌ورزی بزرگ خواهد شد.

مدل‌سازی کامپیوتری اخلاق اسپینوزا

هنگامی که والدین پسربچه به خانه بیایند، او می‌گوید: «نگاه کنید، این بیسکوییت‌ها را برای شما درست کردم.» یکی از والدین می‌گوید: «اوه، چقدر خوب. اجازه دارم یکی بردارم؟» دیگری در سکوت با خود می‌اندیشد: «نه، تو این‌ها را خودت درست نکرده‌ای، ای متقلبِ کوچک!»

هوش مصنوعی (ای‌آی)² ممکن است پتانسیل آن را داشته باشد ‌که چگونگی انجام وظایف‌مان و ارزش­‌گذاری کارها را دگرگون کند. استفاده از هوش مصنوعی به‌منظور آن‌که به جای ما فکر کند، ممکن است مهارت‌های اندیشیدن ما را تضعیف کند.
هوش مصنوعی‌ در حال حاضر ضعیف است و فقط می‌تواند کارهای مشخص و انتخاب‌شده‌ای را انجام دهد. حتی هنگامی که هوش مصنوعی می‌تواند کارهای خاصی را به خوبی انسان‌ها یا بهتر از آن‌ها انجام دهد، لزوماً به شیوه‌­ی انسان­‌ها به نتیجه‌ی مدنظر نمی‌رسد. یکی از کار‌هایی که هوش مصنوعی به خوبی می‌تواند از پس آن بربیاید، غربال کردن توده‌ی داده‌ها با سرعت بسیار زیاد است. با استفاده از یادگیری ماشین[۴]، هوش مصنوعی‌ای که با هزاران تصویر آموزش دیده است، می‌تواند از توانایی شناسایی تصویرِ یک گربه بهره‌مند شود (که با توجه به پُر شدن تصاویر گربه‌ها در اینترنت، موفقیت بزرگی به‌شمار می‌رود). اما انسان‌ها این کار را به شیوه‌ی بسیار متفاوتی انجام می‌دهند. یک کودکِ انسان، اغلب بعد از دیدن فقط یک نمونه، می‌تواند گربه‌ها را شناسایی کند.
از آنجایی که هوش مصنوعی ممکن است، نسبت به انسان‌ها به شیوه‌ی متفاوتی «فکر کند» و به دلیل تمایل عمومی‌ای که نسبت به غرق شدن در جذابیت‌های هوش مصنوعی وجود دارد، استفاده از آن می‌تواند نحوه‌ی رویکرد ما به وظایف‌مان و شیوه‌ی تصمیم‌گیری‌مان را دگرگون کند. جذابیت اغواگرایانه‌ای که اطراف هوش مصنوعی را فراگرفته است در واقع یکی از خطرات آن را به تصویر می‌کشد. کمابیش تمام مقاله‌هایی که در رابطه با هوش مصنوعی نوشته می‌شوند، قدرت‌های آن را تبلیغ می‌کنند و حتی آن‌هایی که مربوط به کاربردهای معمولی هوش مصنوعی است با روبات‌های قاتل به تصویر کشیده شده‌اند و این باعث ناامیدی کسانی است که در این زمینه فعالیت می‌­کنند.

از آنجایی که هوش مصنوعی نه فقط به منظور کمک‌رسانی به ما در امر شست‌و‌شو، بلکه برای یاری رساندن به ما در نحوه‌ی اندیشیدن و تصمیم‌گیری درباره‌ی وظایف نامشخص بی‌شماری طراحی شده است، باید به صورت جدی به این مسئله بیاندیشیم که چگونه ممکن است افکار و رفتار خودِ ما را دگرگون کند.

تأثیر تکنولوژی بر شکل‌دهی ارزش‌های ما بر کسی پوشیده نیست. در یکی از میزگردهای اخیر در رابطه با مباحث اخلاقی مربوط به هوش مصنوعی، در گروهی که من در آن بودم بیشتر وقت‌مان را صرف بحث بر سر نمونه‌ی شناخته‌شده‌ی «ماشین لباس‌شویی» کردیم. ماشین لباس‌شویی صرفاً «جایگزین» شست‌و‌شوی دستی نشد، بلکه تأثیر عظیمی بر شیوه‌ی نگرش ما درباره‌ی تمیزی، کارهای خانه و حتی تولید لباس‌ها داشت. از آنجایی که هوش مصنوعی نه فقط به منظور کمک‌رسانی به ما در امر شست‌و‌شو، بلکه برای یاری رساندن به ما در نحوه‌ی اندیشیدن و تصمیم‌گیری درباره‌ی وظایف نامشخص بی‌شماری طراحی شده است، باید به صورت جدی به این مسئله بیاندیشیم که چگونه ممکن است افکار و رفتار خودِ ما را دگرگون کند.
در برخی موارد، هوش مصنوعی می‌تواند در راستای بهبود رویکرد به ما یاری برساند. اما در موارد دیگر می‌تواند نگرش ما نسبت به مسائل مهم را تقلیل دهد یا تضعیف کند. حتی ممکن است نحوه‌ی اندیشیدن ما درباره‌ی ارزش‌ها را از مسیر درست منحرف کند.

ناآگاهی نسبت به تغییرات و سازگاری سریع با تکنولوژی می‌تواند بدان معنا باشد که ما کاملاً نسبت به چنین دگرگونی‌هایی در فرهنگ و ارزش‌هایمان آگاه نیستیم. به‌عنوان مثال، نگرش ما نسبت به حریم خصوصی به طرز چشمگیری همراه با دگرگونی‌های عظیم تکنولوژیکی در رابطه با نحوه‌ی ارتباط برقرار کردن‌هایمان و چگونگی به‌اشتراک‌گذاری و پردازشِ داده‌ها، تغییر کرده است. یکی از مهم‌ترین چیزهایی که منجر به پیشرفت هوش مصنوعی شده، حجم عظیم داده‌هایی است که در حال حاضر در دسترس قرار دارد. داده‌هایی که بیشتر آن‌ها درباره‌ی خودمان است و در طول زندگی روزمره‌مان جمع‌آوری شده‌اند. بسیاری از آدم‌ها به شدت در رابطه با سازماندهی‌هایی که کنترل داده‌های ما را در دست دارند، محتاط‌اند، بااین‌حال همچنان حجم بالایی از اطلاعات بسیاری شخصی‌شان را پُست می‌کنند، اطلاعاتی که تا همین چند سال پیش به شدت خصوصی درنظرگرفته می‌شدند. پژوهش‌ها حاکی از آن است که نگرانی‌های مردم درباره‌ی حریم شخصی اطلاعات‌شان در موقعیت‌های مختلف متغیر است. این بدان معنا نیست که تکنولوژی «به‌تنهایی» عامل این اتفاق است، چراکه همیشه دگرگونی‌های اجتماعی دیگر هم به صورت هم‌زمان دست‌اندرکار بوده‌اند.

و شاید نسبت به تأثیرات برخی از تکنولوژی‌ها به صورت ویژه‌ای ناآگاهیم، چراکه بر شکل‌دهی  نحوه‌ی نگرش ما بر جهان به شدت اثرگذارند. قسمت چالش‌برانگیز هوش مصنوعی این است که می‌تواند به شیوه‌ای عمل کند که ما به طور کامل از آن آگاه نیستیم. پیدا کردن الگوهایی که بر اساس آن‌ها با یکدیگر ارتباط برقرار می‌کنیم، نحوه‌ی اندیشیدن‌مان و چگونگی کشف جهان مفید است. این مسئله‌ای کاملاً جدید نیست. تکنولوژی‌های مربوط به نوشتن، چاپ و تلفن از پیش چگونگی ادراکات و تعاملات ما با جهان و حتی مغزهایمان را متحول کرده‌اند. اما هوش مصنوعی می‌تواند حتی قدرتمندتر از این حرف‌ها باشد. الگوریتم‌های موجود در تکنولوژی‌ها که از طریق آن‌ها به داده‌های بی‌شماری دسترسی داریم، می‌توانند شکل‌دهنده‌ی اطلاعات دریافتی و حتی چگونگی دریافت و واکنش ما باشند. این صرفاً پیامدی ناخواسته در نتیجه‌ی استفاده از ای آی نیست، بلکه اصلاً به همین منظور طراحی شده است. تکنولوژی غالباً به کمکِ هوش مصنوعی در حالِ بهره‌برداری از روان‌شناسی انسانی‌ است تا شیوه‌ی رفتار ما را شکل دهد. تلفن‌های همراه و شبکه‌های اجتماعی براساسِ پژوهش‌های صورت گرفته در حوزه‌ی روان‌شناسی درباره‌ی ایجاد واکنش‌های اعتیادآور به استفاده از آن‌ها طراحی شده‌اند.

بنابراین اجازه دهید با تمرکز بر این مسئله که ماشین‌ها و انسان‌ها چگونه از داده‌ها استفاده و آن‌ها را تحلیل می‌کنند، چند نمونه از استفاده و کاربردهای بالقوه‌ی هوش مصنوعی را بررسی کنیم.

…