علم داده و هوش مصنوعی بیشتر از چیزی که فکر می‌کردیم فرهنگ را تغییر می‌دهد

تصور کنید که یک کشور برای تعقیب و بازداشت مجرمان از علم داده و هوش مصنوعی استفاده کند. کمتر کسی است که انکار کند چنین روشی کارآمد و امروزی است.…

لینک مطلب:

https://ethicshouse.ir/%D9%88%D9%82%D8%AA%DB%8C-%D8%B9%D9%84%D9%85-%D8%AF%D8%A7%D8%AF%D9%87-%D9%88-%D9%87%D9%88%D8%B4-%D9%85%D8%B5%D9%86%D9%88%D8%B9%DB%8C-%D8%AE%DB%8C%D9%84%DB%8C-%DA%86%DB%8C%D8%B2%D9%87%D8%A7-%D8%B1%D8%A7/

وب‌سایت Daily Philosophy جواد حسینی

از «اخلاق و فناوری های جدید» بیشتر بخوانید.۲ سال پیش۷ دقیقه

تصور کنید که یک کشور برای تعقیب و بازداشت مجرمان از علم داده و هوش مصنوعی استفاده کند. کمتر کسی است که انکار کند چنین روشی کارآمد و امروزی است. اما از طرف دیگر، این روش دست دولت‌ها را برای کنترل شهروندان باز می‌کند. موارد این چنینی فراوان است. پیامدهای منفی علوم و فناوری‌های جدید خیلی مواقع نادیده گرفته می‌شود. این مقاله تلاش دارد تا با یادآوری این پیامدها، داوری ما را درباره این علوم و فناوری‌ها تصحیح کند و ضرورت توجه به اخلاق در این حیطه‌های دانش بشری را به ما یادآوری کند.

آیا علم داده چیز بدی است؟

ربط و نسبت کامپیوترها با بدی [و شرارت]، تاریخی طولانی دارد. این ذهن‌های ماشینیِ بدون عاطفه تداعی‌کننده بی‌رحمی، قضاوت سنگدلانه و اجرای دقیق دستورهای غیرانسانی هستند. اتفاقی نیست که هنگام صحبت درباره نازی‌ها به واژه‌هایی مانند ماشین جنگ، ماشین مرگ و ماشین کشتار اشاره می‌کنیم، با اینکه می‌دانیم هیچ‌کدام به معنای رایج کلمه ماشین نیستند. در دهه ۱۹۷۰ شاهد ظهور کامپیوترها در آگاهی عمومی جامعه، و به تبع وحشت از تبعات احتمالی آن بودیم. فیلم‌هایی مانند بذر شیطان۱ دوشیزه‌های جوان را در مقابل ماشین‌های دارای هوش مصنوعی (AI) قرار می‌داد. و گرچه در مجموعه جنگ ستارگان۲ ربات‌های انسان‌نمای خوب و بد (سفید و سیاه) داشتیم، تأثیرگذارترین چهره آن دارث ویدر۳ (شخصیتی نیمه‌انسان-نیمه‌ربات و سیاه‌پوش) بود.

وجوه بدِ علم داده و هوش مصنوعی

ما از ۱۹۷۰ تا به حال خیلی پیشرفت کردیم. کامپیوترهای امروزی، با ماسک‌های سیاه به مردم حمله یا تجاوز نمی‌کنند. (گرچه با این ویروس، همه ما کمی شبیه دارث ویدر شدیم). در عوض، آنها گذار به اقتصاد بدون پول نقد را ممکن کردند که در آن فقیرترین افراد جامعه نادیده گرفته می‌شوند (هیچ‌کس نمی‌تواند کارت بانکی خود را در کلاه یک گدا بیندازد یا نمی‌خواهد وسط خیابان کارت بکشد). سیستم‌های هوش مصنوعی در تخمین میزان ریسکی که متخلفان به جامعه تحمیل می‌کنند، به قاضی‌ها کمک می‌کنند. آنها بر اساس الگوریتم‌هایی که از دید عموم پنهان است درباره احکام یا وثیقه‌های قضایی هم کمک‌کننده هستند.

هوش مصنوعی پیشگام تخریب زیست‌محیطی است. این تخریب هم از طریق استفاده بسیار زیاد از انرژی و انتشار کربن (برای آموزش مدل‌های محاسباتی پیچیده) اتفاق می‌افتد، هم به‌وسیله حمایت از پژوهش‌هایی که راه را برای بهره‌کشی تجاری از قطب شمال باز می‌کنند. هوش مصنوعی، دستیابی به منابع جدید نفت را برای شرکت‌های سوخت فسیلی ممکن می‌کند و تقویت‌کننده صنایعی است که محصولات‌شان کوتاه‌ترین زمان انقضا را دارند. الگوریتم‌های هوش مصنوعی امکانِ ساخت سلاح‌های جدید و ترسناک، ارائه انواع جدیدی از تروریسم، دست‌کاری فرایندهای دموکراتیک و به خطر انداختن شغل‌ها در مقیاس جهانی را برای ما فراهم می‌کنند.

چه کسی به پول نقد نیاز دارد؟
جامعه بدون پول نقد خیلی راحت به نظر می‌رسد، ولی به‌طور خاص برای کم‌برخوردارترین افراد جامعه کاستی‌های قابل‌توجهی دارد: دادوستدهای بدون پول نقد، باعث نادیده گرفته شدنِ افراد بدون خانه و کارت، و افزایش مخارج می‌شود. این شکل از دادوستد قیمت واقعی خریدها را پشت هزینه‌های غیرآشکار پنهان می‌کند و دست شرکت‌های خصوصی و مقامات دولتی را برای نظارت گسترده و کنترل‌ناپذیر بر شهروندان باز می‌کند.

در بسیاری از جوامع، اسباب بازی‌های مجهز به هوش مصنوعی که بر اساس شخصیت‌های دیزنی۴ ساخته شدند، به پشتوانه امپریالیسم فرهنگی ایالات متحده و زبان فراگیرش (تنظیمات صفحه کلید من زبان انگلیسیِ آمریکایی را بین‌المللی نامیده)، جایگزین سنت‌های فرهنگی شده‌اند.

طبق تخمین‌ها ۶۵۰۰ زبان وجود دارد، در حالی که گوگل ترنزلیت تنها از ۱۰۹ زبان پشتیبانی می‌کند.
هیچ‌کدام از محصولات بزرگِ مبتنی بر هوش مصنوعیِ امروزی از فرهنگ‌ها و نظام‌های ارزشی غیرمسیحی و غیرغربی (با همین ابهام) حمایت نمی‌کنند. در فیس‌بوک هیچ خبری از سانسور بر اساس قوانین اسلامی نیست، اما سانسور سینه زنان که جزء ارزش‌های شمالِ آمریکاست، وجود دارد. در توییتر هم صحبت از گوشت گاو که از ارزش‌های هندوهاست، محدویتی ندارد، اما افراد ضدواکسن و منکران وضعیت اضطراری آب‌وهوایی جهان سانسور می‌شوند.

ساده است که بگوییم «بد [و شرور] نباشید». اما خیلی سخت است که بفهمیم چه زمانی خودمان اینگونه هستیم.

من مدافع هیچ‌کدام از گروه‌های غربی و غیرغربیِ یادشده نیستم. نمی‌خواهم از هیچ محتوای خاصی دفاع کنم، بلکه می‌خواهم به سوگیری‌های فرهنگی قابل‌توجهِ قوانین سفت‌وسختِ مبتنی بر هوش مصنوعی اشاره کنم که حاکم بر گفتمان عمومی است. به سانسور تصاویر مربوط به سلاخی گاوها یا تبلیغ استیک‌های خوشمزه یک رستوران فکر کنید. صدها میلیون انسان، از چنین تصاویری همان قدر (یا حتی بیشتر) برمی‌َآشوبند که ما از نشان دادن خط قرمزهای حساسیت‌برانگیزی که در رسانه‌های غربی سانسور می‌شوند.

و دست‌آخر، نمی‌خواهم این لیست را بیش از اندازه طولانی کنم (گرچه احتمالاً همین الان هم طولانی است)، اما باید بگویم هوش مصنوعی به تمرکز بسیار زیاد قدرت در دستان تعداد اندکی از شرکت‌های بزرگ می‌انجامد که مالکِ حجم عظیمی از اطلاعات مورد نیاز برای آموزش مدل‌های مؤثر هستند: گوگل، بایدو،۵ فیس‌بوک، توییتر، آمازون، اپل و تسلا. بنابراین، شرکت‌های کوچک، استارتاپ‌ها، یک موتور جست‌وجوگر متعلق به شیعیانِ مسلمان، یک ماشین خودران قزاق، یک شبکه اجتماعی فرهنگی واقع در جزایر اقیانوس آرام جنوبی، همه آرمان‌هایی محقق‌نشده هستند و خواهند ماند، زیرا جمعیت‌‎های‌شان آنقدر زیاد نیست تا آموزش مدل‌های هوش مصنوعی به‌صرفه و حتی ممکن باشد.

بد بودن به چه معناست؟

ساده است که بگوییم «بد [و شرور] نباشید». اما خیلی سخت است که بفهمیم چه زمانی خودمان اینگونه هستیم.
شکی نیست که اگر کودکی را به میز زنجیر کنیم و از صبح تا شب او را به برش زدن لباس‌ها مجبور کنیم، بد [و شر] است. اما خرید پیراهن‌های ارزان که دقیقاً به همین شکل در هند و بنگلادش تولید شده، چه؟ به هر حال، این صنایع برای سود و منفعت مشتریانِ چنین اجناسی به وجود آمده است. این پیراهن‌ها که طبق مدهای امروزی و رنگ‌های جذاب تولید شده، در قفسه مغازه‌ها یا کاتالوگ آمازون همراه با تصاویر این کودکان که زندگی‌شان در راه تولید این اجناس نابود شده، به مشتری عرضه نمی‌شود. شاید اگر می‌شد بهتر بود.

کودک در حال غرق شدنِ پیتر سینگر
آزمایش فکری کودک در حال غرق شدنِ پیتر سینگر چنین است: اگر در مسیر اداره، کودکی را ببینیم که در حال غرق شدن در یک برکه است، آیا فکر می‌کنیم باید نجاتش دهیم؟ اگر نجات دادن این کودک به قیمت خراب شدن کت‌وشلوار جدیدمان یا دیر رسیدن به جلسه کاری‌مان تمام شود، چه؟ آیا نظرمان را تغییر می‌دهیم؟

به همین شکل، وقتی یک توسعه‌دهنده،۶ برنامه‌ای می‌سازد که از ۱۰ زبان پشتیبانی می‌کند، آن را به‌خاطر آگاهی‌بخشی فرهنگی و بین‌المللی تحسین می‌کنیم. اما این برنامه با لیست ۶۴۹۰ زبانی که از منویش حذف شده به مخاطبان عرضه نخواهد شد. وقتی یک رباتِ اسباب‌بازی بر اساس یکی از شخصیت‌های دیزنی برای کودکان تولید می‌شود، هرگز به صدها هزار اسطوره و داستان محلیِ رهاشده فکر نمی‌کنیم. بر این اساس، کودکان جهان آن اسطوره‌ها و داستان‌ها را نخواهند شنید و قرن‌ها تجربه، حکمت و راهنمایی فراموش خواهد شد. احتمالاً بد نبود اگر این داستان‌ها در قالبِ کتابچه‌هایی مصور و زیبا همراه با عروسک‌های دیزنی عرضه می‌شد. اما چنین نمی‌شود.

می‌دانیم این چیزها بد است. اما تفاوتی وجود دارد. مشتریان لباس‌ها می‌توانند به‌شکلی پذیرفتنی ادعا کنند که نمی‌توانستند از چگونگی تولید این لباس‌ها سر در بیاورند، اما چنین عذری از توسعه‌دهنده‌های هوش مصنوعی یا دانشمندان کلان‌داده پذیرفتنی نیست. آنها دقیقاً در مرکز جهانی قرار دارند که دارند می‌سازند. آنها همان کسانی هستند که ابزارهایی می‌سازند که موجب نابودی همه فرهنگ‌ها، نابودی محیط زیست، به زندان افتادن انسان‌های بی‌گناه، توهین به عقاید میلیون‌ها متدینِ ادیان مختلف، افزایش کلاهبرداری و تروریسم، بسط نظارت و سرکوب در سرتاسر جهان می‌‎شود.

پس چه کاری از دست‌مان برمی‌آید؟

دست‌کم باید بدانیم که «خوب بودن» با «بد نبودن» تفاوت دارد. آن مشتری‌ای که یک پیراهن ارزان می‌خرد، واقعاً بد نیست. آن توسعه‌دهنده یا دانشمند علم داده که با تولید یک محصول هوش مصنوعی به محو یک فرهنگ کوچک در جایی دور کمک می‌کند هم مستقیماً بد نیست. اما اینها خوب هم نیستند.

«خوب» بودن (در مقابل بد نبودن)، چیزی بیشتر از صرفِ باعث و بانی مستقیمِ ضرر و زیان نبودن است.

«بد نبودن» دیگر کافی نیست.

ایجاد یک سیستم پرداختِ بدون پول نقد بد نیست. آن چیزی که بد است، هزینه‌هایی است که از اقتباس تمام‌عیار این سیستم در جامعه بدون در نظر گرفتن وضع گدایان، فقرا و کلاه‌برداری‌های احتمالی، بر همه افراد جامعه تحمیل می‌شود.

بسیاری از نظریه‌های اخلاقی، معنای «خوب بودن» را مشارکت فعالانه در ارتقای رفاه دیگر انسان‌ها می‌دانند. منظور صرفِ رفاه مالی و مادی نیست، بلکه همه شرایطی است که انسان‌ها در آن زندگی می‌کنند. منظور امکان شکوفایی و به نهایت رساندن ظرفیت‌های انسانی‌شان است. این طرز فکر به ارسطو، و تا حد زیادی کانت، برمی‌گردد که می‌گفت باید با دیگران به‌مثابه «غایات فی‌نفسه» رفتار کنیم و نه صرفاً به‌مثابه غایات شخصِ خودمان. در دنیای جدید هم آمارتیا سن۷ و مارتا نوسبام۸ به‌شدت از این ایده دفاع کردند.

مارتا نوسباوم و رویکرد قابلیت
مارتا نوسباوم در نظریه رویکرد قابلیت می‌گوید زندگی انسان برای اینکه به بالاترین حد ظرفیت و پتانسیل خود برسد، باید برخی قابلیت‌ها را داشته باشد، یعنی امکان‌هایی واقعی که می‌تواند در زندگی محقق شود.

در جهانی زندگی می‌کنیم که رو به فروپاشی است. هوش مصنوعی و علم داده میلیاردها شغل را نابود خواهند کرد. سیستم‌های هوش مصنوعی از اردوگاه‌های کار اجباری حفاظت می‌کنند، و دولت‌های توتالیتر را قادر می‌سازند تا با نظارت فراگیر به یافتن و حذف منتقدان‌شان بپردازند. تحلیل‌های کلان‌داده که به کاوش سوخت‌های فسیلی کمک می‌کند، ریشه بسیاری از تخریب‌های محیط زیستی است. موتورهای پیشنهاددهنده و روان‌شناسی خرید آنلاین هوشمند، افراد را به خرید آنلاین چیزهایی ترغیب می‌کنند که ظرف فقط چند ماه باید به سطل زباله انداخته شود. با این توصیفات، دیگر نمی‌توانیم این توسعه‌دهنده‌ها و دانشمندان علم داده که چنین کارهایی می‌کنند را «بی‌گناه» یا «نه چندان بد» بدانیم.

«بد نبودن» دیگر کافی نیست.

استفاده از هوش مصنوعی برای کارهای خوب سخت است. خیلی سخت‌تر از صرفاً «بد نبودن» است. زمانش فرارسیده که با جدیت درباره اینکه چگونه یک توسعه‌دهنده یا دانشمند خوب باشیم، فکر کنیم. مخصوصاً در جهانی که نیاز دارد تا افراد واقعاً خوب آن را اداره کنند تا این سیاره بتواند به حیات خود ادامه دهد.

رومن یامپولسکی : کنترل‌ناپذیریِ هوش مصنوعی

پیدایش هوش مصنوعی نویدبخش است، اما با خود ریسک وجودی هم به همراه دارد. از کجا می‌دانیم که هوش مصنوعی ایمن است؟ از کجا می‌دانیم که ما را نابود نخواهد کرد؟ از کجا معلوم که ارزش‌های آن با ارزش‌های ما هم‌خوان باشد؟

پی نوشت

Demon Seed

Star Wars

Darth Vader

Disney

یک موتور جست‌وجوگر چینی است.

developer

Amartya Sen

Martha Nussbaum