هوش مصنوعی انتخاب و شانس را از بین می برد

تاریخچه استفاده انسان‌ها از فناوری¹ همیشه تاریخ هم‌تکاملی² بوده است. فیلسوفان از روسو³ تا هایدگر⁴ و کارل اشمیت⁵ استدلال کرده‌اند که فناوری هرگز ابزاری خنثی برای دستیابی به اهداف انسانی نیست. نوآوری‌های تکنولوژیکی – از ابتدایی‌ترین تا پیچیده‌ترین – افراد را تغییر می‌دهند، زیرا آنها از این نوآوری‌ها برای کنترل محیط خود استفاده می‌کنند. هوش مصنوعی ابزاری جدید و قدرتمند است و بشریت را نیز تغییر می‌دهد.

نوشتن و بعد از آن ماشین چاپ امکان ثبت دقیق تاریخ و انتشار آسان دانش را فراهم کردند، اما سنت‌های چند صد ساله داستان‌سرایی شفاهی حذف شدند. دوربین‌های دیجیتال و تلفن‌های موجود در همه‌جا نحوه تجربه و درک مردم از رویدادها را تغییر داده‌اند. سیستم‌های جی‌پی‌اس⁶ به‌طور گسترده در دسترس به این معناست که رانندگان به ندرت گم می‌شوند، اما اتکا به این سیستم‌ها استعداد و توان اصلی ایشان برای جهت‌گیری را نیز از بین برده است.

هوش مصنوعی تفاوتی ندارد. درحالی‌که اصطلاح «هوش مصنوعی» نگرانی‌هایی درباره ربات‌های قاتل، بیکاری یا وضعیت نظارت گسترده ایجاد می‌کند، اما پیامدهای عمیق‌تری نیز به همراه دارد. از آنجایی‌که هوش مصنوعی به طور فزاینده‌ای تجربه انسان را شکل می‌دهد، چگونه معنای «انسان بودن» را تغییر می‌دهد؟ مشکل اصلی، ظرفیت و توان یک فرد برای انتخاب است، به ویژه قضاوت‌هایی که پیامدهای اخلاقی دارند.

تسلط بر زندگی ما؟

هوش مصنوعی برای اهداف گسترده و به‌سرعت در حال گسترش استفاده می‌شود. هوش مصنوعی برای پیش‌بینی اینکه افراد می‌خواهند کدام برنامه‌ها یا فیلم‌های تلویزیونی را بر اساس ترجیحات گذشته تماشا کنند و تصمیم‌گیری در مورد اینکه چه کسی می‌تواند بر اساس عملکرد گذشته و سایر گزینه‌ها پول قرض کند، استفاده می‌شود. از هوش مصنوعی برای شناسایی معاملات تجاری تقلبی و شناسایی تومورهای بدخیم⁷ استفاده می‌شود. برای تصمیم‌گیری‌ها در مورد استخدام و اخراج در فروشگاه‌های زنجیره‌ای بزرگ و مدارس دولتی و همچنین در اجرای قانون از آن استفاده می‌گردد – از ارزیابی احتمال تکرار جرم، تخصیص نیروی پلیس، تا شناسایی چهره مظنونین جنایی.

مشکل اصلی، ظرفیت و توان یک فرد برای انتخاب است، به ویژه قضاوت‌هایی که پیامدهای اخلاقی دارند.

بسیاری از این برنامه‌ها خطرات نسبتاً آشکاری دارند. اگر الگوریتم‌های مورد استفاده برای تایید وام، تشخیص چهره و استخدام بر اساس داده‌های مغرضانه آموزش داده شوند، که در نتیجه آن مدل‌های مغرضانه ایجاد ‌کنند، تعصبات و نابرابری‌های موجود را تداوم می‌بخشند. اما محققان بر این باورند که داده‌های پاک‌سازی شده و مدل‌سازی دقیق‌تر، سوگیری الگوریتمی را کاهش داده و به‌طور بالقوه حذف می‌کند. حتی این امکان وجود دارد که هوش مصنوعی بتواند پیش‌بینی‌هایی منصفانه‌تر و کم‌ جانبدارانه‌تر از پیش‌بینی‌های انجام‌شده توسط انسان انجام دهد.

در جایی‌که سوگیری الگوریتمی یک مسئله فنی است که حداقل در تئوری قابل حل می باشد، این سوال که چگونه هوش مصنوعی توانایی‌هایی را که انسان را تعریف می‌کند تغییر می‌دهد، اساسی‌تر است. ما این سوال را چند سال پیش به عنوان بخشی از پروژه هوش مصنوعی و تجربه در مرکز اخلاق کاربردی UMASS بوستون مطالعه کرده‌ایم.

از دست دادن توانایی انتخاب⁸

ارسطو⁹ استدلال می‌کرد که ظرفیت و توان¹⁰ برای صدور احکام عملی¹¹ به طور منظم بر اساس عادت و تمرین¹² می باشد. ما ظهور ماشین‌ها را به‌عنوان قاضی‌های جایگزین¹³ در زمینه‌های مختلف کاری به‌عنوان یک تهدید بالقوه برای افرادی می‌بینیم که یاد می‌گیرند چگونه خودشان به‌طور مؤثر قضاوت کنند.

در محل کار، مدیران به طور معمول تصمیم می‌گیرند که چه کسی را استخدام یا اخراج کنند، چه وامی را تایید کنند و به کجا افسران پلیس را بفرستند. این‌ها حوزه‌هایی هستند که تجویز الگوریتمی جایگزین قضاوت انسان می شود، و بنابراین افرادی که ممکن است شانس قضاوت عملی در این زمینه‌ها را داشته باشند، دیگر این امکان را نخواهند داشت.

موتورهای پیشنهادکننده¹⁴، که به طور فزاینده‌ای واسطه‌های¹⁵ رایج در مصرف مردم از فرهنگ¹⁶ هستند، انتخاب را محدود می‌کنند و آرامش را کاهش می‌دهند.¹⁷ شرکت‌ها با ارائه انتخاب‌های الگوریتمی انتخاب‌شده برای تماشا، خواندن، پخش آنلاین¹⁸ و بازدید بعدی، ذائقه انسان را با سلیقه ماشینی جایگزین می‌کنند. از یک جهت، این می‌تواند مفید باشد. بعلاوه، ماشین‌ها می‌توانند گستره وسیع‌تری از انتخاب‌ها را بررسی کنند در مقایسه با اینکه هر فرد خودش وقت یا انرژی لازم برای انجام آن بگذارد.

به نظر می‌رسد ظهور فناوری‌های با قدرت پیش‌گویی بالا بر نهادهای سیاسی اساسی نیز تأثیر بگذارد.

با وجود این، همزمان، «انتخاب و نمایش آنلاین اطلاعات»¹⁹ احتمالا بر اساس آنچه مردم در گذشته ترجیح داده‌اند، بهینه‌سازی می‌شود. ممکن است تصور کنیم که این خطر وجود دارد که انتخاب‌های افراد بواسطه گذشته آنها به روشی جدید و پیش‌بینی‌نشده محدود شود – این یک تعمیمی از «اتاق پژواک»²⁰ است که مردم در رسانه‌های اجتماعی می‌بینند.

به نظر می‌رسد ظهور فناوری‌های با قدرت پیش‌گویی بالا بر نهادهای سیاسی اساسی نیز تأثیر بگذارد. به عنوان مثال، ایده حقوق بشر بر اساس این بینش است که انسان‌ها کارگزاران و نمایندگانی باشکوه، غیرقابل پیش‌بینی و خودگردان هستند که آزادی‌های آنها باید توسط دولت تضمین شود. اگر بشریت – یا حداقل تصمیم‌گیری آن²¹ – قابل پیش بینی‌تر شود، آیا نهادهای سیاسی به همان شیوه به حمایت از حقوق بشر ادامه خواهند داد؟

کاملا قابل پیش‌بینی

همانطور که الگوریتم‌های یادگیری ماشین، شکل رایج از هوش مصنوعی «محدود» یا «ضعیف»²²، بهبود می‌یابند، و همانطور که آنها بر روی مجموعه داده‌های گسترده‌تر آموزش می‌بینند، بخش‌های بزرگتر زندگی روزمره به احتمال زیاد کاملا قابل پیش‌بینی می‌شود. پیش‌بینی‌ها بهتر و بهتر می‌شوند و در نهایت تجربیات مشترک را کارآمدتر و دلپذیرتر می‌کنند.

الگوریتم‌ها می‌توانند به زودی – اگر قبلاً این کار را نکرده‌اند – در مورد برنامه‌ای که می‌خواهید بعداً تماشا کنید و کدام نامزد شغلی را باید استخدام کنید، ایده بهتری در مقایسه با ایده شما، داشته باشند. یک روز، انسان‌ها حتی ممکن است راهی پیدا کنند که ماشین‌ها بتوانند این تصمیمات را بدون برخی از تعصباتی که معمولاً نشان می‌دهند، اتخاذ نمایند.
اما تا جایی که غیرقابل پیش‌بینی بودن بخشی از نحوه درک افراد از خود و بخشی از آنچه مردم در مورد خود دوست دارند است، بشریت در حال از دست‌دادن چیزی مهم است. همانطور که آنها بیشتر و بیشتر قابل پیش‌بینی می‌شوند، موجوداتی که در دنیای با واسطه هوش مصنوعی زندگی می‌کنند کمتر و کمتر شبیه ما می‌شوند.