مسائل اخلاقی ماشین‌های خودران هنوز در هاله‌ای از ابهام قرار دارند

فرض کنید اواخر شب است و شما در جاده‌ای تاریک رانندگی می‌کنید. ناگهان کودکی به وسط خیابان می‌دود. واکنش شما چیست؟ اغلب به‌طورغریزی از مسیر منحرف شده و با به‌خطر‌انداختن امنیت خود جان او را حفظ می‌کنید.
این کار مناعت طبع و ازخودگذشتگی شما را نشان می‌دهد. اما آیا می‌خواهید که وسیلهٔ نقلیهٔ خودران شما نیز همین کار را انجام دهد؟

این سوال که ساده و پیش‌پاافتاده به نظر می‌رسد، در یکی از شماره‌های مجله ساینس¹ مطرح شده است. البته این موضوع هم به‌نوعی مانند دوراهی معروف تراموا یا همان واگن برقی است و به‌زودی حل خواهد شد. وسایل نقلیهٔ خودران به‌زودی عرضه می‌شوند ولی باید به‌گونه‌ای برنامه‌ریزی شوند که بدانند در مواقع اضطراری باید چه‌کار کنند.

یک تیم تحقیقاتی به رهبری ایاد رهوان² از موسسهٔ فناوری ماساچوست³ می‌گوید که این مسئله، چالش بزرگی برای خودروسازها خواهد بود.

مجموعه‌ای از مطالعات نشان می‌دهد که عموم مردم استدلال “فایده‌گرایانه” را می‌پذیرند. استدلال فایده‌گرایانه چنین می‌گوید: «خودروها باید طوری برنامه‌ریزی شوند که تاحدِّامکان جان افراد را نجات دهند.»

چگونگی ساختن خودروهای خودران بر اساس اصول اخلاقی، یکی از چالش‌برانگیزترین مسائل هوش مصنوعی امروزی است.

بااین‌حال وقتی از آن‌ها سؤال شد که شخصاً چه چیزی را می‌خرند، وسیلهٔ نقلیه‌ای را ترجیح می‌دادند که ایمنی سرنشینان خود را در اولویت قرار می‌دهد. ازطرفی دولت، پروتکلی تصویب کرد که خودروسازها را ملزم می‌کرد تا هنگام ساخت خودروهایشان از آن پیروی کنند. این پروتکل، همان رویکرد حفظ اکثریت بود؛ یعنی اینکه خودروها، هنگام وقوع سانحه، جان گروهی را نجات دهند که تعدادشان بیشتر است. پس از ابلاغ این رویکرد به مردم، اشتیاق افراد برای خرید خودروهای خودران، به‌طورقابل‌توجهی کاهش یافت.

محققان می‌گویند: “چگونگی ساختن خودروهای خودران بر اساس اصول اخلاقی، یکی از چالش‌برانگیزترین مسائل هوش مصنوعی امروزی است. در حال حاضر، به نظر می‌رسد هیچ‌راهی برای طراحی الگوهایی که ارزش‌های اخلاقی و منافع شخصی را با هم تطبیق دهند، وجود ندارد.”

رهوان و همکارانش ژان فرانسوا بونفون⁴ و عظیم شریف⁵ شش مطالعه را توصیف می‌کنند که همگی به صورت آنلاین از طریق ترک مکانیکی آمازون⁶ انجام شده است. در مرحله اول، ۱۸۲ شرکت‌کننده “شدیداً موافق بودند که اخلاقی‌تر، آن است که به‌طورکلی هنگام وقوع حادثه، وسایل نقلیهٔ خودران، جان اکثریت را نجات دهند؛ حتی اگر لازم باشد که مسافران خود را قربانی کنند.”

مطالعهٔ دیگری نشان داد که حتی اگر «شما و یکی از اعضای خانواده» در خودرو باشید، تا زمانی که پای نجات جان چندین عابر پیاده وسط باشد، این موضوع همچنان صدق می‌کند؛ یعنی جان اکثریت حفظ شود. بااین‌حال، ۴۵۱ شرکت‌کننده “وقتی تصور می‌کردند که ممکن است در یک سانحه، خود و اعضای خانواده‌شان برای منفعتی بزرگ‌تر قربانی شوند”، احتمال بسیار کمتری می‌دادند که خودرویی خودران خریداری کنند.

در مطالعهٔ دیگری، ۳۹۳ شرکت‌کننده “تمایلی نداشتند به پذیرش آن پروتکل حفظ اکثریتی” که خودروسازها را ملزم می‌کرد محصولات خود را طوری برنامه‌ریزی کنند که کمترین میزان تلفات را داشته باشند. “شرکت‌کنندگان، کمتر احتمال می‌دادند که یک وسیلهٔ نقلیهٔ خودران را آن‌هم با چنین مقرراتی خریداری کنند.”

به عقیده محققان، این امر نشان می‌دهد که چنین مقرراتی می‌تواند به‌طورقابل‌توجهی «پذیرش» خودروهای خودران را به تأخیر بیندازند. در نظر آن‌ها این وضعیت، مایهٔ تأسف است؛ چرا که خودروهای خودران، بسیار ایمن‌تر از آن‌هایی‌ست که خودِ انسان‌ها می‌رانند و با وجود تعداد بیشتری از آن‌ها در جاده‌ها، جان افراد بیشتری حفظ خواهد شد.

درمجموع، نتایج نشان می‌دهد که در وهلهٔ اول، مردم ترجیح می‌دهند که سوار خودروهای خودرانی شوند که هنگام وقوع سانحه، جان اکثریت را حفظ می‌کند. ولی درعمل، به‌عنوان سرنشین، خودروهای خودرانی را می‌خواهند که هنگام وقوع حادثه، از جان مسافران خود صیانت می‌کند. ازطرفی، به‌عنوان عابرین پیاده، دوست دارند که جان افراد پیاده حفظ شود.

حقیقتاً که این موضوع در نوع خودش معضلی است. اگر می‌خواهید سؤالات اخلاقی خاص را با جزئیات بیشتری بررسی کنید می‌توانید به پایگاه http://moralmachine.mit/edu مراجعه نمایید. امید است که این بررسی‌ها روشنی‌بخش تفکرتان باشند.