استدلال‌هایی اخلاقی له و علیه ربات‌های قاتل

مقدمه

شنیدن اخباری با مضمون «رونمایی از سلاح خودآیین جدید»  روزبه‌روز عادی‌تر می‌شود. در عین حال، کسانی روز به روز این موقعیت را ترسناک‌تر ارزیابی می‌کنند. بسیاری معتقدند که این نسل جدید سلاح‌ها اساساً متفاوت با سلاح‌های قبلی هستند، چه اینکه نقش انسان در این سلاح‌ها بسیار کم است. این سلاح‌ها خود تصمیم می‌گیرند که چه کسی یا چه چیزی را هدف بگیرند و سپس علیه آن اقدام می‌کنند. این است که دولت‌هایی در پی توسعه و ساخت و البته، فروش این سلاح‌ها و طبعاً مخالف منع قانونی آنها هستند و دولت هایی در تلاش برای ایجاد ممنوعیت ساخت آنها؛¹ گروه‌هایی در پی تأکید بر مزیت‌های این سلاح‌ها هستند و انجمن هایی در پی محکومیت و هشدار دادن درباره عواقب نابودگر آن.

با وصفی که گذشت، طبیعی است که بحث‌ها در این باره تنها محدود به محافل دانشگاهی نیست؛ اگرچه ادبیات مفصلی در حوزه‌های مربوط (به ویژه در فلسفه و حقوق) شکل گرفته است، سازمان‌هایی مانند «دیدبان حقوق بشر» و «صلیب سرخ» نیز پیوسته مطالب این حوزه را پوشش می‌دهند. به همین ترتیب، در رسانه‌های عمومی‌تر مانند نیویورک تایمز و گاردین نیز می‌توان مطالبی در ستایش یا مذمت این سلاح‌ها یافت، اما این دعوا درباره چیست؟ و طرفین دعوا چه می‌گویند؟ در اینجا هدف مرور بعضی ملاحظات اخلاقی در این باره است.

از خودکار به خودآیین

آنچه امروزه با عنوان «سامانه سلاح خودآیین»² شناخته می‌شود، به نوعی مبتنی بر تفکیکی میان خودآیین³ و خودکار⁴ است. دیرزمانی است که با مراحل «خودکار» در ماشین‌ها آشناییم. همه ماشین‌های پیچیده‌ای که اطراف ما هستند، مراحلی «خودکار» دارند که بدون دخالت ما انجام می‌شوند. خودرویی که می‌رانیم بسیار مراحلی دارد که بی‌دخالت ما کار می‌کنند، اما، در نهایت، بی‌حضور و فعالیت انسان خودرو کار نمی‌کند. در سلاح‌ها نیز این مقوله آشناست. کافی است فرد ماشه‌ای را فشار دهد تا تفنگ شلیک کند و پوکه را بیرون بیندازد و فشنگ جدید را جایگزین کند و سلاح دوباره آماده شلیک باشد. این مراحل «خودکار» و بدون دخالت انسان انجام می‌شوند، اما انسان و فعالیت او بخشی اساسی از فرایند عملکرد این سلاح‌هاست.

حال، در نظر بگیرید – با بهره‌گیری از هوش مصنوعی – قابلیت‌های ماشین افزایش یابد و در مقابل دخالت انسان در ماشین کم‌تر و کم‌تر شود. بدین ترتیب، می‌توانیم خودرویی داشته باشیم که «خودران» باشد؛ نه‌تنها تک‌تک تصمیم‌های چنین خودرویی را انسان نمی‌گیرد، بلکه خودرو در مهم‌ترین عملکردها (سرعت یا جهت حرکت) مستقل از انسان عمل می‌کند. به بیانی، انسان داخل فرایندهای عملکرد خودرو نیست، بلکه خارج از آن است.⁵ بدین ترتیب، اگر خودرو از راه دور کنترل شود، خودروی صرفا بدون سرنشین است. در این صورت، بسیاری از عملکردها «خودکار» هستند، اما انسان همواره نقش خود را در عملکردهای خودرو ایفا می‌کند – همه تصمیم‌ها و دستورها از جانب انسان است، اما خودروی خودران یا «خودآیین» اساساً مستقل از انسان کار می‌کند و عملکردهایش منتظر دستورات انسانی نیست یا دست‌کم این چیزی است که حالت آرمانی خودروهای خوران به نظر می‌رسد.

به همین ترتیب، «سامانه سلاح خودآیین» آن سامانه و سلاحی است که افزون بر فرایندهای «خودکار»، از قابلیت‌هایی مضاعف برخوردار و بدین ترتیب «خودآیین» است.⁶ باید توجه کنیم که بحثی که در این حوزه درگرفته راجع به «سلاح» خودآیین است، به این معنا که خودآیینی در حوزه عملکردهای اساسی سلاح باشد، مانند انتخاب هدف و تشخیص اقدام علیه او.⁷ بدین ترتیب، نزاع حاضر درباره روایی یا ناروایی استفاده از هوش مصنوعی در بخش پرواز یا نحوه عبور از موانع نیست، بلکه چالش آنجاست که خود سلاح هدف را برگزیند و برای مثال، تصمیم به کشتن او بگیرد. این است که گاه به این سلاح‌ها «ربات قاتل» می‌گویند؛ عنوانی که به ویژه مخالفان این سلاح‌ها از آن استفاده می‌کنند.⁸ گویی ما صرفا این سلاح را می‌نویسیم و می‌سازیم و روانه جنگ می‌کنیم. باقی به عهده خود سلاح است.

ابعاد فلسفی

در کنار مسائل فنی و حقوقی، بحشی از سؤالات راجع به این موضوع فلسفی هستند و از آن میان قسم مهمی را سؤالات مرتبط به فلسفه اخلاق تشکیل می‌دهند. در ادامه، به نمونه‌هایی از این سؤالات می‌پردازیم. پیش از آن، بد نیست به چند دسته سؤال دیگر اشاره شود.

ماشین «هوشمند»

«ربات‌های قاتل»، در تصویری اولیه، نوعی ماشین هوشمند هستند. در اینجا بحثی کلی این است که (الف) منظور از هوشمندی چیست و (ب) آیا ماشین هوشمند امکان دارد؟

…