حقوق رباتها
تلاشی برای تعیین جایگاه اخلاقی ساختههای هوشمند انسان
دیوید گانکل | پژوهشگر و استاد دانشگاه ایلینویز شمالی در زمینه مطالعات ارتباطی. تحقیقات و نوشتههای او به بررسی فرضیات فلسفی و پیامدهای اخلاقی حوزه فناوری اطلاعات و ارتباطات میپردازد.
بحث اخیر بین توماس متزینگر و تیم کرین در مورد جایگاه اخلاقی دستگاههای ساخته شده با فناوری هوش مصنوعی، بر طبق یک فرض اشتباه و پنهان پیش رفته است. فرضی که ارزش اخلاقی یک چیز را وابسته به ویژگیهای ذاتی او همچون فهم، توانایی در احساس درد و یا هر چیز دیگری میداند. این دیدگاه با رویکرد تقلیلگرایی که نسبت به مسائل دارد نمیتواند رابطه ما با دیگر موجودات را درک و توجیه کند. دیوید کانگل مینویسد، ما باید به تفکرات سنت قارهای و نظریههای آن در زمینه روابط برای بررسی جایگاه اخلاقی رجوع کنیم و بر اساس آن، رابطه خود را با ساختههای هوش مصنوعی شکل دهیم.
پایبندی به اخلاق یک امر شخصی میباشد. ما در برخورد با دیگران چه انسان، چه حیوان یا ربات؛ ناگزیر انتخاب میکنیم بین اینکه چه شخصی ارزش توجهمان را دارد و چه چیزی صرفاً مورد استفاده و حتی سواستفادهمان قرار میگیرد. این تصمیمات اغلب براساس برخی ویژگیهای ذاتی و بنیادین توجیه میشوند. این موضوع را میتوان در گفته مارک کوکلبرگ فیلسوف دید: “رویکرد مناسب برای توجیه جایگاه اخلاقی یک چیز، بررسی و سؤال در مورد میزان فهم یا توانایی رنج کشیدنش میباشد. اگر آن چیز دارای این شاخصه باشد، آنگاه میتوان برای آن یک جایگاه اخلاقی مشخص کرد.”
بحث اخیر توماس متزینگر و تیم کرین تصویر تقریباً کاملی از این روش و محدودیتهای آن ارائه میدهد. هر دوی آنها در این بحث (بدون اینکه متوجه آن باشند) به یک فرض مشابه رسیدند که توانایی فهم و ادراک عاملی است که مشخص میکند یک چیز صلاحیت داشتن جایگاه اخلاقی را دارد یا نه. اختلاف آن دو در این بود که آیا هوش مصنوعی توانایی رسیدن به فهم و درک را دارد؟ پاسخ متزینگر به این سؤال، مثبت بود ولی جواب کرین منفی. اما هر دوی آنها اشتباه میکردند که این سؤال میتواند جایگاه اخلاقی یک شیء را مشخص کند. همانطور که در ادامه توضیح خواهم داد که جایگاه اخلاقی، ارتباطی با “میزان درک و رنج” ندارد.
چرا ویژگیهایی مثل درد کشیدن یا درک محیط نمیتواند در تعیین جایگاه اخلاقی موثر باشد؟
سه مشکل در مشخص کردن جایگاه اخلاقی بر اساس معیارهایی مانند میزان درک و رنج وجود دارد.
۱. شناسایی: چگونه میتوان فهمید که دقیقا کدام ویژگیها برای دستیابی به جایگاه اخلاقی کافی است؟ به کدام ویژگیها بایستی توجه کرد؟ و به چه کسی این اختیار داده شده که این تصمیم را ایجاد و اجرا کند؟ تاریخ فلسفه اخلاق یک درگیری مداوم بر سر این موضوع با شاخصههای متفاوتی است که در زمانهای مختلف به رقابتی برای جلب توجه تبدیل شده. و در این روند، بسیاری از این شاخصهها (مثل سفیدپوست و مذکر بودن) که زمانی هم ضروری و هم کافی به نظر میرسیدند اکنون نادرست، تبعیضآمیز و یا هردو تلقی میشوند.
۲. تعریف: تعریف هر شاخصهای که انتخاب شود، سخت خواهد بود. برای مثال، توصیف میزان فهم دشوار است. همانطور که مکس ولمانز اشاره میکند، مشکل این است که این اصطلاح “معانی متعدد و متفاوتی برای افراد مختلف دارد و بنابراین یک معنای اصلی که مورد توافق اکثریت باشد وجود ندارد.” دیگر شاخصهها نیز تفاوت چندانی ایجاد نمیکنند. همانطور که دنیل دنت در مقاله “چرا نمیتوان کامپیوتری ساخت که درد را حس کند؟” نشان میدهد، رنج بردن نیز شاخصهای مبهم است. دلیل اینکه نمیتوان چنین کامپیوتری ساخت، محدودیتهای تکنولوژی نیست بلکه آن است که در وهله اول نمیتوان مشخص کرد که اصلا درد چیست. چیزی که دنت مشخص کرد این بود که خود مفهوم درد (چیزی که به نحوی در کامپیوترها درد تلقی خواهد شد) قراردادی، غیرقاطع و نامشخص است.
۳. تشخیص: در پاسخ به چالش دنت، مهندسان مکانیزمهایی را ساختهاند که پاسخهای احساسی باورپذیری را ترکیب میکند و سیستمهایی را ایجاد کردهاند که توانایی بروز علائم “درد” را دارند. اما آیا این درد واقعی است یا فقط آن را شبیهسازی کردهاند؟ (این همان نکتهای است که جان سیرل در آزمایش اتاق چینی خود به آن اشاره میکند.) حل این مسئله دشوار است، به ویژه به این دلیل که خاصیتی مانند رنج و یا تجربه آگاهانه از محیط بهطور مستقیم قابل بررسی نیست. فیلسوفها این مسئله را “مشکل ذهنهای دیگر” مینامند. حقایقی که برای ما قابل بررسیاند، تنها رفتار قابل مشاهده دیگران است. همانطور که دونا هاراوی آن را شرح میدهد، “ما نمیتوانیم به ذهن دیگران وارد شویم تا کل داستان را به صورت دقیق دریابیم.”
نگرش متفاوت
در پاسخ به این مشکلات، فیلسوفان اخلاق -به ویژه آنان که دیدگاه سنت قارهای دارند- برای حل چالش تعیین جایگاه اخلاقی روشهای دیگری را ارائه کردهاند. در نبود نام بهتری این روشها را “نگرش متفاوت” نامیدهاند. این جایگزینها سه شاخصه محوری دارند:
۱. وابسته به رابطه بودن: برطبق گفتههای امانوئل لویناس و دیگران، این طرز فکر میتواند وضعیت را به روال معمول تغییر دهد. جایگاه اخلاقی براساس ویژگیهای ذهنی و درونی از پیش تعیینشده مشخص نمیشود، بلکه براساس روابط اجتماعی بیرونی که قابل بررسی است مشخص میگردد. همانطور که ما با موجودات دیگر برخورد داریم و تعامل میکنیم (چه این دیگری انسان، یا حیوان و یا دستگاههای هوشمند باشد) این “دیگری” هم در رابطه با ما تجربه کسب میکند. تعیین جایگاه اخلاقی یک چیز وابسته به ماهیت آن نمیباشد بلکه نقش آن چیز در رابطه با ما و پاسخ ما به آن تعیین کننده است. (به اصطلاح لویناس: در مواجهه با دیگری)
این تغییر در دیدگاه (تغییری که رابطه اخلاقی را مقدم بر ویژگیهای هستیشناختی قرار میدهد) در آزمایشهای علوم اجتماعی متعددی تأیید شده است. مطالعاتی که در مورد نقش رایانه بهعنوان کنشگر اجتماعی که توسط بایرون ریوز و کلیفورد ناس انجام شد، نشان داد که کاربرها برای رایانه و دیگر دستگاههای دارای تکنولوژی، نقش اجتماعی مشابهی با انسان قائل میشوند و این هم به خاطر ارتباط اجتماعی است که بین آنها وجود دارد و مربوط به ویژگیهای ذاتی دستگاههای درگیر نمیشود. به عبارت دیگر، جایگاه اجتماعی ارتباطی به تواناییهای ذهنی ندارد. این نتایج بارها در “مطالعات سواستفاده از رباتها” تأیید شده و در این مطالعات، محققان به این نتیجه رسیدهاند که نمونههای انسانی پاسخهای احساسی به رباتها میدهند و بدون توجه به عملکرد درونی دستگاهها، ابراز نگرانی میکنند.
در پاسخ به چالشهای اخلاقی ناشی از هوش مصنوعی، ما باید مسئولیت خود، دنیای خود و دیگرانی را که در اینجا با آنها روبرو میشویم، بپذیریم.
۲. تجربی بودن: وقتی که رویکرد رابطهای را اتخاذ میکنیم، مشکل ذهنهای دیگر (دشواریِ دانستنِ آگاه بودن یا نبودن “دیگری” یا تواناییاش در رابطه با رنج) یک محدودیت اساسی در معرفتشناختی نیست. در واقع، تصمیمگیریهای اخلاقی در جهت عکس عمل میکند.. ویژگیهای درونی تعیین کننده نیستند، بلکه نتیجه تصمیماتیاند که در مواجهه با روابط اجتماعی با دیگران اتخاذ میشود. کارن باراد، محقق مدافع حقوق زنان، معتقد است که این رابطه هم از لحاظ زمانی و هم جایگاهی در درجه اول قرار دارد.
۳. متنوع بودن: در آخر باید گفت تقسیم دنیا به دو دسته موجودات آگاه که اهمیت دارند و چیزهایی که اهمیتی ندارند محصول تفکری اروپایی و مدرن است. بقیه فرهنگها که در دیگر عصرها و مکانها شکل گرفتهاند، جهان و موجودات آن را اینچنین دستهبندی نمیکنند. آنها برای تشخیص موجودات از اشیاء، نوع متفاوتی از نگریستن، ارزشگذاری و عمل را استفاده میکنند. معیار اخلاقی که کرین و متزینگر آن را درست میدانند (فرض مشترکی که آنها بهصورت تلویحی قبول دارند و به چالش نمیکشند) منجر به نوعی استعمار فکری میشود. اما در مقام قیاس، نگرش متفاوت، پذیرای نگرش و رفتار متنوع در مقابل دیگران است. (چه این دیگران ماهیت بیولوژیکی داشته باشند چه مصنوعی.) این بدان معنی نیست که سنتهای فلسفی که توسط کرین و متزینگر استفاده شدهاند، اشتباهاند. فقط به این معناست که این طرز نگرش، سبک خاصی از دانش موقعیتی است و نمیتوان آن را به همه افراد در هر موقعیت و مکانی تعمیم داد.
جایگاه اخلاقی هوش مصنوعی
در پایان، سوالی که برای تعیین جایگاه اخلاقی هوش مصنوعی مطرح میشود، موجودات مصنوعی را هدف نمیگیرد. مخاطب این سؤال ما هستیم. سؤال این است که ما با هم و با وجود تجربیات انسانی متفاوت، چگونه به هوش مصنوعی پاسخ خواهیم داد و آیا در مقابل دنیای خود مسئولیت پذیر خواهیم بود یا نه؟ در پاسخ به چالشهای اخلاقی ناشی از هوش مصنوعی، ما باید مسئولیت خود، دنیای خود و دیگرانی را که در اینجا با آنها روبرو میشویم، بپذیریم.
Robot rights
How we decide that ‘what’ should be ‘who’
David Gunkel | American academic and Presidential Teaching Professor of Communication Studies at Northern Illinois University. His research and publications examine the philosophical assumptions and ethical consequences of ICT.
The recent debate between Thomas Metzinger and Tim Crane about the moral standing of AI beings proceeded on the hidden and flawed assumption that the moral worth is determined by the intrinsic properties of a thing – by its consciousness or suffering or whatever else. This reductive approach does not capture how we relate to other beings. We must turn the to the continental tradition and its relational theories of moral standing to ground our relationship with our AI peers, writes David Gunkel.
Ethics is an exclusive undertaking. In dealing with others—whether human, animal, or robot —we inevitably make a decision between who is worthy of our consideration and what remains a mere thing to be used and even abused. These decisions are often justified on the basis of some fundamental and intrinsic property. “The standard approach to the justification of moral status is,” as the philosopher Mark Coeckelbergh [2012, p. 13] explains, “to refer to … properties of the entity in question, such as consciousness or the ability to suffer. If the entity has this property, this then warrants giving the entity a certain moral status.”
The recent debate between Thomas Metzinger and Tim Crane provides a near-perfect illustration of this method and its limitations. Both philosophers proceed—almost without being conscious of it—on the shared understanding or unquestioned assumption that consciousness is the determining factor for something to have moral status. What they contest is whether AI can ever achieve consciousness. Metzinger says yes; Crane says no. But both are wrong about this question determining moral status. Moral status is, as I explain below, a “no brainer.”
Why properties like suffering or consciousness cannot determine moral status?
There are three problems with deciding questions of moral status based on criteria such as suffering or consciousness.
1) Identification – How does one work out which exact properties are enough for moral status? Which ones count? And who has been granted the power to institute and enforce this determination? The history of moral philosophy is an on-going struggle over this matter with different properties vying for attention at different times. And in this process, many properties that once seemed both necessary and sufficient—like being white and male—have turned out to be spurious, prejudicial or both.
2) Definition – Whatever property one chooses, it is going to be hard to define. Consciousness, for example, is persistently difficult to characterize. The problem, as Max Velmans [2000, p. 5] points out, is that this term unfortunately “means many different things to many different people, and no universally agreed core meaning exists.” Other properties do not do much better. Suffering is just as ambiguous, as Daniel Dennett demonstrates in the essay “Why You Cannot Make a Computer That Feels Pain” [1998]. The reason you cannot make a computer that feels pain is not some technological limitation, it is because we are unable to decide what pain is in the first place. What Dennett demonstrates is that the very concept of pain (the thing that would be somehow brought to life in the computer) is arbitrary, inconclusive, and indeterminate.
3) Detection – As if responding to Dennett’s challenge, engineers have constructed mechanisms to synthesize believable emotional responses and systems capable of giving signs of “pain.” But is this “real pain” or just a simulation of something that looks like pain? (Sound familiar? This is the point of John Searle’s Chinese Room thought experiment.) Resolving this is difficult, especially because a property like suffering or conscious experience is not directly observable. This is what philosophers commonly call “the problem of other minds”—the fact that all we have to go on are observable behaviors. We cannot, as Donna Haraway [2008, p. 226] describes it, “climb into the heads of others to get the full story from the inside.”
Thinking Otherwise
In response to these problems, moral philosophers—especially in the continental tradition—have advanced other methods for resolving the question of moral status that can be called, for lack of a better description, “thinking otherwise.” These alternatives have three pivotal characteristics:
1) Relational – Following Emmanuel Levinas and others, this way of thinking flips the script on the usual procedure. Moral status is decided not on the basis of pre-determined subjective or internal properties but according to objectively observable, extrinsic social relationships. As we encounter and interact with other entities—whether they be another human person, a non-human animal, or an intelligent machine—this ‘other’ is experienced in relationship to us. The question of moral status does not depend on what something is but on how it stands in relationship to us and how we respond to it – ‘in the face of the other’ (to use the Levinasian terminology).
This shift in perspective—a shift that puts the ethical relationship before ontological properties – has been confirmed in numerous social science experiments. The computer as social actor (CASA) studies undertaken by Byron Reeves and Clifford Nass [1997] demonstrated that human users will accord computers and other technological objects a social standing similar to that of another human person and that this is the result of social interaction, irrespective of the intrinsic properties of the entities involved. Social standing, in other words, is a mindless operation. And these results have been consistently verified in “robot abuse studies” (an unfortunate moniker but also a questionable HRI research practice) in which researchers have found that human subjects respond emotionally to robots and express empathic concern for the machines irrespective of the inner workings of the device.
In responding to the moral challenges posed by AI we are called to take responsibility for ourselves, for our world, and for those others whom we encounter here.
2) Empirical – When taking the relational approach, the problems of other minds—the difficulty of knowing whether the ‘other’ is conscious or capable of suffering—is not a fundamental epistemological barrier. In fact, moral decision making operates in the opposite direction. Internal properties do not come first, rather they are the result of decisions made in the face of social interactions with others. As the feminist STS researcher Karen Barad [2007, p. 136-7] has argued, the relationship comes first—in both temporal sequence and status.
3) Diverse – Finally, dividing the world into conscious beings who matter and mere things that do not matter is the product of a particular European and modern way of thinking. Other cultures, distributed across time and space, do not divide-up the world in this binary fashion. They separate the who from the what according to other ways of seeing, valuing, and acting. The moral standard normalized by Metzinger and Crane—the common understanding that they tacitly share and do not question— perpetrates a kind of intellectual colonialism. Thinking otherwise, by comparison, is open to diverse ways of thinking about and responding to others— whether those others are biological or artificially made. This is not to say that the philosophical traditions mobilized by Metzinger and Crane are wrong. It is simply to recognize that this way of thinking is a particular kind of situated knowledge. It is not some eternal Platonic form that is valid for all peoples, in all places, and for all times.
The Moral Status of AI
In the end, the question concerning the moral status of AI is not really about the artifact. It is about us and who is included that first-person plural pronoun, “we.” It is about how we decide—together and across the differences of human experience—to respond to and take responsibility for our world. In responding to the moral challenges posed by AI we are called to take responsibility for ourselves, for our world, and for those others whom we encounter here.