عاملهای مولد؛ گامی تازه در شبیهسازی رفتار انسان
مقدمه
هوش مصنوعی در سالهای اخیر از مرحلۀ پاسخدادن به پرسشها و تولید محتوا فراتر رفته و به سمت ایجاد سامانههایی حرکت کرده است که میتوانند اطلاعات گذشته را در خود نگه دارند، نوعی جمعبندی دربارۀ تجربههای پیشین داشته باشند، برای آینده برنامهریزی کنند و در تعامل با دیگران رفتارهایی نسبتاً منسجم نشان دهند. در چنین شرایطی، دیگر پرسش فقط این نیست که «هوش مصنوعی چه کاری میتواند انجام دهد؟»؛ پرسش مهمتر این است که وقتی یک ماشین رفتاری شبیه انسان بروز میدهد، دقیقاً چه نیمۀ نامرئیای همچنان آن را از انسان متمایز نگه میدارد؟
مقالۀ «عاملهای مولد: شبیهسازیهای تعاملی از رفتار انسان» نوشتۀ جون سونگ پارک و همکارانش (پارک و همکاران، ۲۰۲۳) یکی از تلاشهای مهم برای پاسخ عملی به این پرسش است. در این مقاله، پژوهشگران محیطی مجازی به نام Smallville ساختند و ۲۵ عامل هوش مصنوعی را در آن قرار دادند؛ عاملهایی که هرکدام ویژگیها، علایق، روابط و تجربههای خاص خود را داشتند و میتوانستند در یک محیط اجتماعی مشترک با یکدیگر تعامل کنند.
اهمیت این پژوهش فقط در ساخت یک شهر مجازی یا تولید گفتوگوهای طبیعی خلاصه نمیشود. نکتۀ جالبتر این است که پژوهشگران سعی کردند بعضی از عناصری را که در رفتار روزمرۀ انسان نقش دارند، در معماری این عاملها بازسازی کنند: حافظه، تأمل و برنامهریزی. همینجا پای یک پرسش اخلاقی به میان میآید: آیا شبیهسازی این ویژگیها یعنی ساختن موجودی شبیه انسان، یا فقط ساختن سامانهای که میتواند رفتار انسان را با درجهای از دقت تکرار کند؟
موضع خود نویسندگان در اینباره محتاط است. آنها صریحاً میگویند بهکاربردن عبارتهایی مانند «انجامدادن عمل» دربارۀ عاملها به معنای نسبتدادن عاملیت انسانی به آنها نیست؛ هدف اصلی، تولید رفتاری باورپذیر است، نه ساختن موجودی دارای عاملیت واقعی.
از این منظر، این مقاله بیش از آن که از «انسانشدن ماشین» حکایت داشته باشد، باید بهعنوان گامی مهم در جهت شبیهسازی محاسباتی الگوهای رفتاری انسان تلقی کرد؛ گامی که هم ظرفیتهای فنی قابلتوجهی دارد و هم پرسشهای تازهای دربارۀ اخلاق، مسئولیت، اعتماد و رابطه انسان و ماشین ایجاد میکند.
عامل مولد چگونه رفتار میکند؟
عاملهای مولد در این پژوهش صرفاً مجموعهای از پاسخهای از پیش تعیینشده نیستند. آنها در طول زمان، اطلاعاتی از محیط و تعاملهای خود دریافت میکنند؛ این اطلاعات در ساختاری به نام «جریان حافظه» ذخیره میشود. سپس عامل میتواند بر اساس این تجربهها، برخی خاطرات را بازیابی کند، دربارۀ آنها تأمل کند و در نهایت برای آینده برنامهریزی کند. به این ترتیب، رفتار عامل از یک سو تحت تأثیر محرک لحظهای قرار دارد و از سوی دیگر، به تجربههای قبلی و برداشت آن از موقعیت وابسته است.
سه جزء اصلی این معماری عبارتاند از:
- حافظه: عامل در طول زمان، مشاهدات و تجربههای خود را ذخیره و نگهداری میکند.
- تأمل: عامل از میان خاطرههای خود، موضوعهای مهمتر را استخراج میکند و به آنها معنا و اهمیت بیشتری میدهد.
- برنامهریزی: عامل بر اساس وضعیت فعلی، خاطرات و تأملهای خود، برنامهای عملی برای آینده تولید میکند.
ترکیب این سه عنصر باعث میشود که رفتار عاملها نسبت به سامانههایی که فقط به وضعیت فعلی واکنش نشان میدهند، منسجمتر و شبیهتر به رفتار انسان باشد. پژوهشگران نیز در آزمایشهای خود نشان دادند که حذف هر یک از این اجزا، میزان باورپذیری رفتار عاملها را کاهش میدهد.
اما همین ویژگی از منظر اخلاقی موضوع مهمی را مطرح میکند. اگر یک فرایند دربارۀ «حافظه» داشته باشیم، باید پرسید این حافظه دقیقاً چیست و چه نسبتی با حافظه انسانی دارد؟ حافظۀ عامل در حقیقت دادهای است که برای تولید رفتار بهتر به کار میرود؛ بنابراین نباید آن را با تجربۀ زیستۀ انسان یکی دانست.
انسان خاطره را به شکل اطلاعات و در پیوند با تجربه، احساس، بدن و جایگاه خود در روابط و تاریخ شخصی تجربه میکند. از این رو، شبیهسازی حافظه به معنای داشتن تجربۀ انسانی نیست.
همین تمایز در بحثهای اخلاقی هوش مصنوعی اهمیت زیادی دارد؛ زیرا هرچه رفتار یک سامانه، انسانیتر و مؤثرتر به نظر برسد، کاربران بیشتر وسوسه میشوند که احساس، قصد یا حتی ذهن را به آن نسبت دهند.
Smallville؛ جامعهای کوچک برای آزمایش رفتار اجتماعی
در این آزمایش، پژوهشگران شهر مجازی کوچکی به نام Smallville ساختند و ۲۵ عامل مولد را در آن قرار دادند. این عاملها در خانهها و مکانهای مختلف رفتوآمد میکردند، با یکدیگر گفتوگو داشتند، اطلاعات ردوبدل میکردند و بر اساس تجربههای تازه، رفتارهای آیندۀ خود را تغییر میدادند.
نکتۀ جذاب این بود که پژوهشگران به عاملها نگفته بودند قرار است دقیقاً چه اتفاقی بیفتد. آنها «عقل انسانی» نداشتند؛ اما با کمک حافظه، تأمل و برنامهریزی، بخش زیادی از رفتارهای روزمرۀ خود را تولید میکردند؛ آنچه در محیط میدیدند، در حافظه ثبت میکردند؛ برخی از این خاطرهها را برای خود معنادارتر میکردند و بر اساس آنها برای کارهای بعدی برنامه میریختند.
نتیجه گاهی فراتر از یک گفتوگوی ساده بود. برای مثال، «ایزابلا» تصمیم گرفت در کافه هابز (Hobbs cafe) یک مهمانی روز ولنتاین برگزار کند. این تصمیم فقط در سطح همان عامل باقی نماند؛ اطلاعات مربوط به مهمانی در میان سایر عاملها منتشر شد. آگاهی از جشن، از تنها یک عامل (۴ درصد جمعیت) به ۱۳ عامل (۵۲ درصد جمعیت) رسید؛ یعنی بهجز ایزابلا، تا پایان شبیهسازی ۱۲ عامل دیگر از این مهمانی باخبر شدند.
نمونۀ دیگر، انتشار خبر نامزدی «سم» برای شهرداری بود؛ آگاهی از آن از یک عامل (۴ درصد) به هشت عامل (۳۲ درصد) رسید. هیچیک از این دو انتشار با دخالت کاربران رخ نداد؛ عاملها با گفتوگوهای روزمرۀ خود این اخبار را منتقل کردند.
شایان ذکر است که دو عدد ۱۳ و ۱۲ از دو روش سنجش متفاوت به دست میآیند: ردیابی مسیر انتشار دعوتنامه، ۱۲ دریافتکننده را ثبت میکند؛ در حالی که خوداظهاری عاملها این تعداد را به ۱۳ نفر میرساند.
این روابط نوپدید اجتماعی بدون تصمیم مستقیم و ازپیشطراحیشدۀ پژوهشگران شکل گرفتند و بهنوعی از دل تعاملات سیستمها برآمدند. این موضوع از نظر اخلاقی نیز قابلتوجه است. وقتی چند عامل هوشمند در یک محیط مشترک قرار میگیرند، رفتار یکی فقط رفتار یک ماشین نیست؛ بلکه بخشی از یک شبکۀ تعامل مصنوعی است که میتواند بر رفتار دیگران نیز اثر بگذارد.
این یعنی مسئلۀ گسترش اطلاعات نادرست، تصمیمهای آسیبزننده یا شکلگیری الگوهای معیوب در چنین شبکهای، لزوماً پاسخ سادهای ندارد؛ اما هرچه عاملهای خودکار گستردهتر شوند، پرداختن به این مسئله پیچیدهتر و ضروریتر خواهد شد.
آیا عاملهای مولد واقعاً مانند انسان رفتار میکنند؟
تمام اینها مدعای پژوهشگران است؛ اما آیا از دید یک انسان واقعی نیز این رفتارها طبیعی و باورپذیر به نظر میرسند؟ برای پاسخ به این پرسش، آنها فقط به مشاهدۀ رفتار عاملها اکتفا نکردند و چند نسخۀ متفاوت از سیستم را با یکدیگر مقایسه کردند:
- در یک نسخه، عامل از هر سه قابلیت اصلی، یعنی مشاهده و حافظه، تأمل و برنامهریزی، بهره میبرد.
- در نسخههای دیگر، یک یا چند قابلیت حذف شده بود.
- علاوه بر این، ۲۵ کارگر مرجع (Crowd Worker) نیز نقش پیشنهاددهندۀ چند رفتار باورپذیر را داشتند؛ یعنی پس از بازبینی مشاهدات هر عامل و جریان حافظۀ او، تعیین میکردند که یک انسان واقعی در آن وضعیت چه رفتاری انجام میداد.
سپس این نسخهها را ۱۰۰ ارزیاب انسانی از پلتفرم Prolific قضاوت کردند. نتیجه روشن بود: عاملهایی که از معماری کامل برخوردار بودند، از دید انسانها بهمراتب باورپذیرتر بودند.
بر اساس نظام امتیازدهی: TrueSkill
| امتیاز | نسخه |
| ۲۹٫۸۹ | معماری کامل (حافظه + تأمل + برنامهریزی) |
| ۲۶٫۸۸ | بدون تأمل (No Reflection) |
| ۲۵٫۶۴ | بدون تأمل و بدون برنامهریزی |
| ۲۲٫۹۵ | پاسخ مرجع انسانی (Crowd Worker) |
| ۲۱٫۲۱ | نسخۀ پایه (بدون این سه قابلیت) |
نتایج آزمون کروسکال-والیس نشان داد که تفاوت معناداری بین گروهها وجود دارد با این ملاحظه که میان شرط انسانی مرجع و نسخۀ پایه، تفاوت معناداری مشاهده نشد.
معنای این یافته آن بود که ترکیب حافظه، تأمل و برنامهریزی واقعاً در تولید رفتار اجتماعی باورپذیر نقش دارد؛ اما در همینجا یک «اما»ی مهم خود را نشان داد؛ و اینجا دقیقاً قلب گزارش است.
جایی که شبیهسازی دچار خطا میشود، باورپذیر بودن به معنای بینقص بودن نیست.
پژوهشگران در طول شبیهسازی، خطاهای رفتاری جالب و گاه عجیب ثبت کردند. عاملها گاهی خاطرههای خود را اشتباه بازیابی میکردند؛ برای نمونه، «راجیو« (Rajiv) با اینکه قبلاً خبر نامزدی سم را شنیده بود، در گفتوگویی دیگر مانند کسی رفتار نکرد که آن خبر را در اختیار دارد. «تام» (Tom) نیز با اینکه دعوتنامهای برای جشن ولنتاین دریافت نکرده بود، به دلیل بازیابی ناقص خاطره، در توصیف وضعیت خود دچار تناقض شد.
در موارد دیگر، عاملها جزئیاتی را به یک خاطره اضافه میکردند که اساساً در اطلاعات اولیه وجود نداشت. رای نمونه، ایزابلا دربارۀ سم اضافه کرد که شهردار خوبی خواهد شد؛ جملهای که از تجربۀ واقعی او در شهر ناشی نمیشد و برساختۀ جریان حافظه بود.
حتی رفتارهای اجتماعی آنها نیز همیشه طبیعی نبود. «می» (Mei) با همسرش بیش از حد رسمی و مطیعانه صحبت میکرد؛ ایزابلا تقریباً هرگز «نه» نمیگفت و بهتدریج علاقههای دیگران را بهجای علاقههای خودش میپذیرفت.
درک عاملها از قواعد محیط نیز کامل نبود. با اینکه سرویس بهداشتی خوابگاه برای یک نفر طراحی شده بود، چند عامل همزمان وارد آن میشدند؛ و با اینکه مغازهها حدود ساعت ۵ عصر بسته میشدند، برخی عاملها بعد از آن ساعت نیز وارد مغازهها میشدند.
این خطاها از نظر اخلاقی بسیار مهماند. اگر یک عامل بتواند دربارۀ گذشتۀ خود صحبت کند و خاطرههایش را طبیعی روایت کند، کاربر ممکن است تصور کند آن اطلاعات دقیق و قابل اعتماد است؛ اما آزمایش نشان میدهد حتی یک عامل بسیار باورپذیر نیز ممکن است چیزی را به یاد بیاورد که مبنای واقعی ندارد.
پارادوکس باورپذیری؛ وقتی شبیهسازیِ انسان، مسئولیت اخلاقی ما را سنگینتر میکند
در ارتباط انسانی، فرد معمولاً میداند که طرف مقابل نیز یک انسان است و خاطرۀ او ثمرۀ تجربه شخصی؛ اما در تعامل با عامل مولد، کاربر باید بداند که آنچه «خاطره» نامیده میشود، بخشی از یک سازوکار محاسباتی است که ممکن است دچار خطا شود.
هرچه ماشین به تقلید طبیعیتر از رفتار انسان نزدیک شود، وظیفۀ ما برای شفافیت نیز سنگینتر میشود. این پارادوکس در اینجا نهفته است که هرچه ماشین در شبیهسازی انسان بهتر عمل کند، مسئولیت ما برای نشاندادن غیرانسانبودن آن بیشتر میشود.
روابط شبهاجتماعی و وابستگی عاطفی
هرچه یک عامل بتواند رابطهای باورپذیرتر برقرار کند، احتمال شکلگیری وابستگی عاطفی یا رابطۀ یکطرفه نیز بیشتر میشود. اگر کاربر تصور کند عامل او را میشناسد، گذشته را به یاد دارد و برای او اهمیت قائل است، ممکن است بهتدریج رابطهای انسانی با چیزی برقرار کند که در واقع فاقد تجربۀ انسانی است.
نویسندگان مقاله نیز به همین خطر اشاره کردهاند و شکلگیری روابط شبهاجتماعی (parasocial) را از جمله نگرانیهای اخلاقی درباره عاملهای مولد میدانند. راهکار پیشنهادی آنها، افشای صریح ماهیت محاسباتی این سامانهها است.
اقناع هدفمند و دستکاری
سیستمی که میداند چه موضوعی برای شما جذاب است، چه چیزی شما را نگران میکند و چه ادبیاتی بیشتر بر شما اثر میگذارد، در موقعیت حساسی میان کمک و اثرگذاری قرار میگیرد؛ جایی که مرز میان راهنمایی آگاهانه و دستکاری ناخودآگاه میتواند کمرنگ شود.
مسئولیت
اگر عامل تصمیمی بگیرد که پیامد ناخواسته و نامطلوبی داشته باشد، چه کسی مسئول است؟ نمیتوان پاسخ را به خودِ ماشین واگذار کرد. عامل از یک دستور لحظهای فراتر عمل میکند؛ اما استقلال عملیاتی به معنای داشتن مسئولیت اخلاقی نیست.
کسی که اهداف سیستم را طراحی کرده و کاربری که آن را در اختیار میگیرد و به شیوهای خاص به کار میبرد، باید در زنجیرۀ مسئولیت باقی بمانند. هرچه سیستم پیچیدهتر میشود، ضرورت حفظ این زنجیره بیشتر است و نباید پیچیدگی سیستم بهانهای برای گمشدن مسئولیت شود.
محدودیتها؛ چرا هنوز با انسان فاصله داریم؟
صادقانهترین بخش پژوهش، شاید همان بخش مربوط به خطاها باشد. عاملها گاهی اطلاعات را اشتباه به یاد میآورند، جزئیات ساختگی به خاطرههای خود اضافه میکنند، بیش از حد مطیع یا رسمی رفتار میکنند و درک کاملی از قواعد فیزیکی و اجتماعی محیط ندارند.
افزون بر این، شبیهسازی چنین جامعهای از عاملها از نظر محاسباتی هزینهبر است؛ زیرا هر عامل به معنای فراخوانی مکرر مدلهای زبانی بزرگ و انجام عملیات مربوط به حافظه، تأمل و برنامهریزی است. حتی از نظر فنی، ساخت جامعهای بزرگ با چنین معماری [پیچیدهای] ساده نیست.
این یعنی آنچه در Smallville ساخته شده است، بیشتر یک مدل محاسباتی از رفتار اجتماعی است تا یک جامعۀ انسانی واقعی؛ شاید بتوان گفت که همین تعدیل، بخشی از ارزش واقعی پژوهش باشد.
آیندۀ عاملهای مولد؛ انسان در مرکز یا ماشین در جای انسان؟
اگر عاملهای مولد در آینده پیشرفتهتر شوند – که احتمالاً خواهند شد – دامنۀ کاربردشان نیز میتواند به حوزههایی مانند شبیهسازی اجتماعی، طراحی خدمات، محیطهای مجازی، رباتهای اجتماعی و دستیارهای شخصی گسترش یابد.
اما این پیشرفت نباید با جایگزینکردن انسان اشتباه گرفته شود. خود نویسندگان نیز تأکید میکنند که عاملهای مولد بهتر است در بسیاری از موقعیتها نقش مکمل و کمکی داشته باشند، نه جایگزین کامل انسان. ثبت تعاملها (audit log) نیز میتواند به کاهش برخی خطرهای سوءاستفاده و افزایش امکان بررسی عملکرد سیستم کمک کند.
از این زاویه، آیندۀ مطلوب الزاماً آیندهای نیست که در آن ماشینها هرچه بیشتر شبیه انسان شوند؛ آیندۀ مورد انتظار، آنی است که در آن تواناییهای ماشین در خدمت اهداف انسانی قرار گیرد؛ بدون اینکۀ مرزهای مسئولیت، اختیار و حقیقت مخدوش شود.
جمعبندی
آنچه اهمیت دارد، این است که عاملهای مولد میتوانند برنامهریزی کنند و خاطره داشته باشند؛ اما این به معنای داشتن همان تجربۀ زیستی انسان نیست. این عاملها میتوانند خبر را منتقل کنند، اطلاعات را منتشر کنند و حتی روابط اجتماعی ایجاد کنند؛ اما این روابط لزوماً از جنس روابط انسانی نیستند.
عاملها میتوانند بهگونهای رفتار کنند که برای ما بسیار طبیعی و آشنا به نظر برسد؛ اما همانطور که خطاهای حافظه و رفتار آنها نشان میدهد، ظاهر قابلاعتماد لزوماً به معنای قابلاعتمادبودن نیست.
در اینجا به نقطۀ پایانی بحث میرسیم؛ ماشین میتواند رفتاری اخلاقی یا انسانی را به نمایش بگذارد؛ اما نمایش رفتار اخلاقی، بهخودیخود آن را به فاعل اخلاقی تبدیل نمیکند.
آنچه همچنان اهمیت دارد، انسانی است که این ماشین را طراحی میکند، به آن هدف میدهد و دربارۀ شیوۀ استفاده از آن تصمیم میگیرد.
منبع
Park, J. S., O’Brien, J. C., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023). Generative Agents: Interactive Simulacra of Human Behavior. Proceedings of the 36th Annual ACM Symposium on User Interface Software and Technology (UIST ’23).
