آیا در جعل عمیق یا دیپ‌فیک مرز میان واقعیت و تحریف مشخص است؟

به مناسبت روز قربانیان جنگ اسرائیل¹ در ۲۰۲۱، گروه‌های هم‌نوازی نیروهای دفاعی اسرائیل² با همکاری یک شرکت متخصص در ویدئوهای ساختگی ـ که با عنوان فناوری “جعل عمیق” یا “دیپ‌فیک”³ نیز شناخته می‌شود ـ تلاش کردند به عکس‌هایی از جنگ اسرائیل و اعراب در ۱۹۴۸ جان بدهند.

آنها ویدئویی ساختند که در آن خوانندگان جوان با لباس‌ها و سلاح‌های آن دوران، آواز “هاریوت”⁴، سرودی نمادین به یاد سربازان کشته‌شده در جنگ، را می‌خواندند. نوازندگان هنگام آواز خواندن به عکس‌های سیاه و سفید محو‌شده‎ای که در دست دارند خیره می‌شوند. به لطف هوش مصنوعی، سربازان جوانی که در عکس‌های قدیمی حضور دارند به آنها چشمک و لبخند می‌زنند.

نتیجه غیرعادی است. به سبک هری پاتر گذشته جان می‌گیرد.

در چند سال اخیر، من و همکاران‌ام در مرکز اخلاق کاربردی یوماس بوستون این مسئله را بررسی می‌کردیم که تعامل روزمره با هوش مصنوعی، چگونه طرز تفکر مردم در‌مورد خودشان و سیاست را به پرسش می‌گیرد. ما متوجه شدیم که هوش مصنوعی ظرفیت تضعیف توانایی افراد برای قضاوت عادی را دارد. همچنین دریافتیم که این امر نقش خوش‌اقبالی را در زندگی آنها کم‌رنگ می‌کند و می‌تواند آنها را به تردید در آنچه دربارۀ حقوق بشر می‌دانند یا به آن باور دارند سوق دهد.

اکنون هوش مصنوعی جان بخشیدن به گذشته را از همیشه آسان‌تر کرده است. آیا این امر نحوۀ درک ما از تاریخ و در‌نتیجه، خودمان را تغییر خواهد داد؟

زیان مالی پایین، ارزش اخلاقی بالا

تمایل به بازگرداندن گذشته به گونه‌ای واضح و روشن چیز جدیدی نیست. بازسازی جنگ داخلی⁵ یا جنگ انقلابی⁶ امری عادی است. در ۲۰۱۸، پیتر جکسون⁷ صحنۀ جنگ جهانی اول⁸ را با دقت بسیار بازسازی و رنگ‌آمیزی کرد تا “آنها نباید پیر شوند”⁹ را بسازد، فیلمی که به تماشاگران قرن بیست و یکمی این امکان را داد که بی‌واسطه‌تر از هر زمان دیگری با این جنگ بزرگ روبرو شوند.

بازسازی‌های زنده و صحنه‌های تاریخی به‌دقت پردازش‌یافته، کارهایی پرهزینه و زمان‌بر هستند. فناوری جعل عمیق با در اختیار گذاشتن ابزاری ارزان و بسیار در دسترس برای جان‌بخشیدن به عکس‌های قدیمی یا ساخت ویدیوهایی که از اساس جعلی ولی متقاعدکننده هستند، این قبیل کارها را مردمی می‌کند.

اما همچون تمام فناوری‌های نوین، در کنار امکان‌های هیجان‌انگیز، پرسش‌های اخلاقی جدی نیز وجود دارد. وقتی از این ابزارهای جدید برای بهبود فهم گذشته و جان دادن دوباره به رویدادهای تاریخی استفاده می‌شود، پرسش‌ها هم پیچیده‌تر می‌شوند.

ادموند برک¹⁰، نویسنده و سیاستمدار قرن هجدهم، در استدلال معروف خود می‌گوید جامعه یک «مشارکت است؛ نه‌فقط بین آنها که زنده‌اند، بلکه بین آنها که مرده‌اند، و آنهایی که قرار است متولد شوند». از نظر او هویت سیاسی صرفاً آن چیزی نیست که افراد آن را می‌فهمند. هویت سیاسی فقط ماحصلی از سر‌هم‌بندی خود ما نیست. بلکه برای عضویت در جامعه باید عضو قرارداد بین نسل‌ها باشیم ـ بخشی از یک اقدام مشترک که زندگان، مردگان و کسانی که در آینده زندگی خواهند کرد را به هم پیوند می‌دهد.

اگر برک در این نحوه درک تعلق سیاسی محق باشد، فناوری جعل عمیق روشی مؤثر ارائه می‌دهد تا افراد را به گذشته پیوند دهد و این قرارداد میان‌نسلی را منعقد کند. این فناوری با زنده کردن گذشته به نحوی واضح و متقاعدکننده، به گذشتۀ “مرده” روح می‌دهد و آن را زنده‌تر و پرشورتر می‌کند. اگر این تصاویر همدلی و نگرانی برای اجداد را برانگیزانند، جعل عمیق می‌تواند اعتبار گذشته را بسیار بیشتر کند.

اما این قابلیت با مخاطره همراه است. خلق صحنه‌های تاریخی جعلی یک مخاطرۀ بدیهی و آشکار است. رویدادهای تخیلی، اسطوره‌سازی‌شده و جعلی ممکن است وقوع جنگ‌ها را در پی داشته باشد: شکست داستانی قرن چهاردهم در نبرد کوزوو¹¹ احساسات ضدّ اسلامی صرب‌ها را همچنان شعله‌ور می‌کند، حتی اگر کسی نداند که آیا واقعاً ائتلاف صرب در آن نبرد از عثمانی‌ها شکست خورد.

همچنین دومین حملۀ خلیج تونکین¹² به ناوهای جنگی آمریکایی در ۴ اوت ۱۹۶۴، برای تشدید دخالت آمریکا در ویتنام به کار گرفته شد. بعدها معلوم شد که این حمله هرگز اتفاق نیفتاده است.

تضعیف تخیل

قبلاً نمایش رویدادهای جعلی دشوار و پرهزینه بود؛ اما اکنون دیگر این‌طور نیست.

برای مثال، تصور کنید قطعه فیلمی از وقایع ۶ ژانویه در ایالات متحده که عمیقاً جعل و تحریف شده است به لحاظ راهبردی می‌تواند چه تأثیری بر دامن زدن به تنش‌های سیاسی داشته باشد، یا ویدئویی جعلی از یک جلسۀ مرکز کنترل و پیشگیری بیماری که ظاهراً واکسن‌های کووید-۱۹ را تحقیر می‌کنند چه بر سر تلاش‌های درمانی می‌آورد.

البته نتیجه این می‌شود که جعل عمیق به‌تدریج می‌تواند حتی ایدۀ یک “رویداد” تاریخی را بی‌ثبات کند. شاید با گذر زمان، هر قدر که این فناوری پیشرفت کند و فراگیر شود، مردم ناخودآگاه از واقعی بودن چیزی که می‌بینند بپرسند.
آنچه جای بحث دارد این است که آیا این امر به بی‌ثباتی سیاسی بیشتر منجر می‌شود یا به سبب تردید در اقدام بر اساس اموری که به احتمال زیاد اتفاقات ساختگی باشند، به نحوی تناقض‌آمیز، به ثبات بیشتر می‌انجامد.
اما غیر از نگرانی در‌مورد جعل گستردۀ تاریخ، پیامدهای نامحسوس‌تری وجود دارد که من را نگران می‌کند.

آیا مردم تخیل خود را در این راه به کار خواهند برد؟ یا این جعل عمیق است که با تجسّم‌های شبه واقعی و تکان‌دهندۀ خود به جانشین‌های مناسبی برای تاریخ تبدیل می‌شود؟

بله، جعل عمیق به ما اجازه می‌دهد گذشته را زنده‌تر تجربه کنیم و در نتیجه می‌تواند احساس تعهد ما به تاریخ را افزایش دهد. اما آیا این توسل به فناوری ـ با در اختیار قرار دادن تصاویری پیش‌ساخته و محدود از گذشته که به منزلۀ تداعی‌های پذیرفته‌شده از رویدادهای تاریخی است ـ خطر تضعیف تخیل ما را به دنبال دارد؟ تخیل با یک تلاش می‌تواند وحشت‌های ناشی از جنگ جهانی دوم¹³، زلزله ۱۹۰۶ سانفرانسیسکو¹⁴ یا کنفرانس صلح پاریس در ۱۹۱۹¹⁵ را در نوسان‌هایی بیش از حد به تصویر بکشد.

اما آیا مردم تخیل خود را در این راه به کار خواهند برد؟ یا این جعل عمیق است که با تجسّم‌های شبه واقعی و تکان‌دهندۀ خود به جانشین‌های مناسبی برای تاریخ تبدیل می‌شود؟ من نگرانم که صورت‌های متحرک گذشته شاید به بینندگان این‌طور القا کند که گذشته برای‌شان کاملاً حاضر است و آنها دقیقاً می‌دانند چه اتفاقی افتاده، و این تأثیر و القا نیاز به آگاهی بیشتر در‌مورد آن رویداد تاریخی را برطرف می‌کند.

مردم ترجیح می‌دهند فکر کنند که فناوری زندگی را آسان‌تر می‌کند. اما متوجه نیستند که ابزارهای فنی همواره ـ با تضییع مهارت‌های کنونی حتی زمانی که امکان‌های باورنکردنی و هیجان‌انگیزی را به وجود می‌آورند ـ ابزارسازان را از نو می‌سازند.

ظهور گوشی‌های هوشمند به این معنی بود که عکس‌ها را می‌توان به‌راحتی به صورت برخط ارسال کرد. اما به این معنا هم بود که بعضی از مردم به دلیل دلبستگی زیاد به ثبت لحظه‌ای «اینستاگرامی» همچون گذشته چشم‌‎اندازهای بی‌نظیر را تجربه نمی‌کنند. از زمان فراگیری GPS تجربۀ گم شدن هم اتفاق نمی‌افتد. همچنین، جعل عمیقی که با هوش مصنوعی تولید می‌شود فقط ابزاری نیست که ناخودآگاه درک ما از گذشته را افزایش دهد.

با وجود این، بخواهیم یا نخواهیم این فناوری به‌زودی ارتباط جامعه با تاریخ را متحول می‌کند.

مردم همیشه در اختراع بهتر عمل کرده‌اند تا تأمل دربارۀ اینکه آنچه اختراع می‌کنند چه بر سرشان می‌آورد. همان‌طور‌که ویستن هیو آودن¹⁶ شاعر می‌گوید «همیشه جمادات از جانداران زرنگ‌تر هستند». این ناتوانی در تصور لایۀ زیرین دستاوردهای فنی، قسمت و سرنوشت نیست. هنوز هم می‌توانیم از سرعت‌مان بکاهیم و دربارۀ بهترین راه برای تجربۀ گذشته فکر کنیم.