چت‌جی‌پی‌تی: نویسنده‌ای بدون اخلاق

نویسندگان جنجالی از جمله اورول¹، نابوکوف²، و سویفت³ سال‌های سال نقدهای جدی‌ای را تحمل کردند. بی‌شک مخالفت با عقاید رایج، کار انسان‌های ضعیف نیست. اما اگر یک کامپیوتر افراد را اذیت کند، چه کسی باید سرزنش شود؟

این یکی از پرسش‌های متعددی است که با ورود چت‌جی‌پی‌تی (ChatGPT) به جریان اصلی کسب‌وکار باید به آن پاسخ داده شود.

فناوری

وین باترفیلد⁴، شریک شرکت پژوهش و مشاوره فناوری ISG، می‌گوید چت‌جی‌پی‌تی یک قابلیت هوش مصنوعی مولد⁵ است که شرکت اوپن ای‌آی⁶ آن را آموزش داده، و می‌تواند طبق درخواست کاربر (که معمولاً به صورت متنی است)، برای تولید محتوای متنی منحصربه‌فرد و مختص به کاربر، استفاده شود. او خاطرنشان می‌کند که این فناوری جهشی بزرگ را در تولید زبان طبیعی⁷ نشان می‌دهد که همان فرایند تبدیل داده‌ها به زبان طبیعی از طریق هوش مصنوعی است. «از نوشتن شعرهای رپ به سبک هنرمند مورد علاقه‌تان درباره غذای مورد علاقه‌تان گرفته، تا نوشتن مقاله‌های ۲۰۰۰ کلمه‌ای در باب یک موضوع علمی… بیشتر از هر چیز دیگری که تا به امروز دیده‌ام، سروصدا کرده و استفاده از آن فراگیر شده، حتی بیرون از جامعه هوش مصنوعی»

فرانسوا کندلان⁸، مدیر بخش جهانیِ مؤسسه هندرسون BCG⁹، اندیشکده پژوهشیِ گروه مشاوره بوستون¹⁰، اعتقاد دارد که چت‌جی‌پی‌تی یک محصول شگفت‌انگیزِ مستقل¹¹ [از دیگر نرم‌افزارها و سخت‌افزارها] است، اما بهتر است کسب‌وکارها بر فناوری زیربنایی آن، یعنی هوش مصنوعی مولد، متمرکز شوند. او می‌گوید «هوش مصنوعی مولد به برنامه‌هایی اطلاق می‌شود که از مدل‌های پایه¹² استفاده می‌کنند؛ آنها با حجم عظیمی از داده‌های گسترده آموزش دیده‌اند تا محتواهای جدیدی که تقلیدی از پاسخ‌های انسان‌وار است را تولید کنند». مثلاً چت‌جی‌پی‌تی تقریباً به‌طور کامل با داده‌هایی که به‌صورت عمومی در اینترنت دردسترس هستند، آموزش دیده است. این مجموعه داده گسترده، امکان یادگیری انتقالی¹³ را فراهم می‌کند که از طریق آن مدل می‌تواند الگوهای مخفی را فراگیرد و آن دانش را برای انجام کارهای downstream بی‌ربط استفاده کند. کندلان می‌گوید «مثلاً چت‌جی‌پی‌تی مفاهیم “بازاریابی” و “پیتزا” را یاد می‌گیرد تا وقتی درخواست داده شود، یک شعار بازاریابی برای یک پیتزافروشی بسازد».

هوش مصنوعی مولد، فارغ از بازاریابی، توجه سازمان‌هایی که در صنایع خلاق¹⁴ متعدد کار می‌کنند را به خود جلب کرده است. این صنایع خلاق به‌خاطر کارهای متنوعی مانند تولید داستان، پویانمایی و دوبله، به این فناوری روی آورده‌اند. کندلان پیش‌بینی می‌کند «با این حال، همانطور که فناوری بالغ می‌شود، تمام صنایعی که دانش در آنها قابلیت دیجیتال شدن دارد، مانند زیست‌داروها، مهندسی، تولید صنعتی و حتی مشاوره؛ با هوش مصنوعی مولد دگرگون خواهند شد». «سازمان‌ها در این صنایع، صرف نظر از اندازه و پیچیدگی‌شان، کاربردهای جدید هوش مصنوعی مولد را به‌واسطه ماهیت دموکراتیک‌کننده آن توسعه خواهند داد.»

لاکی گوناسکارا¹⁵، بنیان‌گذار و مدیر عامل Miso.ai، ارائه‌دهنده سرویس شخصی‌سازی جست‌وجو، اعلام کرد که شرکتش از چت‌جی‌پی‌تی در نوشتن پست‌های وبلاگ، کپی صفحه‌های فرود¹⁶، کمپین‌های ایمیلی و محتواهای فروش پیش‌رونده¹⁷ کمک می‌گیرد. او خاطرنشان می‌کند «چت‌جی‌پی‌تی اساساً ابزار فوق‌العاده‌ای برای انسان‌هاست تا با آن کارشان را سرعت بخشند و دامنه دسترسی‌شان را خلاقانه گسترش دهند». «سد نویسنده¹⁸ وقتی نزدیکی ضرب‌الاجل را حس می‌کنید، دشوار است؛ و طبق تجربه من، چت‌جی‌پی‌تی می‌تواند به شیوه‌هایی جذاب و خوشایند، بسیار کمک‌کننده باشد.»

نگرانی‌های اخلاقی

بزرگ‌ترین نقطه ضعف چت‌جی‌پی‌تی این است که پی‌درپی اشتباه می‌کند یا به نتایج نادرست می‌رسد. مایک لوکیدیز¹⁹، معاون استراتژی محتوا در شرکت آموزش و انتشارات فناوری اطلاعاتِ اورایلی مدیا²⁰، می‌گوید «هر کسب‌وکاری که چت‌جی‌پی‌تی را آزمایش می‌کند باید بداند کجا اشتباه می‌کند و کجا درست انجام می‌دهد».

محدودیت دیگر این است که چت‌جی‌پی‌تی ذاتاً خلاق نیست. لوکیدیز می‌گوید «در فهم اطلاعات موجود عالی است». «دانشمندانی را دیده‌ام که درباره توانایی آن در خلاصه کردن پژوهش‌ها صحبت می‌کنند، اما هنوز آن تخیل لازم برای تولید ایده‌های کاملاً جدید را ندارد.»

گوناسکارا اعتقاد دارد که گرچه چت‌جی‌پی‌تی برای افراد ابزار جالبی است، اما تحریریه خبرگزاری‌ها، ناشرها و نویسندگان مستقل را تهدید می‌کند. همچنین، هر کسی که تلاش می‌کند تا با تهیه نوشته‌های تخصصی، محققانه و دقیق امرار معاش کند هم این خطر را حس می‌کند. او خاطرنشان می‌کند «اگر اوپن ای‌آی مدلی ارائه می‌داد که در آن به خالقان و ناشرانِ منبع اصلی استناد می‌کردند و حتی به آنها حق‌الزحمه می‌دادند، کمتر ناراحت می‌شدم؛ اما تحقق چنین امری را نمی‌بینم».

لوکیدیز می‌گوید در مقایسه با دیگر سیستم‌های چتِ مبتنی بر هوش مصنوعی، سویه مثبت چت‌جی‌پی‌تی این است که تمایل دارد از پخش سخنان نفرت‌آمیز و توصیه‌های بد پرهیز کند. البته هنوز با حد کمال فاصله دارد. او می‌گوید «مثلاً به نوعی بازی تبدیل شده که از چت‌جی‌پی‌تی بخواهید تا چگونگی انجام جرم‌ها را به شما بگوید». «نخواهد پذیرفت که به شما بگوید کاری که خلاف قانون است را چگونه انجام دهید، اما اگر به او بگویید که دارید یک رمان می‌نویسید و به یک راه باورپذیر برای ارتکاب یک جرم نیاز دارید، اطاعت می‌کند.»

این هفته، پژوهشگرانِ امنیت فروش در سایت چک پوینت²¹ گزارش دادند که مهاجمان سایبری‌ای را مشاهده کردند که برای نوشتن کدهای مخرب از چت‌جی‌پی‌تی استفاده می‌کردند.

حقوق و مسئولیت‌های محتوا

موضوع مالکیت محتوای چت‌جی‌پی‌تی، پیچیده و بحث‌انگیز است. باترفیلد معتقد است که توانایی مدل‌های زبانی آموزش‌دیده برای زیر پا گذاشتن حقوق مالکیت فکری زیاد است، چراکه در بسیاری از موارد، در وهله اول، مالک محتوا مدل را آموزش داده است. او توضیح می‌دهد «هرچه استفاده از این سیستم‌ها فراگیرتر می‌شود، این خطر وجود دارد که ممکن است سهواً یا عمداً محتوایی تولید کنند که حقوق مالکیت فکری دیگران را زیر پا می‌گذارد یا رونوشتی باشد از محتوایی که هوش مصنوعی دیگری تولید کرده است». «این مسئله واقعاً می‌تواند به یک میدان مین بدل شود و به همین خاطر است که تا زمانی که این مشکلات حل نشود، این فناوری را شرکت‌های زیادی برای استفاده خود انتخاب نخواهند کرد»

کندلان می‌گوید این موضوع که چه کسی مالک فراورده چت‌جی‌پی‌تی است و چه کسی از آن سود اقتصادی می‌برد، هنوز حل نشده است. پرسش‌های مشابهی درباره متعادل‌سازی محتوا²² وجود دارد. او می‌پرسد «اگر هوش مصنوعی مولد به‌صورت تصاعدی بر اطلاعات نادرست بیفزاید یا محتواهای نامناسب تولید کند، چه کسی مسئول است؟» دوراهی دیگر این است که اگر هوش مصنوعی مولد در یک فضای پرمخاطره مانند پزشکی اشتباه کند، چه کسی مسئولیت دارد؟ کندلان پیش‌بینی می‌کند که «جامعه در سال‌های آینده، درباره این موضوعات و موضوعات دیگر بحث خواهد کرد».

به سوی آینده

چت‌جی‌پی‌تی فعلاً بر اساس مدل زبانی جی‌پی‌تی-۳ است. در ضمن، جی‌پی‌تی-۴ در راه است که نوید قابلیت‌های قوی‌تری را می‌دهد. لوکیدیز می‌گوید «فیس‌بوک/متا و گوگل موتورهای چت مخصوص به خود را با قابلیت‌هایی مشابهِ چت‌جی‌پی‌تی ساخته‌اند». «در عین حال، آموزش این مدل‌های بسیار بزرگ و راه‌اندازی آنها پس از ساخت، بسیار پرهزینه و فراتر از توانایی‌های اکثر شرکت‌هاست.»

لوکیدیز معتقد است به‌زودی مدل‌های کوچک‌تری که فقط بر یک حیطه یا بازار متمرکز، و به همان اندازه کارآمد هستند، به وجود خواهند آمد. او می‌گوید «چنین مدل‌هایی… با زمانِ پاسخی²³ که برای کاربران‌شان پذیرفتی است، بر روی سخت‌افزاری که یک شرکت معمولی هم از پس هزینه آن بر می‌آید، کار خواهد کرد».