«روال مطلوب» اخلاقی در تکنولوژی چیست؟
«روال مطلوب» اصطلاحی است که اغلب در زمینههایی استفاده میشود که در آن، بسیار مهم است که کار، بهخوبی انجام شود و هزینهها یا خطرات قابلتوجهی برای انجام آن به روشی کمتر از بهینه وجود دارد.
ما در اینجا به توصیف، تأمل و تصمیمگیری بهترین شیوهها برای فرایند ترکیب توجه اخلاقی مناسب در زمینۀ توسعۀ فردی میپردازیم.
هیچ دستورالعمل واحدی از اخلاق فناوری وجود ندارد که بتواند برای همۀ زمینهها و شاغلان مناسب باشد. بنابراین سازمانها و حرفهها باید سیاستها، رویهها، دستورالعملها و روال مطلوب داخلی صریح (آشکار) را توسعه دهند که بهطور خاص با فعالیتها و چالشهای خودشان سازگار باشد.
بااینحال، آن دستورالعملهای عملکردیِ خاص را می توان با تأمل در این 16 قاعده و دستورالعمل کلی برای عملکرد اخلاقی شکل داد:
1ـ اخلاق را در کانون توجه و خارج از چارچوب انطباق قرار دهید: اخلاق یک جنبۀ فراگیر از عملکرد فناورانه است. به دلیل قدرت اجتماعی عظیم فناوری، مسائل اخلاقی تقریباً همیشه مطرح هستند. حتی زمانی که کارِ ما مستلزم ارتباط مستقیم با مشتری نیست، مسائل اخلاقی هرگز از متنِ کار، کنار نمیروند. بااینحال، «ذهنیت انطباق» که در بسیاری از سازمانها وجود دارد، وقتی در فناوری به کار میرود، میتواند گرایش خطرناکی را بهسمت اخلاقِ «حاشیهای» ایجاد کند که نوعی محدودیت خارجی است، نه اینکه آن را بخشی جداییناپذیر از خوببودن در کاری که انجام میدهیم تلقی کند. قانون و اخلاق، یکی نیستند. آنچه قانونی است، میتواند غیراخلاقی (اما کاملاً رایج) باشد و آنچه اخلاقی است (حتی اگر کمتر رواج داشته باشد) غیرقانونی باشد. اگر وقتی به اخلاق فکر میکنیم، قربانی ذهنیت «تطابق» شویم، بهاحتمال زیاد، تعهدات اخلاقی خودمان را جعبهای برای بررسی میدانیم و زمانی که احساس میکنیم حداقلهای لازم را برای «تطابق» با آنها انجام دادهایم، این تعهدات را فراموش میکنیم. متأسفانه، این موضوع اغلب منجر به عواقب فاجعهباری میشود. از آنجا که ملاحظات اخلاقی، همهجا حاضر و ویژگیِ ذاتیِ توسعۀ فناوری است، تلاشهای فردی و سازمانی ما باید برای حفظ اخلاق در کانون توجه باشد.
2ـ زندگی و علایق انسان را در پسِ این فناوری برجسته کنید: بهخصوص در زمینههای فنی، بهراحتی میتوان آنچه را فناوری با زندگی و منافع انسانها انجام میدهد، از دست داد. حتی وقتی این فناوری شامل موجودات غیرانسانی میشود (مثلاً ثبت دمای اقیانوسها)، برای اهداف و علایق مهم انسانی استفاده میشود. بسیاری از فناوریها حساسترین جنبههای زندگی انسانها را شامل میشود: بدن، امور مالی، روابط اجتماعی، و حالات عاطفی و روانیِ انسان. یک انسانِ شایسته، با بدن، پول یا شرایط روحیِ شخص دیگر، محتاطانه برخورد میکند. همین وظایف اخلاقی، هنگام توسعۀ فناوریهایی که این جنبههای مهم زندگی مردم و سایر جنبههای مهم زندگی مردم را تحتتأثیر قرار میدهند نیز باید رعایت شود.
3ـ خطرات پاییندستی (و بالادستی و جانبی) را برای فناوریها در نظر بگیرید: ما اغلب بهشدت روی این موضوع تمرکز میکنیم که آیا دستورالعملهای اخلاقی را رعایت کردهایم یا نه؛ ولی فراموش میکنیم که مسائل اخلاقیِ مربوط به فناوری، صرفاً با جدیّتِ ما در انجام وظایف خاص از بین نمیروند. باید به این فکر کنیم که بعد از اینکه دستگاهها، نرمافزارها، سختافزارها یا دادهها از دست ما خارج شدند، چه اتفاقی میافتد. حتی اگر مثلاً ما قبل از عرضۀ یک محصول، آزمایشهای گستردهای را انجام داده باشیم، همیشه تهدیدهای جدیدی وجود دارد که می تواند ظاهر شود و برنامههای کاربردیِ جدیدی از محصول ممکن است چالشهای جدیدی ایجاد کند. بنابراین، ما باید همیشه دیدگاهی نسبتبه خطرات پاییندستی از عملکرد خود داشته باشیم، و خطوط ارتباطی مؤثر را با کسانی که در موقعیت نظارت بر آنچه برای محصول اتفاق می افتد، حفظ کنیم. ارتباط با کسانی که «بالادست» و بیرون از روالِ کاریِ ما هستند نیز ضروری است. اگر دلیل اینکه ما با حفظ عملکرد یک فناوری و تعامل با جامعه به شیوهای اخلاقی مبارزه میکنیم این باشد که انتخابهای طراحی و پیکربندی ضعیف در بالادست، دستانِ ما را بسته است یا اینکه شخصی در بخش دیگری بهطور مداوم نادیده میگیرد، یا رویههای ایجادشده را نادیده گرفتهایم، پس باید برای رسیدگی به آن آماده باشیم. اگر به خطرات پاییندستی، بالادستی و جانبی توجه نکنیم، بهصورت کامل ارزشهای اخلاقی روش فعلی خود را درک نکردهایم.
۴ـ عوامل، منافع و انتظارات غیر فنی را نادیده نگیرید: متخصصان فناوری در حوزههای خاص فعالیتِ فنی، مهارت بالایی دارند و به تعامل با دیگران با سطوح مشابه تخصص فنی عادت دارند. این امر می تواند به طرز تفکری خطرناک منجر شود؛ این طرز فکر مربوط است به درنظرگرفتنِ منافعِ بازیگران غیرفنی و خطراتی که در معرض آن قرار دارند. همچنین می تواند یک نگرش بیطرفانۀ اخلاقی را نسبتبه افرادی که قرارگرفتن آنها در معرض خطرات ناشی از بیکفایتی فنی یا ساده لوحی است، پرورش دهد. این نگرش منجر میشود به ازدست رفتن فرصتها برای اجرای راهبردهای پیشگیری و کاهش خطرِ اساسی، و خطرِ کلی را برای سازمان و اشخاص ثالث افزایش میدهد. علاوهبراین، سادهلوحبودن در حوزۀ فناوری، چیزی نیست که فرد را بیشتر مستحق آسیب یا جراحت، یا کمتر مستحقِ برخورداری از امنیت کند. حفظ همدلیِ مناسب با بازیگران غیرفنی و علایق آنها در نهایت شما را به یک متخصصِ فناوریِ بهتر تبدیل خواهد کرد.
5ـ اکوسیستم فنی را تصور کنید: باید در نظر داشته باشیم فناوری، که در حال حاضر روی آن کار میکنیم، برای چه هدفی وجود دارد و همچنین در نظر داشته باشیم که فناوری که امروز از آن استفاده می کنیم، فردا به کجا خواهد رفت. مثلاً متخصصانی که مجموعۀ دادههای بزرگی از سوابق پزشکی را مدیریت می کنند، چهبسا تمایل داشته باشند که بهطور محدود، بر نحوۀ جمعآوری و استفادۀ مسئولانه از دادهها تمرکز کنند. ولی درعینحال باید این موضوع را در نظر داشته باشند که چهکسی ممکن است علاقهمند به دستیابی به چنین دادههایی باشد و از این دادهها برای چه هدف دیگری استفاده خواهد شد. آنها شاید مجبور شوند در مورد زمینۀ فرهنگیای فکر کنند که در آن دادهها را جمعآوری میکنند؛ چهبسا انتظارات، ارزشها، و اولویتهایی را نشان دهد که با اولویتهای متخصصان فناوری در تضاد باشد. در واقع، شیوههای فناوری هرگز از یک اکوسیستم اجتماعیـتکنولوژیکیِ گستردهتر و شامل نیروهای اجتماعیِ قدرتمند و بیثباتیهای خارج از کنترل ما جدا نمی شوند؛ ما باید شیوهها و تعهدات اخلاقی خود را در پرتو آن تصویر بزرگتر در نظر بگیریم.
6ـ به شکافِ بین انتظارات کاربر و واقعیت توجه کنید: هنگام توسعۀ فناوری، به خاطر داشته باشید که چگونه انتظارات ذینفعان از یک محصول خاص ممکن است با واقعیت متفاوت باشد. مثلاً آیا کاربران، اطلاعات کافی دربارۀ خطرات این فناوری دارند؟ آیا افشای اطلاعات خاص و استفاده از اعلانها منجر به افزایش انتظارات در مورد میزان امنیت کاربران می شود؟ آیا میتوانیم به همه وعدههایی که به کاربرانمان دادهایم عمل کنیم؟ برای مثال، ممکن است روزی محصول خود و/یا دادههای مرتبط با آن را به شخص ثالثی بفروشیم که ممکن است به آن وعدهها عمل نکند؟ اغلبِ ما این اشتباه را مرتکب میشویم که طرفهایی را که با آنها قرارداد میبندیم، برابر میدانیم، درحالیکه ممکن است از موضع معرفتیِ برتری عمل کنیم؛ یعنی ما خیلی بیشتر از آنها اطلاعات داشته باشیم. توافق با افرادی که «در تاریکی» هستند یا در مورد ماهیت توافق دربارۀ دادهها دچار توهم هستند، بهطور کلی، اخلاقی نیست.
۷ـ از هیاهو و افسانههای پیرامون تکنولوژی دوری کنید: همچنین باید به یاد داشته باشیم که تکنولوژی قدرتمند است، اما دوای دردِ مشکلات پیچیدۀ اجتماعی نیست. بااینحال، انگیزههای صنعتی و رسانهای قابلتوجهی وجود دارد که فناوری را دقیقاً اینگونه به تصویر بکشند. این موضوع می تواند آسیبهای زیادی به همراه داشته باشد؛ از اهداف غیرمنطقیِ توسعۀ محصول گرفته تا انتظاراتِ برآوردهنشدۀ کاربر که بهراحتی میتواند منجر به واکنش شدید شود. همۀ مشکلات، راهحلهای تکنولوژیکی ندارند و اگر غیر از این را باور کنیم، میتوانیم از راهحلهای اقتصادی، اخلاقی و عملی چشم پوشی کنیم. باید شوخی مرد مست را به خاطر بیاوریم که وقتی از او میپرسند چرا زیر چراغ خیابان به دنبال کلید ماشین گمشدهاش میگردد، پاسخ میدهد «چون نور اینجاست.» برای برخی از مشکلات، بهترین راه حل ها ممکن است خارج از «نورِ» تمرکز تکنولوژیکی ما باشد.
8ـ زنجیرههای مسئولیت اخلاقی و پاسخگویی را ایجاد کنید: در محیطهای سازمانی، «مشکل بسیاری از افراد» یک چالش دائمی برای عملکرد و پاسخگوییِ مسئولانه است. برای جلوگیری از اعطای مسئولیتی که در آن هیچکس در یک تیم احساس قدرت یا تعهد به برداشتن گامهای لازم برای اطمینان از عملکرد مؤثر و اخلاقی نمیکند، باید زنجیرههای روشنی از مسئولیت ایجاد شود و برای همۀ افرادِ درگیر در کار ــ در اولین مراحل ممکن یک پروژه ــ روشن شود. ما باید روشن کنیم که چهکسی مسئولِ کدام بخش از جنبههای مدیریت خطرِ اخلاقی و پیشگیری از آسیب، در هر یک از حوزههای مرتبط با فعالیتهای پرخطر است. ما همچنین باید روشن کنیم که در نهایت، چهکسی مسئول اطمینان از اجرای یک پروژه یا عمل اخلاقی است. در صورت شکست اخلاقی یا آسیب قابلتوجه ناشیِ از کار تیم، از چهکسی انتظار میرود پاسخگو باشد، توضیح دهد و راهحل ارائه کند؟ زنجیرههای ایجادشدۀ مسئولیت و پاسخگویی، تضمین میکند که اعضای یک پروژه یا سازمان، مالکیت صریحی بر اهمیت اخلاقی کار دارند.
9ـ فناوری را یک کالای مشروط بدانید: برخی از خطرناکترین اقدامات در فناوری، شامل تلقیِ توسعۀ فناوری بهعنوان یک کالای بیقیدوشرط است. پیشرفت تکنولوژی، بهخودیخود، بهطور طبیعی دنیا را به جای بهتری برای زیستن تبدیل نمیکند. بلکه نحوۀ استفاده از یک فناوری است که تعیین میکند که آیا آن توسعه فناوری به دنیای بهتری منجر می شود یا خیر. مثلاً سلاحهای هستهای، یک پیشرفت فناوری فوقالعاده قدرتمند بودند، اما از زمان توسعۀ آنها، سایهای سیاه بر تمدن بشری افتاده است. مثال امروزیترش، دستگاههایی است که میتوانند دادههای بیشتری را ذخیره کنند، میتوانند خطرات حریم خصوصی و امنیتی را با فعالکردن ذهنیت بیاحتیاطی «هماکنون جمعآوری و ذخیره کنیم، بعداً متوجه خواهیم شد که واقعاً به چهچیزی نیاز داریم» تشدید میکنند. تکنولوژی، یک کالای مشروط است؛ یعنی تنها به همان اندازه مفید و سودمند است که ما از ساخت آن مراقبت کنیم.
1۰ـ برنامهریزی برای دوران بحران و واکنش دربرابر بحران را تمرین کنید: بیشتر افراد میخواهند روی ظرفیتهای مثبت یک پروژه یا سیستم تمرکز کنند، ولی درحالیکه این موضوع قابلدرک است، خطرات این نگرش بهخوبی مشخص شده است و اغلب باعث شکست، فاجعه یا بحرانی شده است که بهراحتی می توان از آن اجتناب کرد. این نگرش همچنین اغلب از واکنش مؤثر دربرابر بحران جلوگیری میکند؛ یعنی زمانی که هیچکس برای بدترین اتفاق ممکن برنامهریزی نکرده است. مهندسان عمران و مهندسان مکانیک، که طرحهایشان تأثیر زیادی بر امنیت عمومی میگذارد، مدتهاست که فرهنگ تشویق به پیشگویی دربارۀ شکست را در خود پرورش دادهاند. درک چگونگی عملکرد یک محصول یا سیستم در شرایط غیر ایدهآل، در مرزهای استفادۀ موردنظر، یا حتی خارج از آن مرزها، برای ایجاد حاشیههای ایمنی مناسب و توسعۀ یک طرح برای سناریوهای ناخواسته ضروری است. فکرکردن به شکست باعث میشود که متخصصان فناوری بهتر کار کنند، نه بدتر. برنامههای بحران باید هوشمند، پاسخگو به ورودیهای عمومی و از همه مهمتر، قادر به کاهش یا اصلاح مؤثرِ آسیبهای واردشده باشند.
11ـ ارزشهای خودمختاری، شفافیت و اعتماد را ارتقا دهید: برای ایجاد و حفظ یک رابطۀ سالم بین متخصصان فناوری و عموم مردم، احترام به خودمختاری، شفافیت، و قابلیت اعتماد کلیدی است. متأسفانه نمونههای متعددی از فقدان چنین احترامی را میتوان دید: پنهانکردن خطر در پشت اصطلاحات حقوقی، فنی یا روابط عمومی؛ ازبینبردن تلاشهای کاربران برای ارتقای سلامتِ خود؛ پاککردن دادهها بدون رضایت و حمایت مناسب از آنچه جمعآوری میشود؛ یا دفنکردن یک آسیبپذیری یا اطلاعرسانیِ نقض تعهد بهمنظورِ جلوگیری از عواقب حرفهای یا عمومی، که فقط چند مورد از آنها ذکر میشود. البته همیشه نمیتوانیم در مورد هر کاری که انجام میدهیم کاملاً شفاف باشیم. به همین ترتیب، گاهیاوقات استقلالِ کاربران با تعهدات ما برای جلوگیری از سوءاستفادههای مضر از فناوری در تضاد خواهد بود. گاهیاوقات، لفاظی در مورد «تنشها» و «تعادل کالاها» ممکن است بهخودیخود به «عقلانیسازی» یا «استدلال انگیزهای» ناعادلانه تبدیل شود (باورکردن چیزی فقط به این دلیل که انجام آن به نفع من است، یا به این دلیل که شدیداً آرزو میکنم که درست باشد). با این اوصاف، متعادلکردن حقوق مهم و ارزشهای اخلاقی با قربانیکردن این ارزشها یا نادیدهگرفتن نقش حیاتی آنها در حفظ اعتماد عمومی یکسان نیست.
12ـ منافع، منابع و تأثیرات متفاوت را در نظر بگیرید: روشهای تکنولوژیکی، خطر عمیقی برای تولید یا بزرگنمایی اثرات متفاوت دارند؛ یعنی اینکه برخی افراد را بهتر و برخی دیگر را بدتر میکنند (از نظر سهم اجتماعیشان از رفاه اقتصادی، قدرت سیاسی، سلامت، عدالت، یا دیگر کالاهای مهم). همۀ تأثیرات متفاوت، غیرقابلتوجیه یا اشتباه نیستند. مثلاً درحالیکه دستگاهی که از رمزگذاری قویِ سراسری استفاده میکند، ممکن است برای مجرمان آسانتر باشد تا از نظارت دولت بر ارتباطات خود اجتناب کنند. همچنین، ممکن است تأثیر متفاوتی بر توانایی دولتهای مستبد برای ردیابی و خنثیکردن مخالفان سیاسی خود داشته باشد. در اینجا، تعادل اخلاقی اثراتِ متفاوت، کاملاً پیچیده است. (همانطور که در پروندۀ سال ۲۰۱۶، اَپل در برابر FBI دیده شد). اما دستگاه دیگری را تصور کنید که ابزارها و ویژگیهای امنیتی پیشرفته را تنها به کسانی ارائه می دهد که گرانترین مدل را خریداری میکنند و ویژگیهای امنیتیِ ضعیفی را در تمام مدلهای دیگر دارند. آیا تأثیر متفاوتِ این انتخاب، قابلتوجیه است؟ خطر اخلاقیِ ناشی از تأثیرات متفاوت را باید در نظر داشت؛ این تأثیرات، باید پیشبینی شوند، فعالانه برای آن ها حسابرسی شوند، و به دقت برای پذیرش اخلاقی آنها مورد بررسی قرار گیرند.
13ـ طراحی برای حفظ حریم خصوصی و امنیت: شاید این موضوع بدیهی به نظر برسد، اما نمیتوان بر اهمیت آن بیشازحد تأکید کرد. «طراحی» در اینجا نهتنها به معنای طراحی فنی (از شبکهها، پایگاههای داده، دستگاهها، پلتفرمها، وبسایتها، ابزارها یا برنامهها)، بلکه به معنای طراحی اجتماعی و سازمانی گروهها، سیاستها، رویهها، انگیزهها، تخصیص منابع، و تکنیکهایی است که اهداف حریم خصوصی و امنیت را ارتقا میدهند. پیادهسازی، بسته به زمینه متفاوت خواهد بود، اما نکتۀ اساسی این است که ارزشهای حریم خصوصی و امنیت باید در خط مقدم طراحی، برنامهریزی و اجرای پروژه باقی بماند. و نظارت، هرگز بهعنوان نگرانیهای حاشیهای، خارجی یا «پس از واقعیت» تلقی نمیشود.
۱۴ـ از سرمایهگذاریِ سرمایهدارانِ مختلف استقبال کنید: یکی از راههای اجتناب از «تفکر گروهی» در ارزیابی و طراحی ریسک اخلاقی، دعوت از سهامداران مختلف خارج از تیم و سازمان است. مهم است که ورودی سهامداران به سادگی منعکسکنندۀ همان دیدگاههایی نباشد که فرد در حال حاضر در سازمان یا گروه دارد. بیشترِ متخصصان فناوری، سطوح فوقالعاده بالایی از پیشرفت تحصیلی و وضعیت اقتصادی دارند، و در بسیاری از زمینههای فنی، نمایش جمعیت از نظر جنسیت، نژاد، قومیت، سن، ناتوانی، و سایر ویژگیهای شخصیتی متعارضاند. همچنین، ماهیت کار ممکن است افرادی را به خود جذب کند که علایق و ارزشهای مشترکی دارند؛ مثلاً خوشبینیِ مشترک نسبتبه ظرفیتهای علم و فناوری و ایمانِ نسبتاً کمتر به سایر سازوکارهای اجتماعی. همۀ این عوامل میتوانند منجر به خُردهفرهنگهای سازمانی شوند، که خطرات تفکر گروهی، نقاط کور، و طراحی ضعیف را بزرگ میکنند. بهعنوان مثال، بسیاری از بهترین شیوههای بالا نمیتوانستند با موفقیت اجرا شوند، اگر اعضای یک تیم به سختی تصور کنند که چگونه یک فناوری توسط افرادی غیر از خودشان درک میشود، یا چگونه ممکن است بر آنها تأثیر بگذارد، شناخت دقیق محدودیتهای یک دیدگاه تیمی ضروری است. تقویت سازمانها و تیمهای فناوری متنوعتر یکی از راههای واضح برای کاهش این محدودیتهاست؛ درخواست ورودی خارجی از یک نهاد واقعیتر از کسانی که احتمالاً تحتتأثیر عملکرد ما قرار میگیرند نیز بسیار مهم است.
15ـ بازتاب و تمرین اخلاقی را استاندارد، فراگیر، تکرار شونده و پاداش دهنده بسازید: اندیشیدن و عمل اخلاقی یک بخش ضروری و مرکزی از برتری حرفهای در فناوری است، اما هنوز بهطور کامل و پیوسته در عمل فناوری یکپارچه نشده است. کار استاندارد و شایعکردن اندیشیدن و عمل اخلاقی باید از طریق تدابیر فعالی که توسط متخصصان فردی و سازمانها ایجاد میشود، انجام شود. برای مؤثر بودن، اندیشیدن و عمل اخلاقی باید بهصورت تکراری به کار گرفته شود. به این دلیل که فناوریها همچنان در حال تکامل هستند، باید اخلاق فناوری را بهعنوان یک چرخۀ یادگیری فعال و پیوسته با درنظرگرفتن نتایج اخلاقی عملکردمان، از اشتباهات خود یاد بگیریم، اطلاعات بیشتری جمع آوری کنیم، تخصص اخلاقی و فنی بیشتری به دست آوریم، و سپس عملکردمان را بهروز کنیم و بهبود بخشیم. بیشتر از همه، عمل اخلاقی در فناوری باید جذاب باشد: همسوکردن انگیزههای تیمی و سازمانی با روال مطلوب اخلاقیِ ارائهشده، این شیوهها را تقویت میکند و به متخصصان، قدرت انجام آنها را میدهد.
16ـ الگوبرداری و دفاع از عملکرد فناوری اخلاقی: یک راه برای راهنماییِ بهتر در زمینۀ حالات عملیِ اخلاقی، پیداکردن و توجه به مدلهای برتر در این عملکرد است. در نهایت، عالیشدن نهتنها به شما اجازه میدهد دیگران را راهنمایی کنید؛ بلکه به شما اجازه می دهد با دیگر افراد و متخصصانِ کاربلد همکاری کنید تا استانداردهای زندگی همۀ ما بهبود پیدا کند. متخصصان فناوری مشتاق می توانند از جستجو، شناسایی، و توسعه روابط آموزشی قوی با مدلهای عالی عملکرد فناوری اخلاقی بهره ببرند، مدلهایی که نهتنها برتریِ فنی دارند، بلکه نمونههایی از رهبری اخلاقی نیز به شمار میآیند. طیف متنوعی از مدلها برای یادگیری بهتر است، چون حتی متخصصان نیز نقاط ضعف و نقاط کور خود را دارند. اما کسانی که با یادگیری از بهترین مربیان، حکمت عملی را توسعه میدهند، میتوانند بهنوبۀ خود به مربیانی عالی برای دیگران تبدیل شوند و برتری و اعتبار کلی این حوزه را افزایش دهند.
بهطور مشترک، آنها همچنین میتوانند برای حمایت از هنجارها، استانداردها و شیوههای برتر از نظر فنی و اخلاقی در این زمینه تلاش کنند، سطح را برای همه بالا ببرند، و اطمینان حاصل کنند که فناوران به تضمین و حفظ وعدۀ جهانیِ رو به شکوفایی برای همۀ ما کمک میکنند.