اخلاق در هوش مصنوعی

بازی بی‌داور

یه بازی فوتبال رو تصور کنید که داور نداره و قانونی هم نیست. هر کی زورش بیشتره، می‌بره؛ و یکی بالاخره آسیب می‌بینه:

داور و قانون، بازی رو کند نمی‌کنن؛ بازی رو ممکن می‌کنن. اخلاق هوش مصنوعی هم همینه: قاعده‌هایی که سازنده‌ها و ما کاربرها رعایت می‌کنیم تا این ابزار به آدم‌ها کمک کنه، نه آسیب. چند تا از آسیب‌هاش رو توی درس خطرها دیدیم؛ این درس درباره‌ی قاعده‌های جلوگیری از اون‌هاست.

پنج اصل

از همه‌ی اصل‌هایی که گفته شده، این پنج تا مهم‌ترن:

اصل‌های دیگه‌ای هم گفته شده: دقت، اینکه بقیه بتونن کارش رو بررسی کنن، اینکه به همه برسه، و پایداری، یعنی آسیب به محیط زیست هم حساب بشه. انصاف همون چیزیه که توی درس سوگیری دیدیم که چطور خراب می‌شه.

جعبه‌ی سیاه

شفافیت از همه سخت‌تره. خیلی از مدل‌ها مثل یه جعبه‌ی سیاه‌ان: یه چیز می‌گیرن، یه جواب می‌دن، و دلیلش معلوم نیست:

شبکه‌های عصبی گاهی تصمیم‌هایی می‌گیرن که نه خودشون می‌تونن توضیح بدن، نه سازنده‌هاشون. پس سخته بفهمیم منصفانه بوده یا نه. توی پزشکی این خیلی مهمه: اگه یه مدل بگه «این بیمار پرخطره» و دلیلش معلوم نباشه، پیدا کردن اشتباهش هم سخت‌تر می‌شه. برای همین پژوهشگرها دنبال هوش مصنوعی «توضیح‌پذیر»ان؛ مدلی که بگه چرا. چطور این شبکه‌ها کار می‌کنن؟ درس شبکه‌ی عصبی.

مقصر کیه؟

سال ۲۰۱۸ یه ماشین خودران، توی یه خیابون، به یه عابر پیاده زد و اون آدم جونش رو از دست داد. ماشین، ماشین‌های دیگه و مانع‌ها رو می‌دید، ولی انتظار یه عابر وسط خیابون رو نداشت. سوال سختی پیش اومد: مقصر کیه؟ راننده‌ای که توی ماشین بود؟ شرکت سازنده؟ کس دیگه؟

یه خطر دیگه هم هست: وقتی هوش مصنوعی رو مثل یه آدم می‌بینیم، ممکنه یادمون بره که پشت هر نتیجه‌ی بد، شاید سهل‌انگاری یه آدم بوده. پس قاعده ساده‌ست: ماشین مقصر نیست؛ مسئولیت همیشه با آدم‌هاییه که ساختنش، به کارش گرفتن، یا بهش اعتماد کردن. حتی امروز هم ماشین‌های خودران نیمه‌خودکارن، و راننده باید حواسش باشه.

یه سند جهانی

خیلی از سازمان‌ها برای اخلاق هوش مصنوعی قاعده نوشتن. مهم‌ترینش، سال ۲۰۲۱ بود: یونسکو «توصیه‌نامه‌ی اخلاق هوش مصنوعی» رو پذیرفت؛ اولین استاندارد جهانی اخلاق هوش مصنوعی. همون اصل‌هایی که بالا گفتیم، یعنی انصاف، شفافیت، مسئولیت، حریم خصوصی و ایمنی، دل این سندهاست.

اخلاق ما کاربرها

اخلاق فقط کار سازنده‌ها نیست. ما هم توی این بازی، بازیکنیم:

1. صادق باشیم. اگه متن یا عکسی رو با هوش مصنوعی ساختیم و مهمه، بگیم. کار هوش مصنوعی رو کار خودمون جا نزنیم؛ مخصوصا توی تکلیف.
2. از چهره و صدای کسی سوءاستفاده نکنیم. دیپ‌فیک از آدم واقعی، بی اجازه‌ش، نه؛ درس دیپ‌فیک.
3. حق بقیه رو رعایت کنیم. کار کسی رو کپی نکنیم؛ درس مال کیست.
4. اطلاعات بقیه رو ندیم. مشتری، همکار، شاگرد؛ درس حریم خصوصی.
5. مسئولیت تصمیم رو گردن ماشین نندازیم. «هوش مصنوعی گفت» بهونه نیست.