خطرهای هوش مصنوعی

مثل آتش

آتش غذا رو می‌پزه و خونه رو گرم می‌کنه. همون آتش، اگه پرده‌ای زیادی نزدیکش باشه، خونه رو می‌سوزونه:

هیچ‌کس به خاطر خطر آتش، آشپزی رو ول نکرده. ولی همه یاد گرفتن پرده رو دورش نذارن، بچه رو تنها کنارش ول نکنن، و یه کپسول دم دست داشته باشن. هوش مصنوعی هم همینه. پس به سوال «آیا هوش مصنوعی خطرناکه؟» جواب درست اینه: «آره، اگه قاعده‌هاش رو ندونیم».

شش خطر امروز

این شش تا همین الان هستن، نه توی آینده. هر کدوم توی این مسیر درس خودش رو داره:

خبر خوب اینه که برای همه‌شون یه قاعده‌ی ساده داریم: جواب رو بسنجید، اطلاعات خصوصی رو ندید، با صدای آشنا هم از یه راه دیگه چک کنید، فکر کردن رو بهش نسپارید، و به ایجنت کمترین اجازه رو بدید.

برق، آب، زمین

یه خطر هست که کمتر دیده می‌شه، چون پشت صفحه‌ست. هوش مصنوعی توی ساختمون‌های بزرگی پر از کامپیوتر کار می‌کنه، و این ساختمون‌ها خیلی برق و آب لازم دارن:

یه جست‌وجو با یه چت‌بات معروف، حدود ۱۰ برابر یه جست‌وجوی معمولی برق می‌بره. یه گزارش سال ۲۰۲۴ گفت برق این ساختمون‌ها ممکنه تا ۲۰۲۶ دو برابر بشه؛ اضافه‌ش به اندازه‌ی برق یه کشور بزرگ صنعتی. همین برق، مصرف سوخت‌های فسیلی رو بیشتر کرده.

آب هم هست: یه گزارش سال ۲۰۲۶ گفت سال ۲۰۲۵ فقط یه چت‌بات معروف، به اندازه‌ی نیاز ۵۰۰ هزار نفر آب مصرف کرد. و این ساختمون‌ها گاهی جاهایی ساخته می‌شن که از قبل کم‌آبن. یعنی هر سوال بی‌دلیل هم یه هزینه داره؛ کوچیک، ولی جمعش بزرگه.

نگرانی‌های بلندمدت

شاید شنیده باشید که بعضی دانشمندها می‌گن هوش مصنوعی یه روز اون‌قدر توانا می‌شه که آدم‌ها کنترلش رو از دست بدن. این نگرانی شبیه فیلم‌ها نیست که ماشین «بدجنس» بشه؛ بیشتر درباره‌ی هدف‌هاست.

یه مثال معروف: فرض کنید به یه کارخونه‌ی خیلی توانا فقط بگید «تا می‌تونی گیره‌ی کاغذ بساز». اگه هیچ چیز دیگه‌ای براش مهم نباشه، ممکنه برای آهن بیشتر، هر چیزی رو از بین ببره. برای همین می‌گن هوش مصنوعی توانا باید با ارزش‌های آدم‌ها هم‌سو باشه.

ولی صاف بگیم: نظر کارشناس‌ها درباره‌ی این خطر یکی نیست. هم گروه بزرگی نگرانن، هم گروه بزرگی نه. مثل همون دانشمندهای نصف‌نصفی که توی درس فکر می‌کنه یا می‌فهمه دیدیم. پس نه بترسید، نه بی‌خیال باشید؛ خبرش رو از منبع درست دنبال کنید.

قاعده‌های خودمون

1. جواب مهم رو بسنجید. مخصوصا عدد، اسم، منبع.
2. اطلاعات خصوصی رو ندید. نه مال خودتون، نه مال بقیه.
3. پول یا رمز خواستن؟ از یه راه دیگه چک کنید.
4. فکر کردن رو بهش نسپارید. اول خودتون، بعد هوش مصنوعی.
5. بی‌دلیل ازش نپرسید. برای سوال ساده، همون جست‌وجوی معمولی کافیه؛ برق و آب کمتری می‌بره.
6. به بچه‌ها هم یاد بدید. چطوری؟ توی درس کودکان.

و اینکه سازنده‌ها باید چه قاعده‌هایی رو رعایت کنن، توی درس اخلاق می‌گیم.