هوش مصنوعی فکر می‌کند یا می‌فهمد؟

اتاق چینی

سال ۱۹۸۰ یه فیلسوف یه آزمایش فکری مطرح کرد. فرض کنید توی یه اتاقید و چینی بلد نیستید. از زیر در نامه‌هایی به چینی میاد. یه کتاب دستور بزرگ دارید که می‌گه برای هر شکل، چه شکلی رو پس بدید:

کسی که بیرونه، جواب‌های درست چینی می‌گیره و فکر می‌کنه یه چینی‌زبون توی اتاقه. ولی شما یه کلمه هم نفهمیدید. حرف اون فیلسوف این بود: یه کامپیوتر هم که برنامه‌ش رو اجرا می‌کنه، همین کار رو می‌کنه؛ پس جواب درست دادن، یعنی فهمیدن نیست. البته این استدلال نمی‌گه ماشین تا کجا می‌تونه کار هوشمندانه بکنه؛ فقط درباره‌ی «فهمیدن»ه.

نگاه اول: طوطی

طرفدارهای نگاه طوطی می‌گن: ببینید مدل‌ها هنوز توی برنامه‌ریزی، یاد گرفتن هم‌زمان و توضیح کارشون کم دارن، و با اطمینان چیز ساختگی می‌گن؛ همون توهمی که توی درس توهم دیدیم.

نگاه دوم: کارآگاه

طرفدارهای نگاه کارآگاه می‌گن بعضی کارهای مدل‌ها، مثل حل مسئله‌ی ریاضی، بی یه جور فهمیدن ممکن نیست. یه چیز عجیب دیگه هم دیدن: وقتی مدل‌ها بزرگ‌تر شدن، یهو کارهای تازه‌ای یاد گرفتن که هیچ‌کس جدا براشون برنامه ننوشته بود.

پس هر دو گروه دلیل دارن. حدس زدن کلمه‌ی بعد رو توی درس هوش مصنوعی متن‌نویس دیدیم؛ سوال اینه که این حدس زدن، وقتی خیلی خوب بشه، چی می‌شه.

دانشمندها نصف‌نصف

سال ۲۰۲۲ از پژوهشگرهای زبان پرسیدن: «این مدل‌ها می‌تونن زبان رو به یه معنای جدی بفهمن؟» جواب‌ها تقریبا نصف‌نصف بود:

یه دانشمند علوم اعصاب گفت همین اختلاف نشون می‌ده که تصورهای قدیمی ما از «هوش» برای این ماشین‌ها کافی نیست. پس اگه کسی با اطمینان گفت «معلومه که می‌فهمه» یا «معلومه که نمی‌فهمه»، بدونید که دانشمندها هنوز به یه جواب نرسیدن.

احساس داره؟

سوال سخت‌تر اینه که آیا احساس یا خودآگاهی داره. فعلا هیچ راه پذیرفته‌شده‌ای برای سنجیدنش نیست؛ چون سنجیدن احساس، حتی توی آدم‌ها هم، از بیرون خیلی سخته.

سال ۲۰۲۲ یه مهندس گفت مدل شرکتش آگاهه؛ شرکت گفت این حرف پایه نداره، و اون مهندس کارش رو از دست داد. بعضی‌ها هشدار می‌دن که وقتی مدل رو مثل آدم می‌بینیم، چیزهایی بهش نسبت می‌دیم که شاید نداشته باشه. وقتی یه چت‌بات می‌نویسه «ناراحت شدم»، این جمله‌ایه که از الگوهای متن ساخته شده؛ اینکه پشتش حسی هست یا نه، کسی نمی‌دونه.

برای ما چه فرقی می‌کنه

جواب این سوال‌ها هر چی باشه، توی کار هر روز این چهار تا مهمه:

درباره‌ی چهارمی یه چیز رو صاف بگیم: بعضی‌ها برای درد دل و حال بد سراغ این مدل‌ها می‌رن. ولی مدل ممکنه چیز اشتباه بگه، یا یه فکر آسیب‌زا رو تایید کنه، و توی بحران همیشه کار درست رو نمی‌کنه. برای حال بد، با یه آدم، یه دوست یا یه متخصص حرف بزنید.