یادگیری ماشین چه کاری نمی‌کند
جواب کوتاه
یادگیری ماشین فقط الگوی داده‌ش رو یاد می‌گیره، نه دنیا رو. اگه توی داده یه الگوی الکی باشه، همونو یاد می‌گیره؛ مثل مدلی که گرگ رو از روی برفِ پشت عکس می‌شناخت، نه از خود حیوون. از اینکه دو چیز با هم بالا می‌رن، علت رو نمی‌فهمه. وقتی چیزی می‌بینه که شبیه هیچ‌کدوم از مثال‌هاش نیست، باز با اطمینان یه جواب می‌ده. و وقتی دنیا عوض بشه، کهنه می‌شه. پس هر جا اشتباهش گرونه، یه آدم باید کنارش باشه.
گرگ یا برف
یه مدل ساختن که عکس گرگ رو از سگ هاسکی جدا کنه. یه هاسکی بهش نشون دادن، گفت «گرگ». چرا؟
چون توی عکس‌هایی که باهاش یاد گرفته بود، همه‌ی گرگ‌ها روی برف بودن و هیچ هاسکی‌ای روی برف نبود. مدل به جای حیوون، برف رو یاد گرفته بود: «برف داره، پس گرگه».
این رو پژوهشگرها سال ۲۰۱۶ عمدا ساختن: یه مدل بد با بیست تا عکس، که ببینن آدم‌ها می‌فهمن مدل داره به چی نگاه می‌کنه یا نه.
چند نفر فهمیدن
جواب‌های مدل رو به ۲۷ دانشجوی کارشناسی ارشد و دکترا نشون دادن که درس یادگیری ماشین گذرونده بودن. یه بار بی توضیح، یه بار با توضیحی که نشون می‌داد مدل به کجای عکس نگاه کرده:
پیش از توضیح، ۱۰ نفر از ۲۷ نفر به این مدل بد اعتماد کردن و فقط ۱۲ نفر حدس زدن پای برف وسطه. بعد از دیدن توضیح، فقط ۳ نفر اعتماد کردن و ۲۵ نفر برف رو دیدن.
یعنی حتی آدم‌های وارد هم از روی جواب‌ها نمی‌فهمن مدل چی یاد گرفته؛ باید دید به چی نگاه می‌کنه. درس توضیح‌پذیری.
فقط داده‌ش رو بلده
مدل دنیا رو نمی‌شناسه؛ فقط مثال‌هایی که دیده رو می‌شناسه. هر الگویی توی اون مثال‌ها باشه، درست یا الکی، یاد می‌گیره. برف، رنگ پس‌زمینه، ساعتی که عکس گرفته شده، هر چی.
برای همین می‌گن «آشغال بدی، آشغال تحویل می‌گیری». اگه داده‌ها یه‌طرفه یا ناقص باشن، مدل هم همون‌طوری می‌شه. ایستگاه بعدی مسیر کامل درباره‌ی همینه: داده: سوخت یادگیری.
هم‌زمانی، علت نیست
اگه نگاه کنید، هر وقت فروش بستنی بالا می‌ره، غرق شدن هم بیشتر می‌شه. پس بستنی آدم رو غرق می‌کنه؟ نه:
علت هر دو گرمای تابستونه: هم بستنی بیشتر می‌خرن، هم بیشتر می‌رن شنا. مدل یادگیری ماشین فقط می‌بینه که این دو تا با هم بالا و پایین می‌رن؛ نمی‌فهمه کدوم علت کدومه، یا اصلا علت چیز سومیه. برای همین اگه بخواید بدونید «اگه فلان کار رو بکنم چی می‌شه»، فقط از روی مدل نمی‌شه گفت.
نمی‌دونه که نمی‌دونه
یه مدل که فقط گربه و سگ دیده رو فرض کنید. یه عکس ماشین بهش بدید. نمی‌گه «این رو نمی‌شناسم»:
مدل همیشه یکی از جواب‌هایی که بلده رو می‌گه، چون جواب دیگه‌ای نداره. و گاهی خیلی هم مطمئن می‌گه. پس اگه جلوش چیزی گذاشتید که شبیه مثال‌هاش نیست، به جوابش تکیه نکنید.
دنیا عوض می‌شه
مدلی که با قیمت‌های پارسال یاد گرفته، قیمت امسال رو کم می‌گه. مدلی که با عادت‌های خرید پیش از یه اتفاق بزرگ یاد گرفته، بعدش گیج می‌شه. مدل خودش نمی‌فهمه دنیا عوض شده؛ باید با داده‌ی تازه دوباره یادش داد. درس کهنه شدن مدل.
کجا خوبه، کجا نه
| خوبه وقتی… | حواستون باشه وقتی… |
|---|---|
| مثال زیاد و شبیه هم دارید | مثال کم یا یه‌طرفه‌ست |
| کار تکراریه و الگو داره | چیز تازه‌ای می‌بینه که قبلا ندیده |
| اشتباه گاه‌به‌گاه گرون نیست، مثل پیشنهاد فیلم | اشتباه گرونه، مثل وام یا درمان |
| دنیا زیاد عوض نمی‌شه | شرایط تند عوض می‌شه |
هر جا اشتباه گرونه، یه آدم باید جوابش رو ببینه. این آخرین درس ایستگاه اوله؛ ایستگاه بعد، داده‌ست: داده چیه و چه شکلیه.
جمع‌بندی. آنچه از این درس با خودتان می‌برید.
- فقط الگوی داده رو یاد می‌گیره، حتی الگوی الکی.
- هم‌زمانی رو با علت قاطی می‌کنه.
- همیشه یه جواب می‌ده، حتی وقتی نمی‌دونه.
- با عوض شدن دنیا کهنه می‌شه.
- جای اشتباه گرون، یه آدم کنارش.
خودتون رو بسنجید
۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.