دادن جواب درست قبلی هنگام آموزش

یعنی چی

مثل مربی رانندگی که هر لحظه فرمون رو صاف می‌کنه.

توی درس آموزش موازی دیدیم ورودی رمزگشا موقع آموزش، جمله‌ی درسته که یه خونه عقب کشیده شده. یعنی برای حدس کلمه‌ی سوم، مدل کلمه‌ی اول و دوم درست رو می‌گیره، حتی اگه خودش کلمه‌ی دوم رو غلط حدس زده باشه. به این کار می‌گن «اجبار معلم»؛ اسمش از یه پژوهش ۱۹۸۹ روی شبکه‌های بازگشتی اومده.

با معلم، بی معلم

جواب درست the cat sat on هست. فرض کنید مدل قدم دوم اشتباه کنه و بگه dog. با معلم، قدم سوم با این حال cat رو می‌گیره، یعنی جواب درست، و می‌تونه sat رو درست تمرین کنه. بی معلم، قدم سوم همون dog رو می‌گیره؛ حالا «the dog» رو ادامه می‌ده و می‌گه barked، و جمله کلا از مسیر خارج می‌شه. اون‌وقت جریمه‌ی قدم‌های بعدی دیگه درباره‌ی اشتباه اصلی نیست؛ مدل داره برای یه جمله‌ی دیگه جریمه می‌شه. این مثال ساختگیه.

چرا خوبه

دو دلیل اصلی داره. اول، یادگیری تمیز و سریع می‌شه: هر قدم از یه شروع درست تمرین می‌کنه، و یه اشتباه کوچیک کل جمله رو خراب نمی‌کنه. مثل وقتی که آشپزی یاد می‌گیرید و استاد بعد از هر مرحله‌ی غلط، غذا رو درست می‌کنه و می‌ده دستتون؛ مرحله‌ی بعد رو روی غذای درست تمرین می‌کنید. دوم، که برای ترنسفورمر حیاتیه: چون ورودی‌ها از قبل آماده‌ان، لازم نیست منتظر حدس قدم قبل بمونیم، پس همه‌ی جاها هم‌زمان حساب می‌شن. بی اجبار معلم، آموزش موازی ممکن نبود.

فاصله‌ی آموزش و استفاده

ولی یه هزینه داره. موقع استفاده، معلمی نیست؛ مدل باید کلمه‌ی بعد رو از روی حدس‌های خودش بسازه. اگه یه جا اشتباه کنه، از اون به بعد توی موقعیتیه که هیچ‌وقت توی آموزش ندیده، چون همیشه یکی جواب درست رو دستش می‌داد. یه پژوهش ۲۰۱۵ گفت همین می‌تونه باعث بشه خطاها روی هم جمع بشن، و یه پژوهش ۲۰۱۶ اسمش رو گذاشت «سوگیری مواجهه». مثل کسی که همیشه با مربی رانندگی کرده و روز اول که تنهاست، اگه یه کم از خط خارج بشه، نمی‌دونه چطور برگرده.

گلوله‌برف با عدد

چرا یه اشتباه کوچیک توی جمله‌های بلند این‌قدر مهمه؟ یه حساب ساده کمک می‌کنه، با یه فرض ساده‌کننده.

فرض کنید مدل هر کلمه رو ۹۸ درصد درست بنویسه و اشتباه‌ها به هم ربطی نداشته باشن؛ هر دو فرض ساختگی‌ان. برای یه کلمه، شانس بی‌اشتباه موندن ۰٫۹۸ هست. برای ده کلمه، باید ده بار پشت سر هم درست بگه: ۰٫۹۸ به توان ۱۰، حدود ۰٫۸۲. برای ۵۰ کلمه حدود ۰٫۳۶، و برای ۱۰۰ کلمه فقط حدود ۰٫۱۳. یعنی هرچی متن بلندتر، احتمال این‌که یه جایی یه اشتباه پیش بیاد بیشتر. و با اجبار معلم، مدل هیچ‌وقت تمرین نکرده که بعد از اشتباه خودش چی کار کنه. توی واقعیت اشتباه‌ها مستقل نیستن و هر اشتباهی هم کل جمله رو خراب نمی‌کنه؛ این حساب فقط نشون می‌ده چرا طول متن، این مشکل رو جدی‌تر می‌کنه.

یه راه

همون پژوهش ۲۰۱۵ یه راه پیشنهاد داد: «نمونه‌گیری برنامه‌ریزی‌شده». اول آموزش، مدل همیشه جواب درست رو می‌گیره. ولی کم‌کم، با یه احتمال که بیشتر و بیشتر می‌شه، به جای جواب درست، حدس خودش رو می‌گیره. این‌طوری مدل یواش‌یواش تمرین می‌کنه که از حدس‌های خودش ادامه بده، درست مثل مربی‌ای که کم‌کم فرمون رو ول می‌کنه.

امروز

بازی کلمه‌ی بعد، که توی درس هدف آموزش دیدیم، در واقع همین اجبار معلمه: هر جا، کلمه‌های درست قبلی رو می‌بینه و کلمه‌ی بعد رو حدس می‌زنه. ترنسفورمر ۲۰۱۷ هم دقیقا همین‌طور آموزش دید. پس این فاصله‌ی آموزش و استفاده توی مدل‌های امروز هم هست؛ یکی از چیزهایی که می‌تونه باعث بشه یه جواب، بعد از یه اشتباه کوچیک، کم‌کم از مسیر خارج بشه.

هدف نرم

معلم یه جای دیگه هم هست: جوابی که مدل باید بهش نزدیک بشه. مقاله‌ی ۲۰۱۷ این جواب رو یه کم نرم کرد.

معمولا هدف هر حدس «سفته»: کلمه‌ی درست احتمال ۱ داره و همه‌ی کلمه‌های دیگه صفر. یعنی به مدل می‌گیم صددرصد مطمئن باش. مقاله‌ی ۲۰۱۷ یه ترفند به اسم «نرم کردن برچسب» با عدد ۰٫۱ به کار برد: حدود ۰٫۱ از این اطمینان بین بقیه‌ی تکه‌ها پخش می‌شه، پس هدف کلمه‌ی درست حدود ۰٫۹ می‌شه، نه ۱. خود مقاله نوشت این کار سرگشتگی رو بدتر می‌کنه، چون مدل یاد می‌گیره کمتر مطمئن باشه، ولی دقت و نمره‌ی ترجمه رو بهتر می‌کنه. یعنی معلمی که همیشه «فقط همین» بگه، لزوما بهترین معلم نیست.

چند نکته

• آموزش: جواب درست قبلی. استفاده: حدس خود مدل.
• اجبار معلم، آموزش موازی رو ممکن می‌کنه.
• مدل درست کردن اشتباه خودش رو تمرین نمی‌کنه.
• یه راه: کم‌کم حدس خود مدل رو بهش بدیم.

یه ریزه‌کاری دیگه هم آموزش ترنسفورمر رو ممکن کرد: اینکه اول کار آروم شروع کنه. درس بعد: گرم کردن نرخ یادگیری.