مدل پایه: ادامه‌دهنده‌ی متن، نه دستیار

فقط ادامه می‌ده

یه خبر جالب: مدل کوچیکی که توی درس‌های قبل ساختیم، خودش یه «مدل پایه»‌ست. بیاید ببینیم رفتارش چطوریه.

بهش «چای» دادیم و پنج بار ادامه‌اش رو گرفتیم: سه بار «چای می‌خورم»، یه بار «چای با قند می‌خورم»، و یه بار «چای خیلی تلخه». هر بار یه جمله‌ی معقول، از جنس همون ۱۲ جمله‌ای که دیده بود.

حالا اگه بپرسیم «چای چیه؟» چی؟ مدل ما اصلا «چیه» رو ندیده؛ هیچ‌وقت توی جمله‌هاش سوال نبوده. اون یاد گرفته جمله‌هایی مثل جمله‌های خودش بسازه، نه اینکه به سوال جواب بده. یه مدل پایه همینه: یه ادامه‌دهنده‌ی متن.

مدل پایه‌ی بزرگ

یه مدل پایه‌ی واقعی خیلی بیشتر از مدل ما دیده؛ سوال هم دیده، جواب هم دیده. ولی باز هم کارش ادامه دادنه.

توی متن‌های اینترنت، سوال‌ها گاهی جواب دارن و گاهی پشت سر هم توی یه فهرست میان. پس وقتی به یه مدل پایه می‌گید «چطور چای خوب دم کنم؟»، ممکنه جوابش رو بنویسه، ولی ممکنه هم فکر کنه این اول یه فهرست سواله و ادامه‌اش بده. براش هر دو، ادامه‌ی معقول یه متن‌ان.

مستندات Claude هم همین رو می‌گه: مدل‌های پیش‌آموزش‌دیده خودبه‌خود توی جواب دادن به سوال یا انجام دادن دستور خوب نیستن، و برای گرفتن رفتار دلخواه ازشون، معمولا مهارت زیادی توی نوشتن درخواست لازمه.

حقه‌ی سند

اون مهارت چیه؟ اینکه درخواست رو طوری بنویسید که شبیه اول یه سند باشه، و ادامه‌ی طبیعی اون سند، همون چیزی باشه که می‌خواید.

به‌جای اینکه بپرسید «پایتخت آلمان کجاست؟»، یه فهرست شروع می‌کنید: «فرانسه، پاریس. ایتالیا، رم. آلمان، …». ادامه‌ی طبیعی این فهرست، «برلین»ـه. مدل پایه لازم نیست بفهمه شما سوال پرسیدید؛ فقط کافیه فهرست رو ادامه بده.

یه پژوهش ۲۰۲۰ همین کار رو با یه مدل پایه‌ی بزرگ کرد: فقط با چند مثال توی متن درخواست، بی هیچ آموزش اضافه، کارهای زیادی مثل ترجمه و جواب دادن به سوال رو خوب انجام داد. ولی هر بار باید یه سند هوشمندانه می‌ساختن.

چه چیزهایی می‌سازه

مدل پایه از کل اینترنت یاد گرفته؛ با خوب و بدش. پس هر چیزی که شبیه ادامه‌ی متن باشه، می‌سازه، چه درست باشه چه غلط، چه مودبانه چه آزارنده.

یه پژوهش ۲۰۲۲ صریح نوشت: بزرگ‌تر کردن مدل، خودبه‌خود اون رو توی دنبال کردن خواسته‌ی کاربر بهتر نمی‌کنه. مدل‌های بزرگ می‌تونن متن نادرست، آزارنده، یا به سادگی بی‌فایده بسازن. اسمش رو گذاشتن «هم‌سو نبودن» با کاربر؛ یعنی مدل دنبال خواسته‌ی شما نیست، دنبال ادامه‌ی محتمل متنه.

پایه در برابر دستیار

همون پژوهش ۲۰۲۲ یه آزمایش جالب کرد: یه مدل کوچیک رو با نمونه‌ها و بازخورد آدم‌ها آموزش داد تا دستیار بشه، و با یه مدل پایه‌ی خیلی بزرگ‌تر مقایسه‌اش کرد.

آدم‌ها جواب‌های مدل ۱٫۳ میلیاردی آموزش‌دیده رو به جواب‌های مدل پایه‌ی ۱۷۵ میلیاردی ترجیح دادن، با اینکه صد برابر کوچیک‌تر بود. درست‌تر هم بود و کمتر متن آزارنده می‌ساخت. البته هنوز اشتباه‌های ساده می‌کرد.

یعنی بعد از یه حدی، اینکه مدل چطور آموزش ببینه تا دستیار بشه، از اینکه چقدر بزرگه، مهم‌تره. درس‌های ایستگاه بعد همین آموزش‌ها رو باز می‌کنن.

مدل پایه می‌دونه چی نمی‌دونه

یه چیز عجیب درباره‌ی مدل‌های پایه: گاهی بهتر از دستیارها می‌دونن چقدر مطمئن باشن.

وقتی یه مدل به یه جواب ۶۰ درصد احتمال می‌ده، اگه واقعا حدود ۶۰ درصد وقت‌ها درست باشه، می‌گن «کالیبره» (Calibrated) هست؛ یعنی اطمینانش با درستیش جوره. گزارش فنی یه مدل بزرگ ۲۰۲۳ نشون داد مدل پایه‌ش روی یه آزمون چندگزینه‌ای خیلی خوب کالیبره بود، ولی بعد از آموزش‌هایی که دستیارش کرد، این جوری کمتر شد. یعنی آموزش دستیار مدل رو مفیدتر و مودب‌تر می‌کنه، ولی ممکنه حس اطمینانش رو کمتر قابل اعتماد کنه؛ یه دلیل دیگه که جواب‌های مطمئن یه دستیار رو هم باید سنجید. درس توهم این رو بیشتر باز می‌کنه.

کجا پیداشون می‌کنید

مدل پایه‌ی چت‌بات‌های بزرگ معمولا در دسترس عموم نیست. ولی توی دنیای مدل‌های وزن‌باز، داستان فرق می‌کنه.

خیلی از سازنده‌های مدل‌های وزن‌باز هر اندازه رو دو نسخه منتشر می‌کنن: پایه و گفتگو. مثلا یه انتشار ۲۰۲۳ مدل‌هایی از ۷ تا ۷۰ میلیارد پارامتر داد، هم نسخه‌ی پیش‌آموزش‌دیده، هم نسخه‌ای که برای گفتگو تنظیم شده بود. نسخه‌ی پایه برای کسی به کار میاد که می‌خواد مدل رو برای کار خودش فاین‌تیون کنه، یا رفتار خام مدل رو بررسی کنه؛ نسخه‌ی گفتگو برای کسی که می‌خواد همین الان باهاش کار کنه.

چرا هنوز مهمه

پس مدل پایه به‌دردنخوره؟ نه، دقیقا برعکس. همه‌ی زبان و دانشی که دستیار داره، از همین مدل پایه میاد.

مستندات Claude می‌گه Claude یه مدل زبانی خام نیست؛ روی یه مدل پایه ساخته شده و بعد تنظیم دقیق و با بازخورد آدم‌ها آموزش دیده تا دستیار مفیدی بشه. تنظیم دقیق یعنی ادامه‌ی آموزش همون مدل پایه با داده‌ی بیشتر، تا الگوهای اون داده رو بگیره. مثل یه ساختمون: پی و ستون‌ها مدل پایه‌ست، و طبقه‌ها روش ساخته می‌شن.

چند نکته

• مدل پایه ادامه می‌ده، جواب نمی‌ده. هر ادامه‌ی معقولی براش درسته.
• حقه‌ی سند. درخواست رو طوری بنویسید که ادامه‌اش جواب باشه.
• چند مثال خیلی کمک می‌کنه. حتی برای مدل پایه.
• بزرگ‌تر، دستیارتر نیست. آموزش بعدی مهم‌تره.
• دانش دستیار از مدل پایه‌ست. طبقه‌ها روی همون پی‌ان.

درس بعد یه محدودیت مهم مدل پایه رو نشون می‌ده که به دستیار هم ارث می‌رسه: تاریخ برش دانش.