حالا مدل‌های زبانی را می‌شناسید

یه حلقه

تبریک. پونزده تا ایستگاه. اگه بخوایم همه‌ش رو توی یه تصویر بکشیم، می‌شه این:

متن شما به توکن شکسته می‌شه. هر توکن یه بردار می‌شه. لایه‌های مدل، با میلیاردها پارامترشون، این بردارها رو با هم ترکیب می‌کنن و برای هر تکه‌ی ممکن یه احتمال می‌دن. یکی انتخاب می‌شه، به متن اضافه می‌شه، و کل حلقه از اول، تا جواب تموم بشه.

بقیه‌ی مسیر جواب چند تا سوال درباره‌ی همین حلقه بود: این عددها از کجا اومدن، چطور مدل دستیار شد، چطور باهاش حرف بزنیم، کجا اشتباه می‌کنه، چطور بسنجیمش، و چطور خودمون اجراش کنیم. لازم نیست همه‌ی جزئیات یادتون باشه؛ مهم اینه که این حلقه رو بشناسید و بدونید هر چیزی توی کدوم ایستگاهه.

پونزده ایستگاه

1. یه مدل زبانی فقط یه کار می‌کنه: تکه‌ی بعدی متن رو حدس می‌زنه، و «بزرگ» یعنی میلیاردها عدد و حجم خیلی زیادی متن.
2. متن اول به توکنها شکسته می‌شه، تکه‌هایی که گاهی یه کلمه‌ان و گاهی یه تیکه از کلمه، و فارسی برای همون متن توکن بیشتری می‌خواد.
3. هر توکن یه بردار می‌شه، یه دسته عدد که کلمه‌های هم‌معنی رو نزدیک هم می‌ذاره.
4. درون مدل لایه‌ها این بردارها رو با هم ترکیب می‌کنن و آخرش برای هر توکن ممکن یه احتمال درمیاد.
5. جواب توکن‌به‌توکن توی یه حلقه ساخته می‌شه، و دما تعیین می‌کنه چقدر جسورانه انتخاب کنه.
6. مدل اول با پیش‌آموزش روی حجم خیلی زیادی متن، فقط با حدس تکه‌ی بعدی، زبان و دانش رو یاد می‌گیره.
7. بعد با تنظیم با دستور و بازخورد آدم‌ها از یه ادامه‌دهنده‌ی متن به یه دستیار مفید و مودب تبدیل می‌شه.
8. با فاین‌تیون می‌شه مدل رو با داده‌ی خودتون برای یه کار مشخص آماده کرد.
9. پرامپت خوب یعنی روشن گفتن، مثال دادن، فرصت فکر کردن، و قالب مشخص برای جواب.
10. مدل گاهی با اطمینان چیز غلط می‌گه، که بهش توهم می‌گن، و می‌شه با دستور پنهان گولش زد.
11. با RAG سند درست پیدا و به پرامپت اضافه می‌شه، و با ابزار مدل می‌تونه کاری انجام بده، نه فقط حرف بزنه.
12. مدل‌های استدلالی پیش از جواب فکر می‌کنن، و مدل‌های چندحالته عکس و صدا رو هم می‌فهمن.
13. سنجیدن یعنی معیار روشن و آزمون روی کار واقعی، چون نمره‌ی آزمون‌های عمومی دام داره.
14. مدل وزن‌باز رو می‌شه روی کامپیوتر خودتون اجرا کرد، اگه توی حافظه‌تون جا بشه.
15. و توی فارسی، چون داده کمتره، مدل‌ها معمولا ضعیف‌ترن و باید جدا سنجید.

چهار لایه

این پونزده ایستگاه رو می‌شه توی چهار لایه دید، که هر کدوم روی قبلی سواره.

لایه‌ی اول اینه که مدل چطور کار می‌کنه: توکن، بردار، لایه‌های درون و حلقه‌ی ساختن متن. لایه‌ی دوم اینه که چطور ساخته می‌شه: پیش‌آموزش روی متن زیاد، بعد دستیار شدن با دستورهای نمونه و بازخورد آدم‌ها، و فاین‌تیون برای کارهای خاص. لایه‌ی سوم اینه که چطور به کار می‌ره: پرامپت، RAG، ابزار و ایجنت، و مدل‌هایی که پیش از جواب فکر می‌کنن. و لایه‌ی چهارم اینه که چطور بسنجیمش و کجا اجراش کنیم: توهم و کم کردنش، سنجش، اجرای لوکال، و فارسی.

وقتی یه خبر یا یه ابزار تازه می‌بینید، بپرسید مال کدوم لایه‌ست. یه «پنجره‌ی زمینه‌ی بزرگ‌تر» مال لایه‌ی اوله؛ یه «روش تازه‌ی آموزش» مال دوم؛ یه «ایجنت تازه» مال سوم؛ و یه «جدول رتبه‌ی تازه» مال چهارم. همین کافیه تا بدونید برای فهمیدنش کدوم درس رو دوباره ببینید.

یه سوال از اول تا آخر

ببینید این ایستگاه‌ها توی یه کار واقعی، که این‌جا ساختگیه، چطور پشت سر هم به کار میان:

1. یه نونوایی یه دستیار گفتگو برای مشتری‌هاش راه می‌اندازه. اول یه پیام سیستمی می‌نویسه: «تو دستیار نونوایی هستی، کوتاه و مودب جواب بده.»
2. یه مشتری می‌پرسه «جمعه‌ها تا کی بازید؟». پرسش به توکن شکسته می‌شه و کنار پیام سیستمی، توی پنجره‌ی زمینه قرار می‌گیره.
3. مدل ساعت کاری این نونوایی رو بلد نیست؛ پس با جستجوی برداری تکه‌ی درست از سند ساعت کاری پیدا و به پرامپت اضافه می‌شه.
4. مدل جواب رو توکن‌به‌توکن می‌سازه، با دمای پایین، چون این‌جا جواب درست مهم‌تر از جواب خلاقه.
5. نونوایی پیش از راه‌اندازی، صد تا پرسش واقعی جمع کرده و جواب‌ها رو سنجیده، با چند حالت لبه مثل پیام خالی.
6. چون پیام مشتری‌ها شماره‌تلفن و نشونی داره، یه مدل کوچیک رو روی کامپیوتر خود نونوایی اجرا می‌کنه، و چون مشتری‌ها فارسی می‌نویسن، آزمونش هم فارسیه.

هیچ‌کدوم از این قدم‌ها جادو نبود. هر کدوم یه درس از همین مسیر بود؛ فقط پشت سر هم.

حالا از پس اینا برمیاید

• وقتی یه دستیار جواب می‌ده، می‌دونید پشتش چه حلقه‌ایه و چرا کلمه‌به‌کلمه میاد.
• پرامپتی می‌نویسید که روشن باشه، مثال داشته باشه و جواب رو توی قالب درست بخواد.
• وقتی جوابی خیلی مطمئن به نظر میاد، یادتون هست که اطمینان یعنی درستی نیست، و چکش می‌کنید.
• وقتی یکی می‌گه «این مدل از همه بهتره»، می‌پرسید روی کدوم آزمون، و روی کار شما چطور.
• می‌دونید یه مدل وزن‌باز روی کامپیوتر شما جا می‌شه یا نه، و کی سرویس آنلاین بهتره.

پنج باور اشتباه

این مسیر چند تا باور رایج رو هم کنار زد. بیاید پنج تاش رو یه بار دیگه کنار هم ببینیم.

خیلی‌ها فکر می‌کنن چت‌بات خودش توی اینترنت می‌گرده؛ ولی مدل فقط چیزی رو می‌دونه که توی آموزش دیده، مگه اینکه یه ابزار جست‌وجو داشته باشه. فکر می‌کنن هر چی گفتی یادش می‌مونه؛ ولی فقط چیزی که توی زمینه‌ست، یا توی حافظه‌ای که ابزار جدا نگه می‌داره. فکر می‌کنن جواب مطمئن یعنی جواب درست؛ ولی توهم درست با همون لحن مطمئن میاد. فکر می‌کنن نمره‌ی بالای یه مدل یعنی برای کار اونا هم بهتره؛ ولی آزمون‌ها مرز دارن و فقط آزمون کار خودتون جواب می‌ده. و فکر می‌کنن فکری که یه مدل استدلالی نشون می‌ده دقیقا همون کاریه که کرده؛ ولی دیدیم همیشه این‌طور نیست.

آزمون پایانی و راه بعد

آزمون پایانی مسیر از همه‌ی درس‌ها سوال داره: آزمون پایانی مدل‌های زبانی. بعدش، دو جور راه جلوتونه:

اگه می‌خواید درون مدل رو کامل بشناسید، مسیر ترنسفورمر همون «درون مدل» این مسیر رو لایه‌به‌لایه باز می‌کنه. اگه می‌خواید همین فردا به کار ببرید، مسیرهای ChatGPT، Claude و Gemini قدم‌به‌قدم کار با هر کدوم رو یاد می‌دن. هر کدوم رو خواستید شروع کنید؛ پایه‌ش رو دارید.