مدل و چت‌بات: فرقشان

موتور و ماشین

وقتی با یه چت‌بات حرف می‌زنید، با دو تا چیز سروکار دارید که از بیرون یکی به نظر میان: یه موتور، و ماشینی که دورش ساخته شده.

موتور همون مدل زبانیه؛ شبکه‌ی عصبی‌ای که توی درس پیش‌بینی تکه‌ی بعد دیدیم. قوی‌ترین و گرون‌ترین بخش کاره، ولی تنهایی جایی نمی‌ره. ماشین همون چت‌باته: برنامه‌ای که مدل رو برداشته و دورش صندلی و فرمون و داشبورد ساخته. ChatGPT، Claude و Gemini هر کدوم یه ماشین‌ان، با موتور خودشون.

خیلی از چیزهایی که فکر می‌کنیم «هوش مدل» هست، در واقع کار ماشینه: اینکه حرف قبلی‌تون یادش می‌مونه، اینکه تاریخ امروز رو می‌دونه، اینکه می‌تونه توی اینترنت بگرده. این درس این تیکه‌ها رو یکی‌یکی از هم جدا می‌کنه.

مدل تنها

اگه مدل رو از ماشین دربیاریم و تنها نگاهش کنیم، فقط این کار رو بلده:

یه متن می‌گیره و برای تکه‌ی بعد احتمال می‌ده. همین. هر بار که صداش می‌کنید، از صفر شروع می‌کنه؛ هیچ‌چیز از دفعه‌ی قبل یادش نیست. نمی‌دونه امروز چندمه، چون فقط چیزهایی رو می‌دونه که توی متن آموزشش بوده. و خودش به اینترنت وصل نیست.

یه نکته‌ی دیگه هم هست. مدلی که فقط پیش‌آموزش دیده، به‌خودی‌خود توی جواب دادن یا پیروی از دستور خوب نیست؛ فقط متن رو ادامه می‌ده. مدل‌هایی که پشت چت‌بات‌ها هستن، یه آموزش دوم هم دیدن تا دستیار بشن؛ ولی حتی اون موقع هم هنوز همون موتورن: متن تو، احتمال بیرون.

پیام پنهان اول

اگه مدل تاریخ امروز رو نمی‌دونه، چطوری چت‌بات جوابتون رو با تاریخ درست می‌ده؟ با یه پیام که شما نمی‌بینید:

اول هر گفتگو، قبل از اولین پیام شما، برنامه‌ی چت یه متن به مدل می‌ده که اسمش پیام سیستمی هست. توش چیزهایی مثل تاریخ امروز هست، و اینکه دستیار چطور رفتار کنه؛ مثلا جواب‌ها چه شکلی باشن. مثلا سازنده‌ی یکی از چت‌بات‌ها رسما گفته رابط وب و اپ‌های گوشیش اول هر گفتگو همچین پیامی می‌دن، با اطلاعات به‌روز مثل تاریخ، و هر چند وقت یه بار هم عوضش می‌کنن.

مدل این پیام رو مثل بقیه‌ی متن می‌خونه، فقط اول از همه. پس وقتی می‌پرسید «امروز چندمه؟»، مدل جواب رو از توی همین پیام پیدا می‌کنه، نه از دانش خودش. درس پیام سیستمی مفصل‌تر درباره‌ش می‌گه.

حافظه‌ای که نیست

سوال بعدی: اگه مدل هر بار از صفر شروع می‌کنه، چرا چت‌بات حرف قبلی شما رو یادشه؟

جوابش ساده و یه کم غافلگیرکننده‌ست: یادش نیست. هر بار که یه پیام تازه می‌فرستید، برنامه‌ی چت کل گفتگو، از اول، با پیام سیستمی و همه‌ی پیام‌های شما و همه‌ی جواب‌های قبلی، رو دوباره به مدل می‌ده. مدل همه رو از نو می‌خونه و فقط تکه‌ی بعدی رو حدس می‌زنه. سازنده‌ی یکی از چت‌بات‌ها توی راهنمای برنامه‌نویس‌هاش صریحا نوشته که این دسترسی بی‌حافظه‌ست و هر بار باید کل تاریخچه‌ی گفتگو فرستاده بشه.

این یه نتیجه‌ی مهم داره. مدل فقط یه مقدار مشخص متن رو می‌تونه یه‌جا ببینه، که اسمش پنجره‌ی زمینه هست؛ یه جور حافظه‌ی کاری. اگه گفتگو خیلی طولانی بشه، از این پنجره بزرگ‌تر می‌شه، و برنامه مجبوره یه بخشی از اولش رو کنار بذاره یا خلاصه کنه. برای همین توی گفتگوهای خیلی طولانی، چت‌بات گاهی چیزهای اول گفتگو رو «فراموش» می‌کنه.

یعنی «حافظه» هم کار ماشینه، نه موتور. اینکه یه چت‌بات بین دو گفتگوی جدا هم چیزی از شما یادش بمونه، باز هم کار برنامه‌ست، که اون چیز رو یه جا نگه داشته و دفعه‌ی بعد دوباره به مدل می‌ده.

ابزار

پس وقتی چت‌بات توی اینترنت می‌گرده، کی گشته؟ باز هم ماشین:

مدل خودش جستجو نمی‌کنه، ولی می‌تونه یه درخواست بنویسه. یعنی به جای جواب، یه متن به شکل مشخص می‌نویسه که معنیش اینه: «این رو برام بگرد». برنامه‌ی چت این درخواست رو می‌بینه، واقعا جستجو می‌کنه، نتیجه رو به آخر گفتگو اضافه می‌کنه و دوباره به مدل می‌ده. حالا مدل با این متن تازه، جواب آخر رو می‌نویسه.

جستجو فقط یکی از ابزارهاست. خوندن فایلی که فرستادید، حساب کردن با یه ماشین‌حساب واقعی، یا وصل شدن به برنامه‌های دیگه، همه همین شکل رو دارن: مدل درخواست می‌کنه، برنامه انجام می‌ده. حتی یه روش استاندارد باز هم براش ساختن که سازنده‌ش تشبیهش کرده به یه پریز یکسان برای وصل کردن مدل‌ها به ابزارها و منبع‌ها. درس استفاده از ابزار این رو کامل باز می‌کنه.

بقیه‌ی ماشین

پیام سیستمی، فرستادن گفتگو و ابزار، سه تا تیکه‌ی اصلی ماشین بودن. ولی یه چت‌بات امروزی کلی تیکه‌ی دیگه هم داره.

ویکی‌پدیا درباره‌ی ChatGPT می‌گه جستجوی وب از مارس ۲۰۲۳ بهش اضافه شد، و ساختن عکس از اکتبر ۲۰۲۳؛ ساختن عکس کار یه مدل دیگه‌ست که چت‌بات صداش می‌زنه، نه کار خود مدل زبانی. گفتگو با صدا و عکس هم هست؛ برای صدا معمولا یه تیکه حرف شما رو به متن تبدیل می‌کنه و یه تیکه‌ی دیگه جواب رو دوباره صدا می‌کنه، درس گفتگوی صوتی با مدل. خوندن فایلی که می‌فرستید هم یعنی متن فایل یه جوری توی پرامپت گذاشته می‌شه، مثل همون کاری که توی درس RAG دیدیم.

سه تیکه‌ی دیگه کمتر دیده می‌شن. یکی حافظه‌ی بین گفتگوهاست: ویکی‌پدیا می‌گه یه گزینه‌ی دلخواه هست که چیزهایی که خواستید یادش بمونه رو نگه می‌داره، و یه گزینه‌ی دیگه که گفتگوهای قدیمی رو هم یادش میاره. این هم کار ماشینه: اون چیزها رو اول هر گفتگو توی متن می‌ذاره. دومی فیلتر ایمنیه: مدل‌های جدایی که درخواست‌ها و جواب‌ها رو می‌سنجن تا چیز آسیب‌زا رد بشه. سومی مسیریابه: از اوت ۲۰۲۵، طبق ویکی‌پدیا، یه مسیریاب بسته به سختی سوال، یه مدل رو انتخاب می‌کنه؛ و وقتی سقف استفاده‌ی رایگان پر بشه، کار به یه مدل سبک‌تر سپرده می‌شه.

موتور عوض می‌شه

یه چیز دیگه هم هست که خیلی‌ها نمی‌دونن: موتور یه چت‌بات ثابت نیست.

ChatGPT ۳۰ نوامبر ۲۰۲۲ با یه مدل اومد. ویکی‌پدیا می‌گه مارس ۲۰۲۳ مدلش عوض شد، مه ۲۰۲۴ دوباره، و اوت ۲۰۲۵ دوباره؛ اسم چت‌بات همونه، ولی موتور زیرش چند بار عوض شده. برای همین اگه یه سوال رو امروز بپرسید و یه سال پیش هم پرسیده بودید، ممکنه جواب خیلی فرق کنه. بیشتر چت‌بات‌ها هم یه جایی دارن که می‌شه مدل رو انتخاب کرد؛ اگه جواب یه سوال سخت راضی‌تون نکرد، یه مدل قوی‌تر یا یه مدل استدلالی رو امتحان کنید.

یه موتور، چند ماشین

حالا که فرق موتور و ماشین رو می‌دونید، یه چیز عجیب معنی پیدا می‌کنه:

یه مدل می‌تونه توی چند تا برنامه‌ی مختلف باشه. توی اپ گوشی خود سازنده، با پیام سیستمی خودش. توی سایت یه فروشگاه، با یه پیام سیستمی که می‌گه «فقط درباره‌ی کالاهای ما حرف بزن». یا مستقیم دست یه برنامه‌نویس، که پیام سیستمی اپ رو اصلا نداره و خودش یکی می‌نویسه.

موتور هر سه یکیه، ولی ماشین‌ها فرق دارن؛ پس یه سوال توی هر کدوم ممکنه جواب کمی متفاوت بگیره. مثلا توی یکی تاریخ امروز رو می‌دونه و توی یکی نه؛ یکی می‌تونه بگرده و یکی نه. اگه دیدید یه چت‌بات یه جایی کاری رو بلده و یه جای دیگه نه، اول بپرسید: فرق توی موتوره یا توی ماشین؟

چت‌بات‌های قبل از مدل‌های زبانی

چت‌بات خیلی قدیمی‌تر از مدل‌های زبانی بزرگه. ویکی‌پدیا تعریفش رو این‌طوری می‌گه: برنامه‌ای که با متن یا صدا گفتگو می‌کنه. ولی تا چند سال پیش، پشت این گفتگو هیچ مدل زبانی‌ای نبود.

سال ۱۹۶۶ یه برنامه ساخته شد که کلمه‌های کلیدی حرف شما رو پیدا می‌کرد و یه جواب از پیش نوشته‌شده برمی‌گردوند؛ ویکی‌پدیا می‌گه این برنامه فقط یه توهم فهمیدن می‌ساخت. ۱۹۹۵ یه برنامه با هزاران الگوی آماده اومد که باز هیچ فکری نمی‌کرد، و ۱۹۹۷ برنامه‌ای که جواب‌هاش رو از حرف خود آدم‌ها یاد می‌گرفت. چت‌بات‌های پشتیبانی که «برای پیگیری سفارش ۱ رو بزنید» می‌گن، هنوز از همین نسل قانون‌محورن.

ویکی‌پدیا می‌گه این چت‌بات‌های قدیمی جلوی سوال غیرمنتظره دست‌وپاشون بسته بود. از دهه‌ی ۲۰۲۰، چت‌بات‌ها بیشتر روی مدل‌های زبانی بزرگ ساخته شدن، و برای همین می‌تونن به هر سوالی یه جواب روون بدن. همین روونی هم خطر خودش رو داره، که فصل بعد می‌بینیم.

کجا مراقب باشید

چت‌بات هر چقدر هم خوب حرف بزنه، چند جا هست که باید حواستون باشه.

اولیش توهم هست: ویکی‌پدیا می‌گه چت‌بات‌های مدل‌زبانی ممکنه اطلاعات باورپذیر ولی غلط بسازن. دومی حریم خصوصیه: گفتگوها معمولا ذخیره می‌شن، و ویکی‌پدیا می‌گه همین تاریخچه‌ی ذخیره‌شده خطر امنیتی هم داره؛ درس حریم خصوصی و داده‌ی شما. سومی سلامته: یه بررسی ۲۰۲۵ روی شش چت‌بات بزرگ دید هیچ‌کدوم همیشه استانداردهای ایمنی‌ای رو که متخصص‌ها برای بحران روحی تعیین کرده بودن رعایت نکردن؛ پس برای حال بد، با یه آدم متخصص حرف بزنید. و چهارمی سقف استفاده‌ست، که بعدش جواب‌ها ممکنه از یه مدل سبک‌تر بیاد.

چند نکته

• مدل فقط متن می‌بینه. هر چیزی که می‌خواید بدونه، باید یه جوری توی متن جلوش باشه.
• گفتگوهای خیلی طولانی رو تازه کنید. اگه چت‌بات چیزهای اول رو فراموش کرد، یه گفتگوی تازه با یه خلاصه شروع کنید.
• برای خبر تازه، ابزار جستجو لازمه. بی اون، مدل فقط تا تاریخ داده‌ی آموزشش خبر داره.
• یه سوال، چند برنامه، چند جواب. فرق ممکنه از ماشین باشه، نه از موتور.

درس بعد می‌ره سراغ دسته‌ی بزرگ‌تری که مدل زبانی یکی از اعضاشه: هوش مصنوعی مولد.