کار با فایل و متن بلند

میز کار

فرض کنید به یه دستیار یه پوشه‌ی پر از برگه می‌دید. اون فقط می‌تونه به اندازه‌ی میزش برگه پهن کنه و یکجا ببینه. بقیه می‌ره توی جعبه‌ی کنار میز:

هوش مصنوعی هم همین‌جوریه. هر مدل فقط تا یه اندازه از متن رو یکجا می‌بینه، و چیزی که بیرون می‌مونه، برای مدل وجود نداره؛ مگه اینکه خلاصه بشه، پیدا بشه یا دوباره بهش داده بشه. به این میز، «پنجره‌ی متن» می‌گن، و بعضی‌ها اون رو به حافظه‌ی کاری آدم تشبیه کردن.

اندازه‌ی میز

اندازه‌ی این میز رو با «توکن» می‌سنجن، نه با کلمه. توکن همون تیکه‌های متنه که توی درس هوش مصنوعی متن‌نویس دیدیم. این میزها خیلی بزرگ شدن:

یه مدل سال ۲۰۱۹ فقط حدود هزار توکن رو یکجا می‌دید. تا نیمه‌ی دهه‌ی ۲۰۲۰، این به صدها هزار تا میلیون‌ها توکن رسید. یه نکته هم هست: پرسش شما و جواب مدل هم از همین میز جا می‌گیرن. پس فایل خیلی بزرگ، جای جواب رو هم تنگ می‌کنه.

وسط گم می‌شه

میز بزرگ‌تر، همیشه یعنی دیدن بهتر نیست. پژوهش‌ها نشون دادن وقتی یه چیز مهم وسط یه متن خیلی بلنده، مدل کمتر به کارش می‌گیره تا وقتی اول یا آخر متنه:

دو تا کار ساده کمک می‌کنه: سوال و دستورتون رو اول یا آخر بنویسید، نه گم‌شده وسط متن. و اگه دنبال یه بخش خاص هستید، بگید کجاست؛ مثلا «فصل سوم» یا «جدول صفحه‌ی ۱۲».

دقیق بگید چی می‌خواید

«این رو بخون» یه دستور خیلی کلیه. چهار قدم، برای یه قرارداد یا یه PDF:

1. فایل رو بدید. اگه چیز خصوصی توشه، اول پاکش کنید.
2. دقیق بگید چی می‌خواید. «از این قرارداد، فقط تاریخ‌ها و مبلغ‌ها رو دربیار.»
3. بخواید جاش رو هم بگه. «کنار هر کدوم، شماره‌ی صفحه یا بند رو بنویس.»
4. با خود فایل چک کنید. از روی همون شماره‌ها، چند تاش رو نگاه کنید.

قدم سوم مهم‌ترینه؛ چون چک کردن رو آسون می‌کنه. پنج تیکه‌ی پرامپت خوب رو هم یادتون باشه؛ توی درس پرامپت خوب دیدیم.

کتاب رو تیکه‌تیکه

اگه فایل از میز بزرگ‌تره، یا جواب‌ها جزئیات رو جا می‌ندازن، تیکه‌تیکه جلو برید:

هر فصل رو جدا بدید و یه خلاصه بگیرید. آخرش همه‌ی خلاصه‌ها رو با هم بدید و یه خلاصه‌ی کلی بخواید. این‌جوری هیچ فصلی وسط یه متن خیلی بلند گم نمی‌شه.

ابزارهایی که اول می‌گردن

بعضی ابزارها یه کار زیرکانه می‌کنن: کل فایل‌ها رو روی میز نمی‌ذارن. اول توی فایل‌ها می‌گردن، تیکه‌هایی که به سوال شما مربوطه رو پیدا می‌کنن، و فقط همون‌ها رو به مدل می‌دن:

این‌جوری مدل از روی متن خود فایل جواب می‌ده، و جواب دقیق‌تر و با چیزهای ساختگی کمتر درمیاد. ولی اگه جست‌وجو تیکه‌ی درست رو پیدا نکنه، جواب هم از دست می‌ره؛ برای همین باز هم چک کنید.

چک کنید

مدل حتی وقتی فایل جلوشه، ممکنه یه چیزی رو اشتباه بگه یا از خودش بسازه. مخصوصا عددها، تاریخ‌ها و اسم‌ها رو با خود فایل مقایسه کنید. چرا مدل گاهی با اطمینان اشتباه می‌گه رو توی درس توهم هوش مصنوعی می‌بینید.

و یادتون باشه، فایلی که می‌دید هم مثل پرامپت، معمولا روی سرور شرکت سازنده می‌ره. فایل‌های کاری و محرمانه رو اول ببینید که اجازه دارید؛ این رو توی درس هوش مصنوعی در محل کار می‌گیم.