آموزشساختن اپ با مدل زبانی

درس ۲ از ۴۸، برنامه‌نویسی و علوم کامپیوتر، حدود ۳۰ دقیقه خواندن

مهندسی هوش مصنوعی چیست

جواب کوتاه

مهندسی هوش مصنوعی (AI Engineering)، یعنی ساختن نرم‌افزاری که یه مدل آماده، مثل یه مدل زبانی بزرگ، بخشی ازشه؛ با همه‌ی دقت، تست و امنیتی که هر نرم‌افزار دیگه لازم داره. فرقش با یادگیری ماشین اینه که اونجا، کار اصلی ساختن و آموزش دادن مدله؛ ولی اینجا، از یه مدل آماده استفاده می‌کنیم و کار اصلی، ساختن همه‌چیز دور مدله: پرامپت، رسوندن داده‌ی درست به مدل، ابزارهایی که مدل به کار می‌بره، بررسی جواب‌ها، و سنجش مداوم. چند چیز این کار رو از برنامه‌نویسی معمولی متفاوت می‌کنه: جواب مدل، هر بار کمی فرق می‌کنه؛ مدل، فقط یه مقدار محدود متن رو، که بهش پنجره‌ی زمینه می‌گن، می‌بینه؛ گاهی، با اطمینان کامل، چیزی می‌سازه که درست نیست؛ و هر درخواست، زمان و هزینه داره. برای همین، کار اصلی، یه چرخه‌ست: ساختن، سنجیدن و بهتر کردن.

یه کارمند خیلی باهوش، ولی پیش‌بینی‌ناپذیر

فرض کنید یه کارمند تازه استخدام کردید: خیلی باهوشه، خیلی سریع می‌نویسه، تقریبا درباره‌ی هر موضوعی یه چیزی می‌دونه. ولی دو عادت عجیب داره: اگه یه سوال رو دو بار بپرسید، دو جواب کمی متفاوت می‌ده؛ و گاهی، وقتی جواب رو نمی‌دونه، با اطمینان کامل، یه چیزی می‌سازه.

با چنین کارمندی، چطور کار می‌کنید؟ بهش دستورهای روشن می‌دید، مدارک لازم رو جلوش می‌ذارید، کارش رو پیش از فرستادن بررسی می‌کنید، و کارهای حساس رو، بی تایید، بهش نمی‌سپرید. مهندسی هوش مصنوعی، دقیقا همینه: ساختن یه محیط کار، دور یه مدل زبانی. توی درس قبل نقشه‌ی مسیر رو دیدیم؛ این درس، خود این کار رو تعریف می‌کنه.

مهندسی هوش مصنوعی چیست

مهندسی هوش مصنوعی (AI Engineering)، یعنی ساختن نرم‌افزاری که یه مدل هوش مصنوعی آماده، بیشتر وقت‌ها یه مدل زبانی بزرگ، بخشی ازشه. کلمه‌ی کلیدی، «مهندسی» ـه: یعنی همون دقت، تست، امنیت و نگه‌داری‌ای که هر نرم‌افزار جدی لازم داره؛ فقط این بار، با یه تیکه‌ی تازه، که رفتارش، با بقیه‌ی کد، فرق داره.

این اسم، تازه‌ست؛ و هنوز، همه، یه تعریف دقیق ازش ندارن. ولی ایده‌ی اصلیش، روشنه: مدل، آماده‌ست؛ کار شما، ساختن یه چیز مفید و قابل اعتماد با اونه. مثل آشپزی که مواد رو نمی‌کاره، ولی از بهترین مواد، غذای خوب می‌پزه.

ساختن مدل، یا به کار بردنش

دو کار خیلی متفاوت، گاهی با هم قاطی می‌شن. یکی، ساختن و آموزش دادن یه مدل؛ که بهش یادگیری ماشین (Machine Learning) می‌گن: جمع کردن داده، طراحی شبکه، آموزش دادن، و سنجیدن. این کار، ریاضی زیاد، داده‌ی زیاد، و معمولا سخت‌افزار گرون می‌خواد. کتابخونه، یه مسیر کامل برای همین داره.

کار دیگه، به کار بردن یه مدل آماده، توی یه اپ؛ که همین مسیره. اینجا، نه مدل رو می‌سازید، نه آموزشش می‌دید؛ از راه API، صداش می‌زنید. بیشتر کاری که امروز با مدل‌های زبانی انجام می‌شه، از این نوع دومه؛ و برای شروعش، لازم نیست ریاضی‌دان یا پژوهشگر باشید.

تیکه‌های یه اپ مدل زبانی

یه اپ مدل زبانی، معمولا این تیکه‌ها رو داره، که هر کدوم، یه ایستگاه این مسیره:

  • مدل: موتوری که متن می‌گیره و متن می‌ده.
  • پرامپت: دستورهایی که به مدل می‌دید.
  • زمینه: اطلاعاتی که، کنار سوال، به مدل می‌رسونید؛ مثل تیکه‌هایی از سندهای خودتون.
  • ابزار: کارهایی که مدل می‌تونه درخواست کنه؛ مثل جستجو یا حساب.
  • بررسی و حصار: کدی که جواب‌ها رو پیش از رسیدن به کاربر، می‌سنجه.
  • سنجش: آزمون‌هایی که می‌گن کل اپ، چقدر خوب کار می‌کنه.

مدل: موتور

مدل، قلب اپه؛ ولی کمترین بخشیه که خودتون می‌سازید. انتخابش می‌کنید: باز یا بسته، کوچیک یا بزرگ، محلی یا ابری. و از راه API، صداش می‌زنید؛ مثلا API محلی Ollama، که طبق سند رسمیش، روی کامپیوتر خودتون، روی نشانی localhost و دریچه‌ی ۱۱۴۳۴، در دسترسه.

انتخاب مدل، یه تصمیم مهندسیه، نه سلیقه‌ای: هر مدل، سرعت، هزینه، کیفیت و نیاز حافظه‌ی متفاوتی داره. درس چهارم، یاد می‌ده چطور این تصمیم رو بگیرید؛ و یه قاعده‌ی کلی: همیشه با کوچیک‌ترین مدلی که کار رو درست انجام می‌ده، شروع کنید.

پرامپت: دستور کار

پرامپت، دستورهاییه که به مدل می‌دید. توی یه اپ، پرامپت، معمولا دو بخش داره: یه بخش ثابت، که برنامه‌نویس نوشته و رفتار کلی مدل رو تعیین می‌کنه؛ و یه بخش متغیر، که از ورودی کاربر یا داده میاد. بخش ثابت، مثل شرح وظایف همون کارمند تازه‌ست.

نوشتن پرامپت خوب، یه مهارته؛ ولی یه مهارت مهندسی، نه جادو. پرامپت خوب، روشن، مشخص و تست‌شده‌ست؛ و مثل کد، نسخه داره و هر تغییرش، سنجیده می‌شه. ایستگاه سوم، کامل درباره‌ی پرامپت در کده.

زمینه: مدارک روی میز

مدل، فقط چیزی رو می‌دونه که یا موقع آموزش دیده، یا شما، همین الان، بهش داده‌اید. برای همین، یکی از مهم‌ترین کارها، رسوندن اطلاعات درست به مدله؛ مثل گذاشتن مدارک لازم روی میز همون کارمند، پیش از اینکه ازش سوال بپرسید.

به این اطلاعات، زمینه (Context) می‌گن؛ و هنر انتخاب اینکه چه چیزی، و چقدر، به مدل بدید، گاهی مهندسی زمینه (Context Engineering) نام داره. RAG، که ایستگاه پنجمه، یه روش منظم برای همینه: پیدا کردن تیکه‌های مرتبط از سندهای شما، و گذاشتنشون توی زمینه.

ابزار: دست‌های مدل

مدل، به‌تنهایی، فقط متن می‌نویسه؛ نمی‌تونه ساعت رو ببینه، توی دیتابیس بگرده، یا یه ایمیل بفرسته. ابزارها، دست‌های مدلن: تابع‌هایی که برنامه‌ی شما داره، و مدل می‌تونه درخواست کنه که صدا زده بشن؛ با ورودی‌ای که خودش انتخاب می‌کنه.

نکته‌ی کلیدی: مدل، خودش ابزار رو اجرا نمی‌کنه؛ فقط می‌گه «این ابزار رو، با این ورودی، صدا بزن». برنامه‌ی شماست که تصمیم می‌گیره واقعا صداش بزنه یا نه. یعنی کنترل، همیشه، دست برنامه‌ست؛ و این، پایه‌ی امنیت ایجنت‌هاست.

داده‌ی خودتون

مدل‌های عمومی، از روی متن‌های عمومی یاد گرفتن؛ و داده‌ی خصوصی شما، مثل سندهای شرکت، قیمت‌های امروز فروشگاه، یا تاریخچه‌ی سفارش‌های یه مشتری، رو نمی‌دونن. بیشتر ارزش یه اپ مدل زبانی، از همین ترکیب میاد: توانایی عمومی مدل، با داده‌ی خاص شما.

و همین‌جا، یه مسئولیت بزرگ هم هست: داده‌ی خصوصی، باید با دقت به مدل برسه؛ فقط به اندازه‌ی لازم، فقط به کاربری که اجازه داره، و اگه حساسه، با مدلی که داده رو بیرون نمی‌بره. همون‌طور که توی درس قبل دیدیم، اجرای محلی، یه راه ساده برای این آخریه.

بررسی جواب‌ها

کارمند تازه‌ی باهوش، کارش رو پیش از فرستادن به مشتری، یه نفر بررسی می‌کنه. توی اپ هم، جواب مدل، پیش از رسیدن به کاربر یا اجرا شدن، باید بررسی بشه: آیا شکلش درسته؟ آیا یه چیز خطرناک یا نامربوط نگفته؟ آیا از داده‌ای که بهش دادیم، فراتر نرفته؟

بخشی از این بررسی‌ها، کد ساده‌ان؛ مثل اینکه JSON ـی که مدل داده، درست باشه. بخشی، پیچیده‌ترن؛ مثل اینکه جواب، واقعا از روی سندها اومده باشه. ایستگاه‌های چهارم، هشتم و نهم، هر کدوم، یه بخش از این بررسی‌ها رو یاد می‌دن.

سنجش: کل اپ، چقدر خوبه

بررسی، درباره‌ی یه جواب تکیه؛ ولی سنجش (Evaluation)، درباره‌ی کل اپ. یه دسته سوال آزمون می‌سازید، با جواب‌های خوب یا معیارهای خوب بودن؛ و اپ رو، روی همه‌شون، اجرا می‌کنید و نمره می‌دید. هر بار که پرامپت، مدل یا هر چیز دیگه‌ای رو عوض می‌کنید، دوباره می‌سنجید.

این، شاید مهم‌ترین تفاوت یه اپ حرفه‌ای با یه آزمایش آماتوریه. آماتور، چند سوال دستی می‌پرسه و اگه جواب‌ها خوب بود، راضیه؛ حرفه‌ای، با عدد می‌دونه که تغییر امروز، اپ رو بهتر کرد یا بدتر. ایستگاه نهم، و مسیر جدای تست و سنجش کتابخونه، کامل یادش می‌دن.

چرا این کار، با برنامه‌نویسی معمولی فرق داره

توی برنامه‌نویسی معمولی، یه تابع، با یه ورودی، همیشه یه خروجی می‌ده؛ و اگه یه بار درست کار کرد، همیشه درست کار می‌کنه. توی مهندسی هوش مصنوعی، چند چیز، این اطمینان رو به هم می‌زنن؛ که بخش‌های بعدی، یکی‌یکی می‌بیننشون:

  • جواب، هر بار کمی فرق می‌کنه.
  • مدل، فقط یه مقدار محدود متن رو می‌بینه.
  • مدل، گاهی چیز ساختگی، با اطمینان، می‌گه.
  • هر درخواست، زمان می‌بره و گاهی هزینه داره.
  • ورودی‌ها، زبان آزادن؛ یعنی بی‌نهایت حالت ممکن.

جواب، هر بار کمی متفاوت

همون‌طور که توی مسیر ریاضی برای هوش مصنوعی دیدیم، مدل زبانی، برای هر تیکه‌ی بعدی، یه احتمال حساب می‌کنه و یکی رو، از روی همین احتمال‌ها، انتخاب می‌کنه. اگه این انتخاب، کمی تصادفی باشه، که معمولا هست، یه سوال، دو بار، دو جواب کمی متفاوت می‌گیره.

این، برای یه نویسنده‌ی خلاق، خوبه؛ ولی برای یه اپ، که باید قابل اعتماد باشه، یه چالشه. راه‌ها: کم کردن تصادفی بودن، با یه تنظیم به اسم دما، که ایستگاه دوم یاد می‌ده؛ خواستن جواب با شکل ثابت؛ و مهم‌تر از همه، سنجیدن روی چند بار اجرا، نه یه بار.

یه نکته‌ی عملی دیگه: وقتی یه باگ رو گزارش می‌دید، یا یه رفتار بد رو بررسی می‌کنید، همیشه پرامپت کامل، زمینه، مدل و تنظیم‌ها رو کنار جواب نگه دارید. بی این‌ها، تکرار کردن همون رفتار، تقریبا ناممکنه؛ چون دفعه‌ی بعد، مدل ممکنه یه جواب دیگه بده و شما فکر کنید مشکل خودش حل شده.

پنجره‌ی زمینه

طبق سند رسمی Ollama، طول زمینه (Context Length)، بیشترین تعداد توکنیه که مدل، توی حافظه، بهش دسترسی داره. یعنی مدل، نمی‌تونه یه کتاب هزارصفحه‌ای رو یه‌جا بخونه؛ فقط یه پنجره‌ی محدود از متن، شامل پرامپت، زمینه و خود گفت‌وگو، رو می‌بینه؛ و هر چی بیرون این پنجره باشه، براش وجود نداره.

همون سند می‌گه بزرگ‌تر کردن طول زمینه، حافظه‌ی بیشتری لازم داره؛ و کارهایی مثل جستجو توی وب، ایجنت‌ها و ابزارهای برنامه‌نویسی، زمینه‌ی بزرگ‌تری می‌خوان. یعنی پنجره‌ی زمینه، یه منبع محدود و گرونه؛ و یکی از کارهای مهندسی هوش مصنوعی، پر کردنش با مهم‌ترین چیزهاست.

توکن: تیکه‌های متن

مدل‌های زبانی، متن رو کلمه به کلمه نمی‌خونن؛ تیکه به تیکه می‌خونن، و به هر تیکه، توکن (Token) می‌گن. یه توکن، می‌تونه یه کلمه‌ی کامل باشه، یه بخش از یه کلمه، یا یه علامت. طول زمینه، هزینه‌ی سرویس‌های ابری، و سرعت جواب، همه، با توکن اندازه گرفته می‌شن.

یه نکته‌ی عملی: تعداد توکن‌های یه متن، به زبانش هم بستگی داره؛ و برای خیلی از زبان‌ها، از جمله فارسی، یه متن هم‌اندازه، معمولا توکن‌های بیشتری از انگلیسی می‌سازه. یعنی همون پنجره‌ی زمینه، متن فارسی کمتری جا می‌ده. ایستگاه دوم، یه درس کامل درباره‌ی توکن و هزینه داره.

برای همین، وقتی یه اپ فارسی می‌سازید، ارزش داره که یه بار، با یه ابزار شمارش توکن که خود مدل یا سرویس می‌ده، ببینید متن‌های واقعی‌تون چند توکن می‌شن. این عدد، هم روی هزینه اثر داره، هم روی اینکه چقدر زمینه توی پنجره جا می‌شه، هم روی سرعت جواب.

جواب‌های ساختگی

یکی از معروف‌ترین ضعف‌های مدل‌های زبانی، اینه که گاهی، با اطمینان کامل، چیزی می‌گن که درست نیست: یه منبع که وجود نداره، یه عدد غلط، یا یه رویداد که هیچ‌وقت اتفاق نیفتاده. به این، گاهی توهم (Hallucination) می‌گن. دلیلش، همون کار اصلی مدله: حدس زدن محتمل‌ترین ادامه، نه بررسی درستی.

برای اپ، این یعنی هیچ‌وقت، جواب مدل رو، بی پشتوانه، به‌عنوان حقیقت به کاربر ندید. راه‌ها: رسوندن داده‌ی درست با RAG، خواستن از مدل که بگه از کدوم سند آورده، و بررسی ادعاهای مهم. همون کارمند باهوشی که گاهی چیز می‌سازه.

زمان جواب

یه تابع معمولی، توی کسری از میلی‌ثانیه جواب می‌ده؛ ولی یه مدل زبانی، بسته به اندازه‌ی مدل، طول جواب و سخت‌افزار، ممکنه چند ثانیه یا بیشتر طول بکشه. برای یه کاربر، که روی یه دکمه زده، چند ثانیه، طولانیه.

مهندسی هوش مصنوعی، باید با این زمان کنار بیاد: انتخاب مدل کوچیک‌تر، وقتی کافیه؛ کوتاه نگه داشتن پرامپت و جواب؛ نشون دادن یه حالت انتظار روشن به کاربر؛ و تعیین یه زمان پایان، که اگه مدل جواب نداد، برنامه گیر نکنه. ایستگاه دوم، یه درس درباره‌ی خطا، تلاش دوباره و زمان پایان داره.

هزینه

با مدل محلی، هر درخواست، هزینه‌ی مستقیمی نداره؛ فقط سخت‌افزار و برق. ولی با مدل‌های ابری، معمولا بر اساس تعداد توکن‌ها، پول پرداخت می‌شه. برای یه اپ کوچیک، ناچیزه؛ ولی برای یه ایجنت که برای هر کار، ده‌ها درخواست می‌فرسته، یا یه اپ با هزاران کاربر، می‌تونه زیاد بشه.

پس هزینه، یه معیار مهندسیه، مثل سرعت و کیفیت. یه اپ خوب، فقط وقتی مدل بزرگ رو صدا می‌زنه که لازمه؛ جواب‌های تکراری رو نگه می‌داره؛ و پرامپت‌ها رو، بی اضافه‌گویی، می‌نویسه. توی این مسیر، با مدل محلی، این‌ها رو بی ترس از هزینه، تمرین می‌کنیم.

حریم خصوصی، یه تصمیم مهندسی

هر داده‌ای که به یه مدل ابری فرستاده می‌شه، از کنترل شما بیرون می‌ره و روی سرورهای دیگه‌ای پردازش می‌شه. برای داده‌ی حساس، این، یه تصمیم جدیه، که باید از همون اول، توی طراحی اپ، گرفته بشه؛ نه بعدا.

طبق پرسش‌های رایج رسمی Ollama، با اجرای محلی، پرامپت‌ها و داده‌ها، دیده نمی‌شن. پس برای داده‌ی حساس، مدل محلی یه انتخاب طبیعیه. و یه قاعده‌ی کلی‌تر: هیچ‌وقت، بیشتر از مقدار لازم، داده به مدل ندید؛ نه به خاطر هزینه، که به خاطر امنیت.

حصار، دور مدل

حصار (Guardrail)، یعنی هر کدی که جلوی رفتارهای ناخواسته‌ی مدل رو می‌گیره: محدود کردن موضوع‌هایی که اپ درباره‌شون جواب می‌ده، بررسی ورودی‌های مشکوک پیش از رسیدن به مدل، بررسی جواب‌ها پیش از رسیدن به کاربر، و محدود کردن کارهایی که یه ایجنت، بی تایید، می‌تونه بکنه.

مثل حصار دور یه مزرعه: مدل، توی محدوده‌ی خودش، آزاده؛ ولی نمی‌تونه از اون بیرون بره. یه قاعده‌ی مهم: حصارهای مهم، باید توی کد باشن، نه فقط توی پرامپت؛ چون پرامپت رو، با تزریق پرامپت، می‌شه دور زد، ولی کد رو نه. ایستگاه هشتم، کامل درباره‌شه.

اول، ساده‌ترین راه

یه اصل مهم مهندسی هوش مصنوعی: همیشه با ساده‌ترین راهی که کار رو انجام می‌ده، شروع کنید. اول، یه پرامپت خوب، با یه مدل کوچیک. اگه کافی نبود، داده‌ی بیشتر توی زمینه. اگه باز کافی نبود، RAG یا ابزار. و فقط اگه هیچ‌کدوم کافی نبود، یه ایجنت چندمرحله‌ای.

چرا؟ چون هر لایه‌ی پیچیدگی، کند‌تر، گرون‌تر و سخت‌تر برای تست و اعتماده. خیلی از مسئله‌هایی که به نظر میاد یه ایجنت پیچیده لازم دارن، با یه پرامپت خوب و چند ابزار ساده، حل می‌شن. و بعضی مسئله‌ها، اصلا مدل زبانی لازم ندارن؛ یه کد معمولی، دقیق‌تر و ارزون‌تره.

چرخه: بساز، بسنج، بهتر کن

کار روزانه‌ی مهندسی هوش مصنوعی، یه چرخه‌ست. یک، یه نسخه‌ی ساده بسازید. دو، با یه دسته سوال آزمون، بسنجیدش. سه، ببینید کجاها بد کار می‌کنه، و یه چیز رو عوض کنید: پرامپت، زمینه، مدل، یا ابزارها. چهار، دوباره بسنجید. و همین‌طور، تا وقتی که نتیجه، به اندازه‌ی کافی خوب بشه.

این چرخه، توی برنامه‌نویسی معمولی هم هست؛ ولی اینجا، چون رفتار مدل قابل پیش‌بینی نیست، خیلی مهم‌تره. بی سنجش، نمی‌دونید تغییرتون بهتر کرد یا بدتر؛ و ممکنه با هر تغییر، یه جای دیگه رو خراب کنید، بی اینکه بفهمید.

و یه عادت خوب: هر بار که یه کاربر یه جواب بد گزارش داد، اون سوال رو، با جواب درستش، به دسته‌ی آزمون اضافه کنید. اینطوری، دسته‌ی آزمون، با گذشت زمان، دقیقا شبیه سوال‌های واقعی کاربرها می‌شه؛ و هر اشتباه، فقط یه بار اتفاق می‌افته.

کی این کار رو می‌کنه

مهندسی هوش مصنوعی، یه نقش شغلی تازه‌ست؛ ولی کسایی که انجامش می‌دن، معمولا از چند مسیر میان: برنامه‌نویس‌های وب و بک‌اند، که حالا مدل زبانی رو به اپ‌هاشون اضافه می‌کنن؛ متخصص‌های داده، که با مدل‌های آماده کار می‌کنن؛ و گاهی، مدیران محصول فنی، که نمونه‌های اولیه می‌سازن.

خبر خوب، برای کسی که مسیرهای برنامه‌نویسی کتابخونه رو رفته، اینه که بیشتر مهارت‌های لازم، رو از قبل داره: نوشتن کد، کار با API، بررسی ورودی، تست. چیزی که اضافه می‌شه، شناختن رفتار مدل‌ها، و ابزارهای مخصوص کار باهاشونه؛ که همین مسیر، یاد می‌ده.

چه مهارت‌هایی لازمه

این مهارت‌ها، توی مهندسی هوش مصنوعی، از همه مهم‌ترن:

  • برنامه‌نویسی پایه، با پایتون یا تایپ‌اسکریپت.
  • کار با API و JSON.
  • نوشتن پرامپت روشن و قابل تست.
  • فکر کردن درباره‌ی داده: چه چیزی، کی، و به کی برسه.
  • سنجش با عدد، نه با حس.
  • ذهن امنیتی: هر ورودی، مشکوکه.
  • و صبر، برای چرخه‌ی ساختن و سنجیدن.

هیچ‌کدوم، ریاضی پیشرفته لازم ندارن؛ هرچند فهمیدن کمی از مسیر ریاضی، به‌ویژه بردار و احتمال، کمک می‌کنه.

مهندسی هوش مصنوعی، چی نیست

چند تصور اشتباه رایج: مهندسی هوش مصنوعی، فقط نوشتن پرامپت نیست؛ پرامپت، فقط یه تیکه‌ست. فقط وصل کردن یه API نیست؛ بخش سخت، همه‌ی کاریه که بعدش می‌آد. و ساختن مدل هم نیست؛ اون، یادگیری ماشینه.

و یه چیز مهم‌تر: جادو نیست. هر رفتار عجیبی که از یه اپ مدل زبانی می‌بینید، یه دلیل مهندسی داره: یه پرامپت مبهم، زمینه‌ی ناقص، مدل نامناسب، یا نبود سنجش. وقتی این رو بپذیرید، دیگه به جای «امیدوارم این بار جواب بده»، دنبال دلیل می‌گردید.

جواب کوتاه

اگه کسی پرسید «مهندسی هوش مصنوعی چیه»:

ساختن نرم‌افزاری که یه مدل آماده، مثل یه مدل زبانی بزرگ، بخشی ازشه؛ با همه‌ی دقت، تست و امنیت یه نرم‌افزار جدی. مدل رو نمی‌سازیم؛ همه‌چیز دورش رو می‌سازیم: پرامپت، زمینه، ابزار، بررسی و سنجش. و چون جواب مدل هر بار کمی فرق می‌کنه و گاهی ساختگیه، کار اصلی، چرخه‌ی ساختن، سنجیدن و بهتر کردنه.

چند باور رایج

  • «مهندسی هوش مصنوعی، یعنی نوشتن پرامپت.» پرامپت فقط یه تیکه‌ست.
  • «اگه یه بار جواب خوب داد، همیشه می‌ده.» هر بار کمی متفاوت؛ سنجش لازمه.
  • «مدل، همه‌ی سندها رو یه‌جا می‌خونه.» پنجره‌ی زمینه محدوده.
  • «با پرامپت می‌شه همه‌ی خطرها رو بست.» حصارهای مهم، توی کد.
  • «هر مسئله‌ای، ایجنت می‌خواد.» اول ساده‌ترین راه.

یه مثال

یه تیم کوچیک، برای پشتیبانی فروشگاهش، یه دستیار هوش مصنوعی ساخت: یه پرامپت نوشت، به یه مدل وصلش کرد، چند سوال پرسید، و چون جواب‌ها خوب بودن، منتشرش کرد. دو هفته بعد، یه مشتری شکایت کرد که دستیار، یه سیاست بازگشت کالا گفته که اصلا وجود نداره؛ با اطمینان کامل.

تیم، این بار مثل مهندس کار کرد: سیاست‌های واقعی رو، با RAG، توی زمینه گذاشت؛ از مدل خواست بگه از کدوم سند آورده؛ یه دسته پنجاه‌تایی سوال آزمون ساخت؛ و هر تغییر رو، روی همه‌شون، سنجید. جواب‌های ساختگی، تقریبا از بین رفتن؛ و هر بار که یکی پیدا می‌شد، به سوال‌های آزمون اضافه‌ش می‌کردن.

تمرین امروز

امروز، بی کد، یه اپ مدل زبانی رو مثل مهندس طراحی کنید.

  1. یه کاربرد انتخاب کنید؛ مثلا دستیاری که به سوال‌های مشتری‌های یه نونوایی جواب می‌ده.
  2. برای هر تیکه‌ی اپ، یعنی مدل، پرامپت، زمینه، ابزار، بررسی و سنجش، یه خط بنویسید.
  3. سه جایی که ممکنه جواب ساختگی بده رو پیدا کنید.
  4. یه حصار توی کد، که جلوی یکی از این سه رو بگیره، توصیف کنید.
  5. پنج سوال آزمون، با جواب درست، برای سنجیدنش بنویسید.

درس بعدی، یه مدل باز رو روی کامپیوترتون اجرا می‌کنه.

جمع‌بندی. آنچه از این درس با خودتان می‌برید.

  • مهندسی هوش مصنوعی، ساختن نرم‌افزار دور یه مدل آماده‌ست.
  • فرق با یادگیری ماشین: اونجا ساختن مدل؛ اینجا به کار بردنش.
  • جواب مدل هر بار کمی فرق می‌کنه؛ پس سنجش لازمه.
  • پنجره‌ی زمینه محدوده؛ و مدل گاهی چیز ساختگی می‌گه.
  • کار اصلی: چرخه‌ی ساختن، سنجیدن و بهتر کردن.

خودتون رو بسنجید

۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.

خودتون رو بسنجید

۱۵ پرسش

  • هر بار پرسش‌ها و ترتیب گزینه‌ها عوض می‌شه.
  • تا آخر نمی‌گیم کدوم جواب درست بوده؛ می‌تونید برگردید و جوابتون رو عوض کنید.
  • آخرش کارنامه می‌گیرید: چند تا درست، چند تا نادرست.
  • اگه وسطش بستید، دوباره که باز کنید از همون‌جا ادامه می‌دید.

فصل‌های این درس