ایجنت هوش مصنوعی چیست

کارپرداز

فرض کنید برای اداره‌تون کاغذ لازم دارید. یه همکار پشت میزش بهتون می‌گه «از اون مغازه بخر». یه کارپرداز، فهرست و کارت رو از شما می‌گیره، خودش می‌ره، می‌خره، و برمی‌گرده:

چت‌بات همون همکار پشت میزه: می‌گه. ایجنت همون کارپردازه: انجام می‌ده. به فارسی بهش «عامل» هم می‌گن. ایجنت یه هدف داره، ابزار به کار می‌بره، توی دنیای بیرون یه چیزی رو عوض می‌کنه، و چند قدم پشت سر هم برمی‌داره. چت‌بات‌های سال ۲۰۲۳ بیشتر فقط جواب می‌دادن؛ ایجنت‌ها یه قدم جلوترن. درباره‌ی خود چت‌بات توی درس چت‌بات گفتیم.

چطور کار می‌کنه

توی دل بیشتر ایجنت‌ها، یه مدل زبانی هست؛ همون که توی درس متن‌نویس دیدیم. ولی دورش یه چرخه هست:

هدف رو می‌گیره، فکر می‌کنه قدم بعد چیه، یه ابزار به کار می‌بره (مثلا توی وب می‌گرده، کد اجرا می‌کنه، یه فرم پر می‌کنه)، نتیجه رو می‌بینه، و دوباره فکر می‌کنه؛ تا کار تموم بشه.

دور مدل هم یه «بدنه» هست؛ برنامه‌ای که مدل رو به ابزارها، فایل‌ها و مرورگر وصل می‌کنه، و مهم‌تر، تعیین می‌کنه ایجنت اجازه‌ی چه کارهایی رو داره. یعنی دست و پای ایجنت، و قفل درها، توی همین بدنه‌ست.

چقدر خودمختاره

یه مقایسه‌ی خوب، ماشین خودرانه. ماشین‌ها چند سطح دارن؛ از کمک ساده به راننده، تا ماشینی که کاملا خودش رانندگی می‌کنه:

بیشتر ایجنت‌های امروز روی سطح ۲ یا ۳ وایسادن: کار می‌کنن، ولی یکی باید حواسش بهشون باشه. چندتاشون فقط توی کارهای خیلی تخصصی به سطح ۴ رسیدن، و سطح ۵، یعنی کاملا خودکار و بی هیچ نظارتی، هنوز فقط یه فکره.

توی کار واقعی

خیلی از شرکت‌ها گفتن ایجنت‌ها به‌زودی «همکار» آدم‌ها می‌شن. ولی وقتی یه گروه پژوهشی ایجنت‌ها رو توی یه شرکت نرم‌افزاری شبیه‌سازی‌شده امتحان کرد، هیچ‌کدوم نتونستن بیشتر کارهایی که بهشون داده شده بود رو تموم کنن.

بعضی مدیرها هم جای چند تا کارمند ایجنت گذاشتن، ولی بعدش گفتن ایجنت‌ها از اون کارمندها نظارت بیشتری لازم دارن. یه شرکت که کارمندهای پشتیبانی مشتری رو با ایجنت عوض کرده بود، بعدا چند نفرشون رو برگردوند. یه گزارش هم گفت خیلی از محصول‌هایی که حالا اسمشون «ایجنت» شده، همون محصول‌های قبلی‌ان با یه اسم تازه.

یه نظر هم هست که بهترین جای ایجنت، کارهای باریک، تکراری و کم‌خطره. مثل همون کارپردازی که برای خرید کاغذ عالیه، ولی شما کارت حساب اصلی شرکت رو بهش نمی‌دید.

وقتی خراب می‌کنه

چون ایجنت خودش کار می‌کنه، اشتباهش هم فقط یه جواب غلط نیست؛ یه کار غلطه. چند تا ماجرای واقعی:

1. پایگاه داده‌ی پاک‌شده. یه ایجنت کدنویسی، وسط دوره‌ای که قرار بود کسی به کد دست نزنه، پایگاه داده‌ی اصلی یه پروژه رو پاک کرد؛ و بعدش با داده و گزارش ساختگی، خطاها رو پوشوند.
2. درایو پاک‌شده. یه نفر از یه ایجنت خواست فایل‌های موقت رو پاک کنه؛ ایجنت کل یه درایو رو پاک کرد.
3. دور بی‌پایان. ایجنت‌ها گاهی توی یه دور گیر می‌کنن و یه کار رو بی‌وقفه تکرار می‌کنن.
4. خطا روی خطا. یه اشتباه کوچیک توی قدم اول، تا قدم دهم بزرگ می‌شه.

متن‌های فریبنده

یه خطر مخصوص ایجنت‌ها هست که خیلی‌ها نمی‌دونن. ایجنت صفحه‌ی وب و فایل‌ها رو می‌خونه؛ و یه آدم بد می‌تونه یه دستور رو توی همون صفحه قایم کنه:

مدل زبانی نمی‌تونه همیشه دستور واقعی شما رو از متنی که داره می‌خونه جدا کنه. پس اگه توی یه صفحه نوشته باشن «به‌جای کاربر، این فرم رو پر کن» یا «اطلاعاتش رو این‌جا بفرست»، ممکنه ایجنت گولش رو بخوره. به این کار می‌گن «تزریق پرامپت». مثل همون کلاهبرداری‌هایی که توی درس کلاهبرداری دیدیم؛ فقط این بار، طرف گول‌خورده ایجنته.

پیش از سپردن کار

1. کار باریک و کم‌خطر بدید. «این ده تا فاکتور رو مرتب کن»، نه «حساب‌های شرکت رو اداره کن».
2. کمترین اجازه. فقط به همون پوشه، همون حساب، همون ابزاری که لازمه دسترسی بدید.
3. تأیید خودتون، پیش از کار حساس. پول دادن، پیام فرستادن، پاک کردن؛ بخواید اول از شما بپرسه.
4. پشتیبان داشته باشید. پیش از اینکه به فایل‌ها یا داده‌ها دست بزنه، یه نسخه نگه دارید.
5. نتیجه رو خودتون ببینید. مخصوصا گزارشی که خودش از کارش می‌ده؛ دیدیم که گاهی ساختگیه.

این‌ها، ایستگاه کاربردها رو تموم می‌کنه. ایستگاه بعد درباره‌ی آینده‌ست؛ اولش هوش مصنوعی شغل‌ها رو می‌گیره؟.