درس ۵ از ۶۴، هوش مصنوعی، حدود ۱۰ دقیقه خواندن

مدل هوش مصنوعی یعنی چه

جواب کوتاه

مدل هوش مصنوعی چیزی است که از یاد گرفتن به دست می‌آید: یک معماری، یعنی شکل و لایه‌های شبکه، و وزن‌ها، یعنی میلیاردها عددی که در آموزش تنظیم شده‌اند. ساختن مدل دو مرحله دارد: آموزش، که یک بار، طولانی و پرهزینه است، و استفاده (استنتاج)، که هر بار پرسشی تازه می‌گیرد و با همان وزن‌های ثابت جواب می‌دهد. مدل پایه روی داده‌ی بسیار زیاد برای کارهای گوناگون آموزش دیده؛ فاین‌تیون یعنی کمی آموزش بیشتر برای یک کار خاص. اگر وزن‌های مدلی منتشر شده باشد، به آن وزن باز می‌گویند. مدل استدلالی مدلی است که برای کارهای چندقدمی آموزش دیده.

نام

در هوش مصنوعی، «مدل» یعنی همان چیزی که از یاد گرفتن به دست می‌آید و بعد برای جواب دادن به کار می‌رود. وقتی می‌گویند «این ابزار با فلان مدل کار می‌کند»، یعنی مغزی که آن ابزار با آن فکر می‌کند.

در درس قبل دیدید که مدل با چرخیدن پیچ‌های کوچک یاد می‌گیرد. این درس می‌گوید آن پیچ‌ها کجای مدل‌اند و مدل بعد از یاد گرفتن چطور به کار می‌رود.

سه‌تار کوک‌شده

یک سه‌تار تازه را تصور کنید. شکل و سیم‌هایش درست است، ولی کوک نیست. نوازنده گوش می‌دهد، گوشی‌ها را کمی می‌پیچاند، دوباره گوش می‌دهد، تا ساز کوک شود. بعد با همان ساز کوک‌شده هر آهنگی را می‌نوازد:

ساز تازه: شکل و سیم‌هایش درست است، ولی گوشی‌ها هر کدام جایی‌اند؛ صدایش آهنگ نمی‌شود.

بعد از کوک: همان ساز، با گوشی‌هایی که هر کدام درست پیچانده شده؛ حالا هر آهنگی را می‌شود با آن نواخت.

مدل هوش مصنوعی همین ساز کوک‌شده است. شکل ساز، معماری مدل است؛ کوک گوشی‌ها، وزن‌ها؛ کوک کردن، آموزش؛ و نواختن، استفاده.

دو بخش مدل

معماری می‌گوید شبکه چند لایه دارد و داده چطور از لایه‌ای به لایه‌ی بعد می‌رود؛ در درس شبکه‌ی عصبی شکلش را می‌بینید. وزن‌ها عددهایی‌اند که می‌گویند هر ورودی چقدر در حساب اثر دارد. معماری را آدم‌ها طراحی می‌کنند؛ وزن‌ها را آموزش پیدا می‌کند.

کوک کردن و نواختن

زندگی هر مدل دو مرحله دارد:

آموزش یک بار انجام می‌شود، با داده‌ی بسیار و رایانه‌های بزرگ، و برای مدل‌های بزرگ بسیار پرهزینه است. بعد از آن، وزن‌ها ثابت می‌مانند و مدل فقط به کار می‌رود؛ به این مرحله استنتاج (inference) می‌گویند. هر بار که از ابزاری چیزی می‌پرسید، استنتاج است، نه آموزش.

اندازه‌ی مدل

اندازه‌ی مدل را با شمار وزن‌هایش، که به آن‌ها پارامتر هم می‌گویند، می‌سنجند. مدل‌های زبانی بزرگ صدها میلیارد پارامتر یا بیشتر دارند:

مدل کوچک روی خود گوشی جا می‌شود؛ زود جواب می‌دهد و داده از گوشی بیرون نمی‌رود.

مدل‌های بزرگ صدها میلیارد عدد دارند و روی رایانه‌های بزرگ دیتاسنتر اجرا می‌شوند؛ گوشی پرسش را می‌فرستد و جواب را می‌گیرد.

اجرای مدل روی خود گوشی، نزدیک کاربر، تأخیر را کم می‌کند؛ اجرای آن در دیتاسنتر، مدل‌های بزرگ‌تر را ممکن می‌کند. مسیر مدل‌های زبانی این را کامل‌تر می‌گوید.

مدل پایه و فاین‌تیون

مدل پایه (foundation model) مدلی است که روی داده‌ی بسیار بزرگ آموزش دیده تا در کارهای گوناگون به کار رود. فاین‌تیون (fine-tuning) یعنی همین مدل را با کمی آموزش بیشتر، روی داده‌ی یک کار خاص، برای آن کار جور کنیم:

گاهی همه‌ی وزن‌ها کمی عوض می‌شوند، و گاهی فقط چند لایه و بقیه ثابت می‌مانند.

وزن باز و متن‌باز

بعضی سازنده‌ها وزن‌های مدلشان را منتشر می‌کنند تا هر کس بتواند مدل را بگیرد و روی رایانه‌ی خودش اجرا کند؛ به این «وزن باز» می‌گویند. «متن‌باز» بیش از این است: یعنی داده‌ی آموزش و کد هم در دسترس باشد و هر کس بتواند مدل را بررسی، تغییر و پخش کند. بعضی از مدل‌هایی که «متن‌باز» خوانده می‌شوند، در واقع فقط وزن باز دارند.

مدل استدلالی

مدل استدلالی مدلی زبانی است که برای کارهایی که چند قدم فکر می‌خواهند آموزش دیده، مثل حل یک مسئله‌ی حساب یا منطق. پیش از جواب، قدم‌به‌قدم جلو می‌رود، قدم‌های قبلی را بازبینی می‌کند، و حساب بیشتری به کار می‌برد؛ برای همین در این کارها بهتر است.

سه اشتباه

«مدل همه‌ی متن‌ها و عکس‌هایی را که دیده، در خودش نگه داشته.»مدل عددهایی است که از نمونه‌ها یاد گرفته، نه بایگانی خود نمونه‌ها؛ مثل سازی که کوک شده، نه نوار همه‌ی آهنگ‌هایی که با آن تمرین شده.
«مدل هر بار که با آن حرف می‌زنم، یاد می‌گیرد.»در استفاده، وزن‌ها ثابت‌اند؛ مدل فقط وقتی یاد می‌گیرد که دوباره آموزش ببیند.
«مدل بزرگ‌تر همیشه بهتر است.»مدل بزرگ‌تر کارهای بیشتری بلد است، ولی کندتر و پرهزینه‌تر است و روی گوشی جا نمی‌شود؛ برای یک کار ساده، مدل کوچک گاهی بهتر است.

جمع‌بندی. آنچه از این درس با خودتان می‌برید.

مدل = معماری (شکل) + وزن‌ها (عددهای یادگرفته).
آموزش: یک بار، طولانی؛ استفاده: هر بار، کوتاه، با وزن‌های ثابت.
مدل کوچک روی گوشی؛ مدل بزرگ در دیتاسنتر.
مدل پایه همه‌کاره؛ فاین‌تیون برای یک کار خاص.
وزن باز: وزن‌ها منتشر شده؛ متن‌باز: داده و کد هم.
مدل استدلالی: کار چندقدمی، با بازبینی قدم‌ها.

خودتان را بسنجید

۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخر آزمون فقط کارنامه را می‌بینید: چند درست، چند نادرست.