اجرای خودتان یا سرویس آنلاین
جواب کوتاه
اجرای مدل روی دستگاه خودتون مثل ماشین خریدنه: یه هزینه‌ی اول برای سخت‌افزار، بعد بی اینترنت و بی پول برای هر سوال، و متن‌هاتون از دستگاهتون بیرون نمی‌ره؛ ولی اندازه‌ی مدل رو حافظه‌تون محدود می‌کنه و نگهداریش با خودتونه. سرویس آنلاین مثل تاکسیه: فوری شروع می‌شه، بزرگ‌ترین مدل‌ها رو داره و نگهداری با سازنده‌ست؛ ولی اینترنت لازمه، برای هر توکن پول می‌دید و متن‌هاتون به سرور سازنده می‌ره. برای استفاده‌ی کم، آنلاین معمولا ارزون‌تره و برای استفاده‌ی زیاد، لوکال. خیلی‌ها هر دو رو با هم دارن: کارهای ساده و حساس روی دستگاه خودشون، کارهای سخت روی سرویس آنلاین.
یعنی چی
مثل ماشین خریدن یا تاکسی گرفتن؛ هر کدوم جای خودش.
ماشین که بخرید، یه بار پول زیادی می‌دید، بعد هر جا خواستید می‌رید و کسی هم نمی‌دونه کجا رفتید؛ ولی تعمیر و بنزینش با خودتونه. تاکسی که بگیرید، هر بار یه کرایه می‌دید، ماشین همیشه تمیز و نوئه و تعمیرش با شما نیست؛ ولی راننده می‌دونه کجا می‌رید. مدل زبانی هم همینه. توی این ایستگاه یاد گرفتیم چطور مدل رو روی کامپیوتر خودتون اجرا کنید؛ حالا وقتشه بپرسیم کی این کار رو بکنیم و کی نه.
کنار هم
همه‌ی چیزهایی که توی این ایستگاه دیدیم، توی یه جدول.
هیچ‌کدوم همه‌جا برنده نیست. اجرای خودتون توی حریم خصوصی، کار بی اینترنت و هزینه‌ی هر سوال جلوئه. سرویس آنلاین توی اندازه‌ی مدل، راحتی شروع و بی‌دردسری نگهداری. پس انتخاب بستگی داره به اینکه کدوم ردیف برای کار شما مهم‌تره.
شکل هزینه
هزینه‌ی این دو تا شکل متفاوتی داره، نه فقط اندازه‌ی متفاوت.
سرویس‌های آنلاین معمولا برای هر میلیون توکن پول می‌گیرن، و توکن‌های جواب گرون‌تر از توکن‌های پرسشن؛ مثلا توی جدول قیمت Claude، روزی که این درس نوشته شد، توکن جواب برای همه‌ی مدل‌های اصلی ۵ برابر توکن پرسش بود. پس هزینه با هر سوال بالا می‌ره. اجرای خودتون یه هزینه‌ی اول داره، سخت‌افزار، و بعدش فقط برق. برای همین اگه کم استفاده می‌کنید، آنلاین معمولا ارزون‌تره، و اگه خیلی زیاد، یه جایی اجرای خودتون ارزون‌تر می‌شه. اون نقطه برای هر کس فرق می‌کنه.
نقطه‌ی سر به سر
«یه جایی اجرای خودتون ارزون‌تر می‌شه». بیاید با عددهای ساختگی ببینیم این «یه جا» چطور پیدا می‌شه.
فرض کنید یه کامپیوتر مناسب ۲۰۰۰ واحد پول قیمت داره و برقش ماهی ۱۰ واحد. اگه با سرویس آنلاین ماهی ۲۰ واحد خرج می‌کنید، اجرای خودتون هر ماه فقط ۱۰ واحد صرفه‌جویی داره، و ۲۰۰۰ تقسیم بر ۱۰ یعنی ۲۰۰ ماه طول می‌کشه تا پول کامپیوتر دربیاد؛ عملا هیچ‌وقت. ولی اگه ماهی ۲۱۰ واحد خرج می‌کنید، هر ماه ۲۰۰ واحد صرفه‌جوییه و بعد از ۱۰ ماه سر به سر می‌شید. حساب همینه: هزینه‌ی اول، تقسیم بر صرفه‌جویی هر ماه.
دو چیز رو هم توی حساب بیارید که عدد نیستن ولی خرج دارن: وقتی که برای راه انداختن و به‌روز نگه داشتنش می‌ذارید، و اینکه شاید مدلی که روی دستگاه شما جا می‌شه، کیفیت مدل آنلاین رو نداشته باشه. اگه با مدل کوچیک‌تر مجبور بشید دو بار بپرسید، صرفه‌جویی هم کمتر می‌شه.
متن‌ها کجا می‌رن
وقتی از سرویس آنلاین استفاده می‌کنید، متن‌هاتون به سرور سازنده می‌ره و اونجا ذخیره می‌شه؛ اینکه چقدر نگهش می‌دارن و برای چی استفاده‌ش می‌کنن، به تنظیم‌ها و قوانین همون سرویس بستگی داره، که توی درس حریم خصوصی و داده‌ی شما دیدیم. با اجرای خودتون، متن‌ها از دستگاهتون بیرون نمی‌ره. برای متن‌های حساس، مثل پرونده‌ی مشتری‌ها یا سندهای داخلی یه شرکت، همین یه ردیف می‌تونه کل تصمیم رو عوض کنه.
اندازه و کیفیت
روی دستگاه خودتون فقط مدل‌های وزن‌باز اجرا می‌شن، و فقط تا اندازه‌ای که حافظه‌تون جا داره. مدل‌های بسته فقط از راه سرویس سازنده در دسترسن. پس اگه کارتون واقعا بزرگ‌ترین و قوی‌ترین مدل رو لازم داره، آنلاین تقریبا تنها راهه. ولی همون‌طور که توی درس مدل‌های کوچک دیدیم، برای کار مشخص، مدل کوچیک خیلی وقت‌ها کافیه؛ و اونجا اجرای خودتون برنده‌ست.
راه وسط
بین «دستگاه خودم» و «سرویس سازنده» یه راه سوم هم هست که خیلی‌ها فراموشش می‌کنن.
می‌شه یه کامپیوتر قوی با کارت گرافیک رو اجاره کرد، توی یه مرکز داده، و همون مدل وزن‌باز رو با همون برنامه‌های اجرای لوکال روش اجرا کرد. مدل و تنظیم‌ها دست خودتونه، هر وقت خواستید عوضش می‌کنید، و اندازه‌ی مدل دیگه به حافظه‌ی لپ‌تاپتون محدود نیست. در عوض، متن‌هاتون از دستگاهتون بیرون می‌ره، ولی به سروری که خودتون اجاره کردید، نه به سازنده‌ی مدل؛ و هزینه‌ش معمولا ساعتیه، چه ازش استفاده کنید چه نه. برای یه تیم که مدل خودش رو می‌خواد ولی کامپیوتر قوی نداره، این راه وسط خیلی وقت‌ها درسته.
هر دو با هم
خیلی‌ها هم ماشین دارن هم گاهی تاکسی می‌گیرن. با مدل‌ها هم می‌شه همین کار رو کرد: کارهای ساده و تکراری، و متن‌های حساس، روی یه مدل کوچیک روی دستگاه خودتون؛ کارهای سخت و باز، که متن حساسی هم توش نیست، روی سرویس آنلاین. چون برنامه‌های اجرای لوکال رابطی شبیه سرویس‌های آنلاین دارن، یه برنامه می‌تونه با عوض کردن یه نشونی بین این دو جابه‌جا بشه.
یه راه ساده برای تصمیم
اگه هنوز دودلید، این سه سوال رو به ترتیب از خودتون بپرسید.
اول، متن‌ها خیلی حساسن، طوری که نباید از دستتون بیرون برن؟ اگه آره، اجرای خودتون، و اگه مدل لازم بزرگ‌تر از دستگاهتونه، راه وسط. دوم، قوی‌ترین مدل ممکن رو لازم دارید؟ اگه آره، سرویس آنلاین. سوم، هر روز خیلی زیاد ازش استفاده می‌کنید؟ اگه آره، نقطه‌ی سر به سر رو حساب کنید؛ اگه نه، آنلاین معمولا ساده‌تر و ارزون‌تره. این یه قانون نیست، یه شروع خوبه؛ و بعدش، مثل همیشه، روی کار واقعی خودتون بسنجید.
چند نکته
- متن حساس؟ اجرای خودتون.
- بزرگ‌ترین مدل لازمه؟ سرویس آنلاین.
- استفاده‌ی خیلی زیاد؟ حساب کنید؛ شاید لوکال ارزون‌تر باشه.
- شک دارید؟ هر دو، هر کار جای خودش.
با این درس ایستگاه «اجرای مدل روی کامپیوتر خودتان» تموم شد. ایستگاه آخر از زبان خود ما شروع می‌شه: مدل زبانی و زبان فارسی.
جمع‌بندی. آنچه از این درس با خودتان می‌برید.
- لوکال: ماشین. آنلاین: تاکسی.
- لوکال: متن‌ها همین‌جا، بی اینترنت.
- آنلاین: بزرگ‌ترین مدل‌ها، پول برای هر توکن.
- کم استفاده، آنلاین؛ زیاد، لوکال.
- هر دو با هم، هر کار جای خودش.
خودتون رو بسنجید
۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.