کم‌برازش (Underfitting)
جواب کوتاه
کم‌برازش برعکس بیش‌برازشه: مدل اونقدر ساده‌ست که حتی الگوی داده‌ی آموزش رو هم نمی‌گیره. مثل دمای هوا توی سال که زمستون سرده، تابستون گرمه و دوباره زمستون سرد؛ اگه مدل فقط بلد باشه یه خط صاف بکشه، یه خط تقریبا افقی از وسط می‌کشه و نه سرما رو درست می‌گه نه گرما رو. نشونه‌ش اینه که حتی خطای آموزش هم زیاده و نمره‌ی آموزش و آزمون هر دو بدن. راه‌های درست کردنش: مدل انعطاف‌پذیرتر، ویژگی‌های بهتر، الگوریتم دیگه، یا داده‌ی بیشتر؛ ولی با احتیاط، که به بیش‌برازش نرسیم.
دمای سال
دمای میانگین هر ماه رو روی کاغذ بذاریم: زمستون سرد، کم‌کم گرم‌تر تا تابستون، بعد دوباره سرد. حالا یه مدل که فقط بلده خط صاف بکشه رو امتحان کنیم:
بهترین خط صافی که می‌تونه بکشه، یه خط تقریبا افقیه، دور و بر میانگین. برای زمستون زیادی گرم می‌گه، برای تابستون زیادی سرد. هر چقدر هم آموزشش بدیم، بهتر نمی‌شه؛ چون یه خط صاف اصلا نمی‌تونه «بالا رفتن و برگشتن» رو نشون بده.
به این می‌گن کم‌برازش: مدل اونقدر ساده‌ست که حتی الگوی همون داده‌ای که روش آموزش دیده رو هم نمی‌گیره.
کم‌برازش یعنی چی
توی بیش‌برازش، مدل زیادی به جزئیات حساس بود و نویز رو هم یاد می‌گرفت. توی کم‌برازش برعکسه: مدل حتی بخش‌های مهم و تکرارشدنی الگو رو هم نادیده می‌گیره.
اگه بیش‌برازش مثل دانش‌آموزیه که کلید جواب پارسال رو حفظ کرده، کم‌برازش مثل دانش‌آموزیه که فقط یه قاعده بلده، مثلا «همیشه گزینه‌ی ج»، و همه‌ی سوال‌ها رو با همون جواب می‌ده.
نشونه‌ش
فرق نشونه‌هاش با بیش‌برازش خیلی روشنه:
- بیش‌برازش: نمره‌ی آموزش عالی، نمره‌ی داده‌ی تازه بد؛ یعنی فاصله‌ی زیاد.
- کم‌برازش: نمره‌ی آموزش هم بد، نمره‌ی داده‌ی تازه هم بد؛ هر دو نزدیک هم و هر دو ضعیف.
پس اگه مدلی حتی روی داده‌ای که دیده هم خوب نیست، احتمالا کم‌برازش داره. یه مقایسه‌ی خوب هم با خط پایه هم کمک می‌کنه: مدل کم‌برازش خیلی وقت‌ها چندان ازش بهتر نیست.
سه مدل کنار هم
همون نقطه‌های دمای سال، با سه جور مدل:
خط صاف خیلی ساده‌ست؛ کم‌برازش. منحنی وسطی شکل کلی رو گرفته و به بالا و پایین‌های کوچیک اهمیت نداده؛ اندازه‌ست. منحنی پیچ‌درپیچ از روی همه‌ی نقطه‌ها رد شده و نویز رو هم یاد گرفته؛ بیش‌برازش. کار ما پیدا کردن همون وسطیه.
چطور درستش کنیم
- مدل انعطاف‌پذیرتر: مثلا به جای خط صاف، یه منحنی؛ یا پیچ‌های بیشتر.
- ویژگی بهتر: با مهندسی ویژگی، مثلا یه ستون «فصل» یا «چند ماه تا وسط تابستون»، حتی یه مدل ساده هم الگو رو بهتر می‌گیره.
- الگوریتم دیگه: برای بعضی داده‌ها، شبکه‌ی عصبی از رگرسیون خطی بهتر کار می‌کنه.
- منظم‌سازی کمتر: اگه زیادی جریمه کرده باشیم، مدل بیش از حد ساده می‌مونه.
ولی همه‌ی این‌ها رو با احتیاط؛ هر قدم به سمت پیچیدگی، یه قدم به بیش‌برازش نزدیک‌تره.
قدم بعد
این کشمکش بین «خیلی ساده» و «خیلی پیچیده» یه اسم معروف داره: سوگیری و واریانس. درس بعد می‌گه خطای هر مدل از کجا میاد و چطور تعادل بین این دو رو پیدا کنیم.
جمع‌بندی. آنچه از این درس با خودتان می‌برید.
- کم‌برازش: مدل خیلی ساده.
- حتی الگوی آموزش رو نمی‌گیره.
- نشونه: هر دو خطا زیاد.
- درمان: مدل یا ویژگی بهتر.
- با احتیاط، که بیش‌برازش نشه.
خودتون رو بسنجید
۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.