تاریخچه‌ی کوتاه یادگیری ماشین
جواب کوتاه
یادگیری ماشین از ۱۹۴۳ شروع شد، وقتی دو دانشمند اولین مدل ریاضی یه نورون رو دادن. ۱۹۵۹ اسمش رو گذاشتن، و همون سال‌ها پرسپترون، اولین نورون یادگیرنده، ساخته شد. ۱۹۶۹ ثابت شد پرسپترون خیلی چیزها رو نمی‌تونه یاد بگیره و پژوهش شبکه‌ی عصبی سال‌ها ایستاد. ۱۹۸۶ پس‌انتشار، یعنی راه آموزش شبکه‌ی چندلایه، معروف شد. ولی جهش اصلی از ۲۰۱۲ اومد، وقتی داده‌ی زیاد و کامپیوتر قوی رسید: شبکه‌ی عمیق مسابقه‌ی عکس رو برد، ۲۰۱۶ یه برنامه استاد بازی گو رو برد، و ۲۰۱۷ ترنسفورمر اومد.
حلقه‌های درخت
یه درخت که بریده بشه، حلقه‌هاش پیداست. هر سال یه حلقه. سال‌های پربارون حلقه‌ی پهن، سال‌های خشک حلقه‌ی باریک.
تاریخ یادگیری ماشین هم همینه. وسطش یه ایده‌ی کوچیک از ۱۹۴۳؛ بعد چند حلقه‌ی پهن؛ بعد سال‌هایی که تقریبا هیچ خبری نبود؛ و حالا حلقه‌هایی که هر سال پهن‌تر می‌شن. بیایید از وسط شروع کنیم.
ریشه‌ها: ۱۹۴۳ تا ۱۹۵۹
- ۱۹۴۳. دو دانشمند، مک‌کالک و پیتس، اولین مدل ریاضی یه نورون رو دادن: یه چیز ساده که چند تا ورودی می‌گیره و یه خروجی می‌ده. هنوز یاد نمی‌گرفت.
- ۱۹۴۹. یه روان‌شناس به اسم دونالد هب گفت ارتباط نورون‌هایی که با هم کار می‌کنن، قوی‌تر می‌شه. همین ایده پایه‌ی یاد گرفتنه: اتصال نورون‌های مصنوعی، با داده، قوی‌تر یا ضعیف‌تر می‌شه.
- دهه‌ی ۱۹۵۰. آرتور ساموئل برنامه‌ی بازی چکرز رو ساخت، و ۱۹۵۹ اسم «یادگیری ماشین» رو گذاشت. درس اول.
اولین بهار: پرسپترون
سال ۱۹۵۷، فرانک روزنبلات پرسپترون رو ساخت: اولین نورونی که یاد می‌گرفت. چند تا ورودی می‌گرفت، هر کدوم رو در یه وزن ضرب می‌کرد، جمع می‌زد، و می‌گفت «بله» یا «نه».
یادگیریش همون چیزی بود که توی درس دوش دیدیم: اگه اشتباه گفت، وزن‌ها رو یه کم بچرخون. روزنبلات براش یه ماشین واقعی هم ساخت که اولین نمایش عمومیش ۲۳ ژوئن ۱۹۶۰ بود. خیلی‌ها فکر کردن ماشینِ فکرکننده نزدیکه. درس پرسپترون.
حلقه‌های باریک
۱۹۶۹ ثابت شد یه پرسپترون تنها، خیلی از الگوها رو نمی‌تونه یاد بگیره. همین کافی بود که پژوهش شبکه‌ی عصبی سال‌ها تقریبا بایسته. تا ۱۹۸۰، هوش مصنوعی بیشتر دست سیستم‌های خبره بود، یعنی برنامه‌هایی که با قاعده‌های نوشته‌شده‌ی کارشناس‌ها کار می‌کردن، و روش‌های آماری از چشم افتاده بودن.
ولی حلقه‌ی باریک یعنی درخت هنوز زنده‌ست. ۱۹۸۶ یه مقاله‌ی معروف پس‌انتشار رو جا انداخت: راهی برای آموزش شبکه‌ای که چند لایه داره، یعنی همون چیزی که پرسپترون تنها کم داشت. علاقه به شبکه‌ی عصبی برگشت. درس پس‌انتشار.
جهش: ۲۰۱۲ تا ۲۰۱۷
ایده‌ها بود؛ چیزی که کم بود، داده‌ی زیاد و کامپیوتر قوی بود. وقتی رسید:
- ۲۰۱۲. یه شبکه‌ی عمیق، مسابقه‌ی بزرگ تشخیص عکس رو با فاصله‌ی زیاد برد.
- ۲۰۱۶. برای اولین بار یه برنامه، با شبکه‌ی عمیق و یادگیری تقویتی، یه بازیکن حرفه‌ای بازی «گو» رو بی آوانس برد.
- ۲۰۱۷. ترنسفورمر اومد، یه جور شبکه بر پایه‌ی «توجه». مدل‌های زبانی امروز روی همین ساخته شدن.
درسش
نورون ۱۹۴۳ و پس‌انتشار ۱۹۸۶، همون چیزهایی‌ان که مدل‌های امروز هم باهاش کار می‌کنن. ایده‌ها خیلی قدیمی‌ان؛ داده و کامپیوتر دیر رسید. یعنی ایده‌ای که امروز جواب نمی‌ده، شاید فقط منتظر حلقه‌ی بعدیه.
از درس بعد، یه جای مهم رو می‌بینیم: یادگیری ماشین چه کاری از دستش برنمیاد. یادگیری ماشین چه کاری نمی‌کنه.
جمع‌بندی. آنچه از این درس با خودتان می‌برید.
- ۱۹۴۳: اولین نورون ریاضی.
- ۱۹۵۷ تا ۱۹۶۰: پرسپترون.
- ۱۹۶۹: رکود شبکه‌ی عصبی.
- ۱۹۸۶: پس‌انتشار.
- ۲۰۱۲ به بعد: داده و کامپیوتر رسید، جهش شد.
خودتون رو بسنجید
۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.