یادگیری ماشین

پیش از هر فرمول، باید تصویر درستی در ذهن باشد: ماشین از مثال یاد می‌گیرد، نه از دستور.

1. یادگیری ماشین چیست به‌زودی

   به‌جای نوشتن قانون، به کامپیوتر مثال با جواب درست نشان می‌دهیم تا خودش الگو را پیدا کند و روی مثال تازه به کار ببرد.

2. ماشین چطور از مثال یاد می‌گیرد به‌زودی

   حدس می‌زند، خطایش را اندازه می‌گیرد، خودش را کمی درست می‌کند و این را هزاران بار تکرار می‌کند.

3. هوش مصنوعی، یادگیری ماشین و یادگیری عمیق: تفاوت به‌زودی

   هوش مصنوعی هدف کلی است، یادگیری ماشین یکی از راه‌های رسیدن به آن، و یادگیری عمیق نوعی یادگیری ماشین با شبکه‌ی عصبی چندلایه.

4. سه نوع یادگیری: نظارت‌شده، بی‌نظارت، تقویتی به‌زودی

   با جواب درست یاد می‌گیرد (نظارت‌شده)، بی جواب الگو پیدا می‌کند (بی‌نظارت)، یا با پاداش و جریمه (تقویتی).

5. یادگیری ماشین دور و بر شما به‌زودی

   فیلتر هرزنامه، پیشنهاد فیلم و کالا، باز شدن قفل گوشی با چهره، ترجمه و پیشنهاد کلمه‌ی صفحه‌کلید.

6. تاریخچه‌ی کوتاه یادگیری ماشین به‌زودی

   از پرسپترون (۱۹۵۸) و نام «یادگیری ماشین» (۱۹۵۹)، تا رواج پس‌انتشار (۱۹۸۶) و جهش یادگیری عمیق از ۲۰۱۲.

7. یادگیری ماشین چه کاری نمی‌کند به‌زودی

   فقط الگوی داده‌اش را یاد می‌گیرد؛ چیزی را که در داده نبوده نمی‌داند، و از هم‌زمانی دو چیز، علت را نمی‌فهمد.

مدل همان‌قدر خوب است که داده‌اش؛ بیشتر کار واقعی یادگیری ماشین آماده کردن داده است.

8. داده چیست و چه شکلی دارد به‌زودی

   جدولی که هر سطرش یک مثال و هر ستونش یک ویژگی است؛ عکس، صدا و متن هم آخر کار به عدد تبدیل می‌شوند.

9. ویژگی و برچسب به‌زودی

   ویژگی چیزی است که مدل می‌بیند (وزن، رنگ)، برچسب جوابی که باید یاد بگیرد (سیب یا پرتقال).

10. داده‌ی آموزش، اعتبارسنجی و آزمون به‌زودی

    داده را سه بخش می‌کنیم: با یکی یاد می‌دهیم، با دومی تنظیم می‌کنیم و با سومی، که مدل هرگز ندیده، نمره می‌دهیم.

11. برچسب زدن داده به‌زودی

    آدم‌ها جواب درست هر مثال را می‌نویسند؛ کند و پرهزینه است و اشتباهش مستقیم به مدل می‌رسد.

12. داده‌ی کثیف: خالی، تکراری، پرت به‌زودی

    خانه‌ی خالی را پر یا حذف، تکراری را پاک و عدد عجیب را بررسی می‌کنیم، پیش از آنکه مدل آن را یاد بگیرد.

13. نرمال‌سازی و هم‌مقیاس کردن داده به‌زودی

    ستون‌ها را به بازه‌ی هم‌اندازه می‌بریم تا عدد بزرگ (مثلا قیمت) عدد کوچک (مثلا سن) را بی‌اثر نکند.

14. تبدیل متن و دسته به عدد به‌زودی

    هر دسته («قرمز»، «آبی») یک ستون صفر و یکی می‌گیرد، چون مدل فقط با عدد کار می‌کند.

15. مهندسی ویژگی به‌زودی

    از داده‌ی خام ویژگی مفیدتر می‌سازیم، مثلا از تاریخ تولد، سن؛ در مدل‌های کلاسیک اغلب از عوض کردن الگوریتم مؤثرتر است.

بی این چند ابزار، گرادیان و شبکه‌ی عصبی فقط حفظ کردن است؛ با آن‌ها همه‌چیز دیدنی می‌شود. هر درس از مثال روزمره شروع می‌کند.

16. بردار: فهرستی از عددها به‌زودی

    چند عدد پشت سر هم که یک چیز را توصیف می‌کنند، مثل [وزن، قد، سن]؛ هر بردار یک نقطه در فضاست.

17. ضرب داخلی دو بردار به‌زودی

    عددها را جفت‌جفت ضرب و حاصل را جمع می‌کنیم؛ نشان می‌دهد دو بردار چقدر هم‌جهت‌اند.

18. ماتریس و ضرب ماتریس به‌زودی

    جدولی از عددها؛ ضرب ماتریس در بردار یعنی چند ضرب داخلی با هم، و کار اصلی هر لایه‌ی شبکه‌ی عصبی همین است.

19. تابع: ماشینی که ورودی را به خروجی می‌برد به‌زودی

    مدل یادگیری ماشین یک تابع است با دکمه‌های قابل تنظیم (پارامترها)؛ یاد گرفتن یعنی پیدا کردن جای درست دکمه‌ها.

20. مشتق: شیب در یک نقطه به‌زودی

    می‌گوید اگر ورودی را کمی زیاد کنیم، خروجی چقدر و به کدام طرف عوض می‌شود.

21. گرادیان: شیب در چند جهت به‌زودی

    برداری از مشتق‌ها، یکی برای هر پارامتر، که جهت تندترین بالا رفتن را نشان می‌دهد.

22. قاعده‌ی زنجیره‌ای به‌زودی

    مشتق تابعِ تابع، حاصل‌ضرب مشتق‌های پشت سر هم است؛ پایه‌ی ریاضی پس‌انتشار.

23. احتمال: عددی میان صفر و یک به‌زودی

    چقدر انتظار داریم چیزی رخ دهد؛ خروجی بیشتر مدل‌ها احتمال است، نه جواب قطعی.

24. میانگین، واریانس و توزیع به‌زودی

    میانگین مرکز داده، واریانس پراکندگی آن و توزیع شکل کلی پخش شدن عددهاست.

25. لگاریتم و تابع نمایی به‌زودی

    نمایی رشد سریع است و لگاریتم وارونه‌ی آن؛ هر دو در تابع هزینه و سافت‌مکس مدام می‌آیند.

ساده‌ترین مدل، ولی همه‌ی قطعه‌های یادگیری ماشین را دارد: پارامتر، خطا، گرادیان، آموزش. هر چه بعد می‌آید، تکرار همین با مدل بزرگ‌تر است.

26. مدل، پارامتر و پیش‌بینی به‌زودی

    مدل فرمولی است با عددهای قابل تنظیم (وزن‌ها)؛ با ورودی، پیش‌بینی می‌سازد.

27. رگرسیون خطی: کشیدن بهترین خط به‌زودی

    پیش‌بینی یک عدد (مثلا قیمت خانه از متراژ) با خطی که کمترین فاصله را از نقطه‌ها دارد: y = w·x + b؛ با چند ویژگی، همان با یک وزن برای هر ویژگی.

28. تابع هزینه: خطا را عدد کنیم به‌زودی

    یک عدد که می‌گوید پیش‌بینی‌ها چقدر از جواب درست دورند؛ یاد گرفتن یعنی کوچک کردن همین عدد.

29. میانگین مربع خطا (MSE) به‌زودی

    خطای هر مثال را به توان دو می‌رسانیم و میانگین می‌گیریم؛ خطای بزرگ بیشتر جریمه می‌شود.

30. گرادیان کاهشی: پایین رفتن از دره‌ی خطا به‌زودی

    در هر قدم، هر پارامتر را کمی خلاف جهت گرادیان خطا جابه‌جا می‌کنیم: w(تازه) = w − η·∇L.

31. نرخ یادگیری: اندازه‌ی قدم به‌زودی

    قدم خیلی بزرگ از ته دره می‌پرد و قدم خیلی کوچک دیر می‌رسد؛ این عدد را خودمان انتخاب می‌کنیم.

بیشتر کارهای روزمره‌ی یادگیری ماشین دسته‌بندی است: هرزنامه یا نه، گربه یا سگ.

32. دسته‌بندی چیست به‌زودی

    مدل به‌جای عدد، دسته را پیش‌بینی می‌کند؛ دو دسته (دودویی) یا چند دسته.

33. رگرسیون لجستیک به‌زودی

    با وجود نامش دسته‌بند است: یک ترکیب خطی را با تابع سیگموید (منحنی S شکل) به احتمالی میان صفر و یک می‌برد.

34. مرز تصمیم به‌زودی

    خط یا رویه‌ای که فضای ویژگی‌ها را میان دسته‌ها تقسیم می‌کند؛ مدل خطی فقط مرز صاف می‌کشد.

35. کراس‌انتروپی: تابع هزینه‌ی دسته‌بندی به‌زودی

    منفی لگاریتم احتمالی که مدل به جواب درست داده؛ اطمینانِ غلط را خیلی سنگین جریمه می‌کند.

36. سافت‌مکس: چند عدد، یک توزیع احتمال به‌زودی

    هر عدد را به توان e می‌رساند و بر جمع همه تقسیم می‌کند؛ خروجی‌ها مثبت‌اند و جمعشان یک.

«دقت ۹۹٪» گاهی هیچ معنی ندارد؛ باید بدانید چه را و با چه عددی بسنجید.

37. دقت (Accuracy) و دامش به‌زودی

    سهم جواب‌های درست از همه؛ وقتی یک دسته نادر است، مدلی که همیشه «نه» می‌گوید هم دقت بالا می‌گیرد.

38. ماتریس درهم‌ریختگی به‌زودی

    جدولی که درست مثبت، غلط مثبت، درست منفی و غلط منفی را جدا می‌شمارد.

39. صحت (Precision) و بازخوانی (Recall) به‌زودی

    صحت: از آن‌هایی که گفت مثبت، چندتا واقعا مثبت بود؛ بازخوانی: از همه‌ی مثبت‌های واقعی، چندتا را پیدا کرد.

40. امتیاز F1 به‌زودی

    میانگین همساز صحت و بازخوانی؛ فقط وقتی بالاست که هر دو بالا باشند.

41. منحنی ROC و AUC به‌زودی

    با جابه‌جا کردن آستانه‌ی تصمیم، درست‌مثبت را برابر غلط‌مثبت می‌کشیم؛ مساحت زیر منحنی کیفیت کلی مدل است.

42. سنجش مدل عددی: MAE، RMSE، R² به‌زودی

    میانگین خطای مطلق، ریشه‌ی میانگین مربع خطا، و سهمی از پراکندگی داده که مدل توضیح می‌دهد.

43. خط پایه: مدل را با چه مقایسه کنیم به‌زودی

    ساده‌ترین حدس ممکن (مثلا همیشه پرتکرارترین دسته)؛ مدلی که از آن بهتر نیست، چیزی یاد نگرفته.

مدلی که مثال‌ها را حفظ کند، در دنیای واقعی شکست می‌خورد؛ این مهم‌ترین خطر یادگیری ماشین است.

44. تعمیم: خوب بودن روی داده‌ی ندیده به‌زودی

    هدف واقعی نمره روی داده‌ی آزمون است، نه روی داده‌ی آموزش.

45. بیش‌برازش (Overfitting) به‌زودی

    مدل جزئیات و نویز داده‌ی آموزش را حفظ می‌کند؛ روی آموزش عالی و روی داده‌ی تازه بد است.

46. کم‌برازش (Underfitting) به‌زودی

    مدل آن‌قدر ساده است که حتی الگوی داده‌ی آموزش را هم نمی‌گیرد.

47. سوگیری و واریانس به‌زودی

    خطای مدل ساده از سوگیری است و خطای مدل پیچیده از واریانس؛ بهترین مدل میان این دو تعادل دارد.

48. منظم‌سازی: L1 و L2 به‌زودی

    به تابع هزینه جریمه‌ای برای وزن‌های بزرگ اضافه می‌کنیم تا مدل ساده‌تر بماند.

49. اعتبارسنجی متقابل به‌زودی

    داده را چند تکه می‌کنیم و هر بار با یک تکه می‌سنجیم؛ نمره‌ی مطمئن‌تر از یک بار تقسیم.

50. ابرپارامترها و تنظیمشان به‌زودی

    عددهایی که مدل یاد نمی‌گیرد و ما انتخاب می‌کنیم (نرخ یادگیری، عمق درخت)؛ با داده‌ی اعتبارسنجی، نه آزمون.

برای بیشتر داده‌های جدولی، این‌ها هنوز سریع‌تر، ارزان‌تر و گاهی بهتر از شبکه‌ی عصبی‌اند.

51. نزدیک‌ترین همسایه‌ها (KNN) به‌زودی

    برای مثال تازه، k مثال نزدیک را پیدا می‌کند و رأی اکثریتشان را می‌دهد؛ چیزی آموزش نمی‌بیند.

52. بیز ساده به‌زودی

    با قاعده‌ی بیز و این فرض ساده که ویژگی‌ها مستقل‌اند، احتمال هر دسته را حساب می‌کند؛ برای متن کوتاه سریع و خوب.

53. درخت تصمیم به‌زودی

    زنجیره‌ای از پرسش‌های بله و نه روی ویژگی‌ها، تا رسیدن به جواب در برگ درخت.

54. جنگل تصادفی به‌زودی

    صدها درخت، هر کدام با بخشی تصادفی از داده و ویژگی‌ها، و رأی همه با هم؛ پایدارتر از یک درخت.

55. تقویت گرادیانی (Boosting) به‌زودی

    درخت‌های کوچک پشت سر هم، هر کدام خطای مجموع قبلی‌ها را درست می‌کند؛ برای داده‌ی جدولی از قوی‌ترین روش‌ها.

56. ماشین بردار پشتیبان (SVM) به‌زودی

    مرزی می‌کشد که بیشترین فاصله را از نزدیک‌ترین مثال‌های دو دسته داشته باشد.

57. کدام الگوریتم برای کدام کار به‌زودی

    جدول ساده: اندازه‌ی داده، نوع داده (جدول، عکس، متن)، نیاز به توضیح‌پذیری؛ و همیشه از ساده شروع کنید.

بیشتر داده‌های دنیا برچسب ندارند؛ این‌جا ماشین خودش ساختار پیدا می‌کند.

58. یادگیری بی‌نظارت چیست به‌زودی

    داده بی جواب درست؛ مدل گروه‌ها، الگوها یا شکل ساده‌تر داده را خودش پیدا می‌کند.

59. خوشه‌بندی به‌زودی

    مثال‌های شبیه هم را در یک گروه می‌گذارد، بی آنکه از پیش بداند گروه‌ها چه‌اند.

60. الگوریتم k-میانگین (k-means) به‌زودی

    k مرکز را تصادفی می‌گذارد، هر نقطه را به نزدیک‌ترین مرکز می‌دهد، مرکزها را به میانگین گروه می‌برد و تکرار می‌کند.

61. کاهش ابعاد و تحلیل مؤلفه‌های اصلی (PCA) به‌زودی

    چند ستون را به چند جهت تازه خلاصه می‌کند که بیشترین پراکندگی داده را نگه می‌دارند.

62. تشخیص ناهنجاری به‌زودی

    یاد می‌گیرد «عادی» چه شکلی است و هر چه خیلی دور از آن باشد را علامت می‌زند؛ مثل تراکنش مشکوک.

پایه‌ی هر چه امروز «هوش مصنوعی» می‌نامند؛ از یک نورون تا شبکه‌ی چندلایه.

63. نورون مصنوعی به‌زودی

    ورودی‌ها را در وزن‌ها ضرب و جمع می‌کند، یک عدد ثابت (بایاس) اضافه می‌کند و از تابع فعال‌سازی می‌گذراند.

64. پرسپترون: اولین نورون یادگیرنده به‌زودی

    یک نورون با خروجی صفر یا یک که مرز خطی یاد می‌گیرد؛ نشان داده شد که مسئله‌ای مثل XOR را حل نمی‌کند.

65. تابع فعال‌سازی: ReLU، سیگموید، tanh به‌زودی

    تابع غیرخطی بعد از هر نورون؛ بی آن، هر چند لایه روی هم فقط یک تابع خطی است.

66. شبکه‌ی عصبی چندلایه چیست به‌زودی

    لایه‌هایی از نورون پشت سر هم؛ هر لایه از خروجی لایه‌ی قبل ویژگی پیچیده‌تری می‌سازد.

67. گذر رو به جلو: شبکه چطور جواب می‌دهد به‌زودی

    ورودی لایه به لایه در ماتریس وزن ضرب و از فعال‌سازی گذرانده می‌شود تا به خروجی برسد.

68. پس‌انتشار خطا (Backpropagation) به‌زودی

    با قاعده‌ی زنجیره‌ای، سهم هر وزن در خطا را از لایه‌ی آخر به اول حساب می‌کند تا گرادیان کاهشی بداند هر وزن را چقدر عوض کند.

شبکه‌ی عمیق را ساختن آسان است و آموزش دادنش سخت؛ این ترفندها فرق شبکه‌ای است که یاد می‌گیرد با شبکه‌ای که نه.

69. یادگیری عمیق چیست به‌زودی

    یادگیری ماشین با شبکه‌ی عصبی چندلایه که ویژگی‌ها را خودش از داده‌ی خام یاد می‌گیرد، به‌جای آنکه ما بسازیم.

70. گرادیان کاهشی تصادفی و دسته‌ی کوچک به‌زودی

    به‌جای همه‌ی داده، با یک دسته‌ی کوچک (مثلا ۳۲ مثال) گرادیان را تخمین می‌زنیم و قدم برمی‌داریم؛ هر بار که همه‌ی داده دیده شد، یک «دور» (epoch) است.

71. بهینه‌سازها: تکانه و Adam به‌زودی

    تکانه قدم‌های قبلی را به خاطر می‌سپارد و Adam برای هر پارامتر اندازه‌ی قدم جدا می‌گذارد.

72. مقدار اولیه‌ی وزن‌ها به‌زودی

    وزن‌ها تصادفی و با اندازه‌ی حساب‌شده شروع می‌شوند؛ همه صفر یعنی همه‌ی نورون‌ها یک چیز یاد می‌گیرند.

73. محو و انفجار گرادیان به‌زودی

    در شبکه‌ی عمیق، گرادیان در راه برگشت لایه به لایه یا خیلی کوچک یا خیلی بزرگ می‌شود و آموزش می‌ایستد یا منفجر می‌شود.

74. نرمال‌سازی دسته‌ای و لایه‌ای به‌زودی

    خروجی هر لایه را هم‌مقیاس می‌کند تا آموزش پایدار و سریع‌تر شود.

75. دراپ‌اوت به‌زودی

    هنگام آموزش، هر بار بخشی تصادفی از نورون‌ها را خاموش می‌کند تا شبکه به یک نورون تکیه نکند.

76. توقف زودهنگام و نمودار یادگیری به‌زودی

    وقتی خطای اعتبارسنجی دیگر پایین نمی‌آید، آموزش را می‌ایستانیم؛ پیش از آنکه بیش‌برازش شروع شود.

77. یادگیری انتقالی به‌زودی

    مدلی را که روی داده‌ی بزرگ آموزش دیده برمی‌داریم و با داده‌ی کم خودمان برای کار تازه تنظیم می‌کنیم.

برای عکس، متن، دنباله و ساختن چیز تازه، شکل شبکه فرق می‌کند؛ این‌جا نقشه، و هر خانواده در مسیر خودش.

78. نقشه‌ی خانواده‌های شبکه‌ی عصبی به‌زودی

    تمام‌متصل برای جدول، کانولوشنی برای عکس، بازگشتی برای دنباله، ترنسفورمر برای تقریبا همه؛ هر کدام کجا.

79. شبکه‌ی عصبی کانولوشنی (CNN)در مسیر بینایی ماشین
80. شبکه‌ی عصبی بازگشتی (RNN)در مسیر ترنسفورمرها
81. مکانیزم توجهدر مسیر ترنسفورمرها
82. امبدینگ: معنی به شکل برداردر مسیر مدل‌های زبانی بزرگ (LLM)

83. خودرمزگذار (Autoencoder) به‌زودی

    شبکه‌ای که ورودی را به کد کوچکی فشرده و دوباره بازسازی می‌کند؛ برای فشرده‌سازی، حذف نویز و تشخیص ناهنجاری.

84. شبکه‌ی مولد تخاصمی (GAN)در مسیر بینایی ماشین

سومین راه یادگیری، با آزمون و خطا و پاداش؛ هم بازی و ربات، هم بخشی از ساختن دستیارهای امروزی.

85. یادگیری تقویتی چیست به‌زودی

    عاملی در محیطی کار می‌کند، پس از هر کنش پاداش یا جریمه می‌گیرد و یاد می‌گیرد چه کند تا جمع پاداش‌ها بیشتر شود؛ با مثال موشی در هزارتو.

86. سیاست و ارزش به‌زودی

    سیاست می‌گوید در هر حالت چه کنیم؛ ارزش می‌گوید از این حالت به بعد چقدر پاداش در راه است.

87. یادگیری Q به‌زودی

    جدولی از ارزش هر کنش در هر حالت که با هر تجربه کمی به‌روز می‌شود.

88. کاوش یا بهره‌برداری به‌زودی

    امتحان کار تازه که شاید بهتر باشد، یا تکرار کاری که می‌دانیم خوب است؛ تعادل این دو.

89. RLHF: یادگیری تقویتی با بازخورد انسانیدر مسیر مدل‌های زبانی بزرگ (LLM)

فهمیدن کافی است برای فهمیدن، ولی ساختن کد می‌خواهد؛ این ایستگاه هر ایده‌ی بالا را به چند خط پایتون می‌رساند.

90. چرا پایتون، و چه مقدار کافی است به‌زودی

    زبان ساده‌ای که بیشتر ابزارهای رایگان یادگیری ماشین با آن‌اند؛ متغیر، فهرست، حلقه و تابع کافی است تا شروع کنید.

91. اولین پروژه‌ی کامل: از فایل داده تا پیش‌بینی به‌زودی

    در دفترچه‌ی کد (کد و نتیجه کنار هم): خواندن داده، تمیز کردن، تقسیم آموزش و آزمون، آموزش یک مدل ساده، سنجش و پیش‌بینی؛ با یک کتابخانه‌ی رایگان.

92. گرادیان کاهشی و شبکه‌ی کوچک بی کتابخانه به‌زودی

    همان ریاضی ایستگاه ۴ و ۱۰ (گرادیان کاهشی و پس‌انتشار) در حدود پنجاه خط پایتون، تا هیچ چیز جادو نماند.

93. چرا GPU برای یادگیری عمیق به‌زودی

    آموزش شبکه بیشترش ضرب ماتریس است و GPU هزاران ضرب را هم‌زمان انجام می‌دهد.

مدلی که در دفترچه خوب بود، در دنیای واقعی با داده‌ی تازه، آدم‌های واقعی و هزینه‌ی واقعی روبه‌رو می‌شود.

94. مراحل یک پروژه‌ی واقعی به‌زودی

    تعریف مسئله و معیار، داده، مدل ساده، سنجش، بهتر کردن، به کار گذاشتن و پایش؛ و بیشتر وقت صرف داده می‌شود.

95. به کار گذاشتن مدل به‌زودی

    مدل آموزش‌دیده را ذخیره و در برنامه‌ای می‌گذاریم که ورودی تازه بگیرد و پیش‌بینی برگرداند.

96. کهنه شدن مدل (رانش داده) به‌زودی

    دنیا عوض می‌شود و داده‌ی تازه دیگر شبیه داده‌ی آموزش نیست؛ مدل باید پایش و دوباره آموزش داده شود.

97. سوگیری و انصاف به‌زودی

    اگر داده‌ی گذشته ناعادلانه بوده، مدل همان را یاد می‌گیرد و تکرار می‌کند؛ باید برای هر گروه جدا سنجید.

98. توضیح‌پذیری: چرا مدل این را گفت به‌زودی

    روش‌هایی که نشان می‌دهند کدام ویژگی بیشترین اثر را در یک پیش‌بینی داشت.

99. حالا یادگیری ماشین را می‌شناسید به‌زودی

    جمع‌بندی راه در یک تصویر (داده، مدل، خطا، گرادیان، تکرار، سنجش)، آزمون پایانی، و دکمه به سه مسیر بعد: مدل زبانی، ترنسفورمر، بینایی ماشین.