آموزشیادگیری ماشین

درس ۲۵ از ۹۹، هوش مصنوعی، حدود ۷ دقیقه خواندن

لگاریتم و تابع نمایی

جواب کوتاه

تابع نمایی یعنی هر قدم، یه عدد ثابت ضرب بشه؛ مثل تا کردن کاغذ که هر بار لایه‌ها دو برابر می‌شن: ۱، ۲، ۴، ۸، ۱۶. اولش آرومه، ولی بعد خیلی تند بالا می‌ره. لگاریتم سوال برعکسه: «چند بار؟». چند بار تا کنم که ۱۰۲۴ لایه بشه؟ ده بار. لگاریتم ۱۰۰۰ در پایه‌ی ۱۰ می‌شه ۳، چون ۱۰ ضرب در ۱۰ ضرب در ۱۰ می‌شه ۱۰۰۰. لگاریتم ضرب رو به جمع تبدیل می‌کنه. توی یادگیری ماشین، با لگاریتم احتمال‌های خیلی کوچیک رو جمع می‌کنیم به جای اینکه ضرب کنیم، و با تابع نمایی، هر عددی رو مثبت می‌کنیم.

تا کردن کاغذ

یه برگ کاغذ بردارید و از وسط تا کنید؛ دو لایه می‌شه. دوباره تا کنید، چهار لایه. دوباره، هشت. هر بار دو برابر:

پنج بار تا کردید، ۳۲ لایه. ده بار، ۱۰۲۴ لایه. بیست بار، بیشتر از یه میلیون لایه! به این جور بزرگ شدن، که هر قدم «ضرب در» یه عدد ثابته، می‌گن رشد نمایی، و به خود این تابع، تابع نمایی.

چرا «نمایی»؟ چون تعداد تاها توی «نما» یا توانه: دو به توان پنج، یعنی پنج تا دو رو در هم ضرب کن.

دو جور رشد

فرض کنید دو نفر پس‌انداز می‌کنن. یکی هر ماه دو تا سکه اضافه می‌کنه. اون یکی، هر ماه پس‌اندازش رو دو برابر می‌کنه. اولش کدوم جلوتره؟

اولش «به‌علاوه‌ی ۲» جلوتره: ۱، ۳، ۵، ۷. «ضرب در ۲» هنوز روی ۱، ۲، ۴، ۸ مونده. ولی چند قدم بعد، «ضرب در ۲» از کنارش رد می‌شه و دیگه هیچ‌وقت بهش نمی‌رسه.

برای همین «نمایی» لزوما یعنی «سریع» نیست؛ ممکنه اولش خیلی آروم باشه. ویژگی اصلیش اینه که هر چی بزرگ‌تر می‌شه، تندتر بزرگ می‌شه، چون رشدش به اندازه‌ی خودش بستگی داره.

سوال برعکس

حالا سوال رو برعکس کنیم: «چند بار تا کنم که ۱۰۲۴ لایه بشه؟». جواب: ده بار. به همین جواب، یعنی «چند بار باید ضرب کنم»، می‌گن لگاریتم. لگاریتم ۱۰۲۴ در پایه‌ی ۲ می‌شه ۱۰.

پایه همون عددیه که هر بار ضربش می‌کنیم. با پایه‌ی ۱۰، لگاریتم ۱۰۰۰ می‌شه ۳، چون ۱۰ ضرب در ۱۰ ضرب در ۱۰ می‌شه ۱۰۰۰. یه راه ساده برای پایه‌ی ۱۰: صفرهای ۱۰۰، ۱۰۰۰ یا ۱۰۰۰۰ رو بشمرید.

پس لگاریتم و تابع نمایی وارونه‌ی همن، مثل جمع و تفریق. نمایی می‌گه «ده بار تا کردی، چند لایه شد؟»؛ لگاریتم می‌گه «این همه لایه، چند بار تا شده؟».

ضرب به جمع

لگاریتم یه خاصیت جادویی داره: ضرب رو به جمع تبدیل می‌کنه. لگاریتم ۱۰۰ می‌شه ۲، لگاریتم ۱۰۰۰ می‌شه ۳. لگاریتم ۱۰۰ ضرب در ۱۰۰۰، یعنی لگاریتم صد هزار، می‌شه ۲ به‌علاوه‌ی ۳، یعنی ۵.

این خاصیت قرن‌ها به کار مردم اومده. نپر، یه ریاضی‌دان اسکاتلندی، سال ۱۶۱۴ لگاریتم رو معرفی کرد تا حساب‌ها ساده بشه. دریانوردها و مهندس‌ها با جدول لگاریتم، به جای ضرب‌های طولانی چندرقمی، چند تا عدد رو از جدول پیدا می‌کردن و جمع می‌زدن.

توی یادگیری ماشین

این دو تا تابع همه‌جای یادگیری ماشین هستن:

  • لگاریتم برای احتمال‌های کوچیک: اگه چند تا احتمال رو در هم ضرب کنیم، جواب آنقدر کوچیک می‌شه که کامپیوتر درست نگهش نمی‌داره. با لگاریتم، به جای ضرب، جمع می‌کنیم.
  • لگاریتم توی حساب خطا: خطای مدل‌های دسته‌بندی، کراس‌انتروپی، با لگاریتم ساخته می‌شه.
  • نمایی برای مثبت کردن: نتیجه‌ی تابع نمایی همیشه مثبته. برای همین سافت‌مکس با اون، چند تا عدد هر جوری رو به احتمال‌های مثبت تبدیل می‌کنه.

عدد e

توی کتاب‌ها یه پایه‌ی عجیب زیاد می‌بینید: عدد e، که تقریبا برابر ۲٫۷۱۸ می‌شه. به لگاریتم با این پایه می‌گن «لگاریتم طبیعی». چرا این عدد عجیب؟ چون مشتقش خیلی ساده درمیاد و حساب‌ها رو تمیز می‌کنه. پایه‌ی ۲ هم توی کامپیوتر زیاد دیده می‌شه.

با این درس، ایستگاه ریاضی تموم شد: بردار، ماتریس، تابع، مشتق، گرادیان، زنجیره، احتمال، آمار، و لگاریتم. حالا همه‌ی ابزارها رو داریم که اولین مدل رو از اول تا آخر بسازیم؛ درس بعد، مدل، پارامتر و پیش‌بینی.

جمع‌بندی. آنچه از این درس با خودتان می‌برید.

  • نمایی: هر قدم ضرب در یه عدد ثابت.
  • اولش آروم، بعد خیلی تند.
  • لگاریتم: چند بار ضرب شده؟
  • لگاریتم ضرب رو جمع می‌کنه.
  • هر دو توی حساب خطای مدل‌ها مدام میان.

خودتون رو بسنجید

۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.

خودتون رو بسنجید

۱۵ پرسش

  • هر بار پرسش‌ها و ترتیب گزینه‌ها عوض می‌شه.
  • تا آخر نمی‌گیم کدوم جواب درست بوده؛ می‌تونید برگردید و جوابتون رو عوض کنید.
  • آخرش کارنامه می‌گیرید: چند تا درست، چند تا نادرست.
  • اگه وسطش بستید، دوباره که باز کنید از همون‌جا ادامه می‌دید.

فصل‌های این درس

درس بعد