گرادیان: شیب در چند جهت
جواب کوتاه
گرادیان یعنی چند تا شیب با هم، یکی برای هر جهت، که کنار هم یه بردار میسازن. مثل یه سینی کج: یه شیب از طول داره، یه شیب از عرض. این دو تا با هم یه فلش میشن که به سمت تندترین سربالایی اشاره میکنه، و بلندیش میگه چقدر تنده. تیلهای که روی سینی ول کنید، درست برعکس همین فلش میره پایین. هر کدوم از این شیبها یه «مشتق جزئیه»: شیب از یه طرف، وقتی بقیه ثابتن. مدل یادگیری ماشین برای هر پیچش یه شیب داره، و با رفتن برعکس گرادیان، خطاش رو کم میکنه.
سینی کج
یه سینی رو کج بگیرید و یه تیله بذارید روش. تیله کدوم طرف میره؟
توی درس مشتق روی یه جاده راه میرفتیم و فقط یه جهت داشتیم: جلو یا عقب. ولی سینی دو جهت داره: طول و عرض. ممکنه از طول خیلی کج باشه و از عرض یه کم.
تیله این حسابها رو نمیکنه؛ خودش از تندترین طرف میره پایین. اون جهت تندترین، از ترکیب دو تا شیب درمیاد. به این دو تا شیب با هم میگن گرادیان.
دو شیب، یه بردار
چطور شیب هر جهت رو جدا اندازه بگیریم؟ ساده:
- فقط در طول سینی یه قدم برید و عرض رو تکون ندید. ببینید چقدر بالا رفتید. این شیب طوله.
- حالا فقط در عرض یه قدم برید و طول رو تکون ندید. این شیب عرضه.
- دو تا عدد رو کنار هم بنویسید، مثلا (۳، ۱). این گرادیانه: یه بردار.
به هر کدوم از این شیبها، که یه جهت رو عوض میکنیم و بقیه رو ثابت نگه میداریم، میگن مشتق جزئی. گرادیان یعنی همهی مشتقهای جزئی، پشت سر هم، توی یه بردار.
نقشهی کوه از بالا
توی نقشههای کوهنوردی، کوه رو از بالا با چند تا حلقه میکشن؛ هر حلقه یعنی جاهایی که ارتفاعشون یکیه. هر جا حلقهها به هم نزدیکن، کوه تنده:
اگه توی هر نقطه، گرادیان رو به شکل یه فلش بکشیم، دو چیز میبینیم:
- فلش همیشه به تندترین سربالایی اشاره میکنه و بر خطهای همارتفاع عموده.
- بلندی فلش میگه چقدر تنده: جایی که حلقهها نزدیکن، فلش بلنده.
اتاق و بخاری
گرادیان فقط مال کوه نیست. یه اتاق سرد رو در نظر بگیرید که گوشهش یه بخاری روشنه. دمای هر جای اتاق یه چیزه. گرادیان دما توی هر نقطه، یه فلشه که به سمتی اشاره میکنه که دما از همه تندتر بالا میره؛ یعنی کم و بیش به سمت بخاری.
اینجا سه تا جهت داریم (جلو، بغل، بالا)، پس گرادیان سه تا عدد داره. هر چند تا جهت که باشه، قاعده همونه: یه شیب برای هر جهت.
گرادیان صفر
اگه سینی رو کاملا صاف بگیرید، تیله هیچجا نمیره. یعنی همهی شیبها صفرن و گرادیان (۰، ۰) میشه. همینطور بالای قله و ته یه کاسه.
به جایی که گرادیان صفره میگن نقطهی ایستا. یادتونه توی درس مشتق گفتیم ته دره مشتق صفره؟ اینجا هم همینه، فقط برای همهی جهتها با هم.
میلیونها پیچ
حالا برگردیم سراغ مدل. هر پیچ مدل یه جهته. اگه مدل یه میلیون پیچ داره، «خطا» یه سینی با یه میلیون جهته؛ نمیشه کشیدش، ولی حساب همونه. گرادیان خطا یه بردار با یه میلیون عدده: برای هر پیچ میگه اگه یه کم زیادش کنی، خطا چقدر بیشتر میشه.
گرادیان رو به سربالایی اشاره میکنه، ولی ما سرازیری میخوایم، چون خطای کمتر میخوایم. پس مدل مثل تیله، یه قدم کوچیک برعکس گرادیان برمیداره، دوباره گرادیان رو حساب میکنه، و باز. به این روش میگن کاهش گرادیان. ولی اول باید بدونیم این همه شیب رو چطور حساب کنیم؛ درس بعد، قاعدهی زنجیرهای.
جمعبندی. آنچه از این درس با خودتان میبرید.
- گرادیان: یه شیب برای هر جهت، با هم یه بردار.
- هر شیب: مشتق جزئی، بقیه ثابت.
- فلشش به تندترین سربالایی؛ بلندیش، تندی.
- گرادیان صفر: قله، ته دره یا زمین صاف.
- مدل برعکس گرادیان میره.
خودتون رو بسنجید
۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو میبینید: چند تا درست، چند تا نادرست.