کاهش ابعاد و PCA

سایه‌ی خودکار

یه خودکار رو زیر چراغ بگیرید و به سایه‌اش روی میز نگاه کنید. سایه دوبعدیه، ولی خودکار سه‌بعدی. یعنی یه بعد رو از دست دادیم.

اگه خودکار رو از پهلو بگیرید، سایه‌اش درازه و هر کی ببینه می‌فهمه خودکاره. ولی اگه از ته بگیرید، سایه فقط یه نقطه‌ست و هیچی ازش معلوم نیست. پس اینکه از کدوم زاویه نگاه کنیم، خیلی مهمه.

داده هم همین‌طوره. وقتی داده ستون‌های خیلی زیادی داره، کار باهاش سخت و کنده. کاهش ابعاد یعنی همون داده رو با ستون‌های کمتر نشون بدیم، از بهترین زاویه، طوری که چیز مهمی گم نشه. معروف‌ترین روشش اسمش PCA هست، یعنی تحلیل مؤلفه‌های اصلی.

قد و وزن

یه مثال ساده: قد و وزن چند نفر. معمولا هر کی بلندتره، سنگین‌تر هم هست؛ پس نقطه‌ها یه ابر کشیده و کج می‌سازن:

دو تا عدد داریم، ولی بیشتر تفاوت آدم‌ها روی یه جهت کجه: جهت اول. در جهت عمود بر اون، یعنی جهت دوم، نقطه‌ها خیلی کم پخشن. پس اگه جای قد و وزن، فقط بگیم هر نفر کجای جهت اوله، یه عدد داریم که تقریبا همه‌ی حرف رو می‌زنه. دو ستون شد یه ستون.

به این جهت‌های تازه می‌گن مؤلفه‌های اصلی. هر کدوم ترکیبی از ستون‌های قبلیه؛ مثلا جهت اول یه جورایی «درشتی» آدم‌هاست، از قد و وزن با هم.

چطوری پیداش می‌کنه

1. وسط‌چین کردن: از هر ستون، میانگینش رو کم می‌کنه تا وسط ابر بیاد روی صفر.
2. جهت اول: خطی رو پیدا می‌کنه که از وسط ابر رد بشه و نقطه‌ها کمترین فاصله‌ی عمودی رو تا اون داشته باشن. همون جهتیه که داده بیشترین پخش رو داره.
3. جهت دوم: بین جهت‌هایی که عمود بر اولی‌ان، اونی که بیشترین پخش باقی‌مونده رو داره.
4. و همین‌طور: تا به تعداد ستون‌ها جهت داشته باشیم. بعد فقط چند تای اول رو نگه می‌داریم.

این شبیه کاریه که توی رگرسیون خطی کردیم، با یه فرق: اونجا فاصله‌ی عمودی تا خط رو از بالا به پایین می‌گرفتیم، چون یه ستون جواب بود. اینجا جوابی نداریم؛ فاصله رو عمود بر خود خط می‌گیریم.

سهم هر جهت

حالا چند تا جهت نگه داریم؟ برای هر جهت حساب می‌کنن چند درصد از کل پخش داده رو داره. مثلا برای یه داده‌ی چهارستونه:

دو تا جهت اول با هم ۹۰ درصد پخش رو دارن. پس اگه جای چهار ستون فقط این دو تا رو نگه داریم، ۱۰ درصد از دست دادیم ولی داده نصف شده. اینکه کجا بس کنیم، به کارمون بستگی داره؛ معمولا همین نمودار رو نگاه می‌کنن.

اول هم‌اندازه کن

PCA دنبال بیشترین پخشه. حالا اگه قد رو به سانتی‌متر بنویسیم (۱۵۰ تا ۱۹۰) و وزن رو به تن (۰٫۰۵ تا ۰٫۱)، پخش قد صدها برابر بیشتر به نظر میاد، فقط به خاطر واحد. اون‌وقت PCA فکر می‌کنه همه‌چی قده.

برای همین پیش از PCA، ستون‌ها رو هم‌اندازه می‌کنن تا واحدها توی جواب اثر نذارن.

به چه درد می‌خوره

• دیدن داده: داده‌ای با ده‌ها ستون رو نمی‌شه کشید. ولی دو تا جهت اول رو می‌شه روی کاغذ کشید و مثلا خوشه‌ها رو با چشم دید.
• کم کردن نویز: جهت‌های آخر معمولا پخش کمی دارن و بیشتر نویزن؛ کنار گذاشتنشون داده رو تمیزتر می‌کنه.
• سبک‌تر کردن کار بعدی: مدلی که روی چند ستون آموزش ببینه، سریع‌تره.

یه محدودیت هم داره: PCA فقط جهت‌های صاف پیدا می‌کنه. اگه داده روی یه شکل خمیده باشه، روش‌های غیرخطی بهترن، که البته حساب بیشتری می‌خوان. PCA هم خیلی قدیمیه: سال ۱۹۰۱ ساخته شد و اسمش دهه‌ی ۱۹۳۰ روش گذاشته شد.

درس بعد، آخرین درس این ایستگاه: پیدا کردن چیزهایی که به هیچ‌کی نمی‌خورن؛ تشخیص ناهنجاری.