پروژه‌های یادگیری ماشین بدون نظارت (Unsupervised Learning): کاهش ابعاد داده

در دنیای امروز که مملو از داده‌های پیچیده و عظیم است، توانایی استخراج دانش معنادار از این انبوه اطلاعات به یک مهارت حیاتی تبدیل شده است. یادگیری ماشین بدون نظارت (Unsupervised Learning) شاخه‌ای از هوش مصنوعی است که دقیقاً با همین هدف سروکار دارد؛ یعنی کشف ساختارها و الگوهای پنهان در داده‌ها، بدون نیاز به برچسب‌گذاری قبلی. در میان تکنیک‌های متعدد یادگیری بدون نظارت، کاهش ابعاد داده (Dimensionality Reduction) یکی از قدرتمندترین و پرکاربردترین ابزارهاست که به ما کمک می‌کند تا با چالش‌های داده‌های با ابعاد بالا مقابله کنیم و آن‌ها را به شکلی قابل فهم‌تر، کارآمدتر و قابل پردازش‌تر تبدیل کنیم.

این مقاله به بررسی عمیق پروژه‌های یادگیری ماشین بدون نظارت با تمرکز بر کاهش ابعاد می‌پردازد. ما نه تنها به تشریح مفاهیم اساسی و اهمیت کاهش ابعاد خواهیم پرداخت، بلکه تکنیک‌های مختلف آن را با جزئیات فنی مورد بحث قرار داده و کاربردهای عملی آن‌ها را از طریق پروژه‌های نمونه بررسی خواهیم کرد. هدف این است که درک جامعی از نحوه استفاده از این ابزارها برای حل مسائل پیچیده در حوزه‌های مختلف به دست آورید و بتوانید با اطمینان خاطر در پروژه‌های خود از آن‌ها بهره‌برداری کنید.

چرا کاهش ابعاد داده در یادگیری ماشین بدون نظارت حیاتی است؟

تصور کنید با مجموعه‌ای از داده‌ها سروکار دارید که هر نمونه آن دارای هزاران یا حتی میلیون‌ها ویژگی است. این وضعیت در حوزه‌هایی مانند بیوانفورماتیک (داده‌های ژنومی)، پردازش تصویر (پیکسل‌های تصاویر با وضوح بالا)، پردازش زبان طبیعی (بردارهای ویژگی متون) و سیستم‌های توصیه‌گر (امتیازدهی کاربران به آیتم‌ها) بسیار رایج است. در نگاه اول، ممکن است به نظر برسد که داشتن ویژگی‌های بیشتر همیشه بهتر است؛ چرا که اطلاعات بیشتری در مورد داده‌ها به مدل ارائه می‌دهد. اما در عمل، این امر می‌تواند منجر به چالش‌های جدی شود که به عنوان “نفرین ابعاد” شناخته می‌شود و عملکرد مدل‌های یادگیری ماشین را به شدت تحت تأثیر قرار می‌دهد.

نفرین ابعاد (Curse of Dimensionality): درک عمیق‌تر

نفرین ابعاد به پدیده‌های مختلفی اشاره دارد که با افزایش تعداد ویژگی‌ها (ابعاد) در یک مجموعه داده، با آن‌ها روبرو می‌شویم. این پدیده‌ها می‌توانند به شرح زیر باشند:

• افزایش حجم داده‌های مورد نیاز: برای پوشش فضای ویژگی به طور مناسب، با افزایش ابعاد، تعداد نمونه‌های داده مورد نیاز به صورت نمایی رشد می‌کند. این بدان معناست که با داده‌های محدود در ابعاد بالا، فضای داده به شدت “خالی” یا “تنک” (sparse) می‌شود.
• افزایش هزینه محاسباتی: الگوریتم‌های یادگیری ماشین، به ویژه آن‌هایی که شامل محاسبات ماتریسی یا جستجو در همسایگی هستند، با افزایش ابعاد به طور تصاعدی کندتر می‌شوند. زمان آموزش مدل و حتی زمان پیش‌بینی به شکل چشمگیری افزایش می‌یابد.
• افزایش خطر بیش‌برازش (Overfitting): در فضاهای با ابعاد بالا، الگوریتم‌ها ممکن است به جای یادگیری الگوهای واقعی، نویزهای موجود در داده‌ها را به خاطر بسپارند. این امر منجر به ایجاد مدل‌هایی می‌شود که بر روی داده‌های آموزشی عملکرد بسیار خوبی دارند اما در مواجهه با داده‌های جدید و ندیده شده، تعمیم‌پذیری پایینی از خود نشان می‌دهند.
• مشکل در تجسم داده‌ها: انسان‌ها تنها می‌توانند داده‌ها را در حداکثر سه بعد به راحتی تجسم کنند. با افزایش ابعاد، امکان بصری‌سازی داده‌ها برای درک روابط و الگوهای پنهان عملاً غیرممکن می‌شود، که این خود مانعی بزرگ در فاز اکتشافی داده‌هاست.
• فاصله اقلیدسی نامعتبر: در فضاهای با ابعاد بسیار بالا، مفهوم فاصله اقلیدسی (که مبنای بسیاری از الگوریتم‌ها مانند K-Nearest Neighbors و K-Means است) شروع به از دست دادن معنای خود می‌کند. همه نقاط از یکدیگر تقریباً به یک فاصله مشابه قرار می‌گیرند، که تمایز بین آن‌ها را دشوار می‌سازد.

مزایای کاهش ابعاد:

کاهش ابعاد داده دقیقاً برای مقابله با این چالش‌ها طراحی شده است. با کاهش موفقیت‌آمیز ابعاد، می‌توانیم از مزایای زیر بهره‌مند شویم:

• بهبود عملکرد مدل: با حذف ویژگی‌های اضافی، نویزدار یا همبسته، مدل‌ها می‌توانند الگوهای اساسی داده‌ها را بهتر یاد بگیرند و عملکرد تعمیم‌پذیری بالاتری داشته باشند.
• افزایش سرعت آموزش و پیش‌بینی: کاهش تعداد ویژگی‌ها به طور مستقیم منجر به کاهش محاسبات مورد نیاز می‌شود و در نتیجه زمان آموزش و پیش‌بینی مدل‌ها به طرز چشمگیری کاهش می‌یابد.
• کاهش نیاز به فضای ذخیره‌سازی: ذخیره داده‌ها با ابعاد کمتر، فضای کمتری را اشغال می‌کند که در سناریوهای داده‌های بزرگ یک مزیت مهم محسوب می‌شود.
• امکان تجسم داده‌ها: با کاهش ابعاد به دو یا سه بعد، می‌توانیم داده‌ها را بصری‌سازی کرده و الگوها، خوشه‌ها و ساختارهای پنهان را کشف کنیم. این امر در مرحله اکتشافی و درک داده‌ها بسیار ارزشمند است.
• کاهش نویز: بسیاری از تکنیک‌های کاهش ابعاد قادرند نویز موجود در داده‌ها را فیلتر کرده و تنها سیگنال‌های مهم را حفظ کنند.
• بهبود تفسیرپذیری: در برخی موارد، ابعاد کاهش یافته می‌توانند به ویژگی‌های جدیدی تبدیل شوند که از نظر فیزیکی یا مفهومی معنی‌دارتر هستند.

تکنیک‌های کلیدی کاهش ابعاد در یادگیری بدون نظارت

تکنیک‌های کاهش ابعاد در یادگیری بدون نظارت را می‌توان به طور کلی به دو دسته تقسیم کرد: انتخاب ویژگی (Feature Selection) و استخراج ویژگی (Feature Extraction). در انتخاب ویژگی، ما زیرمجموعه‌ای از ویژگی‌های اصلی را انتخاب می‌کنیم که بیشترین اطلاعات را دارند. در استخراج ویژگی، ما ویژگی‌های جدیدی را از ترکیب ویژگی‌های اصلی ایجاد می‌کنیم که ابعاد کمتری دارند.

در این بخش، ما به بررسی دقیق‌تر تکنیک‌های استخراج ویژگی می‌پردازیم که هسته اصلی پروژه‌های کاهش ابعاد در یادگیری بدون نظارت را تشکیل می‌دهند.

تحلیل مولفه‌های اصلی (PCA): مبانی و کاربردها

تحلیل مولفه‌های اصلی (Principal Component Analysis – PCA) یکی از قدیمی‌ترین و پرکاربردترین تکنیک‌های کاهش ابعاد خطی است. هدف اصلی PCA یافتن مجموعه‌ای از بردارهای متعامد (عمود بر هم) است که به آن‌ها “مولفه‌های اصلی” گفته می‌شود. این مولفه‌ها به گونه‌ای انتخاب می‌شوند که بیشترین واریانس ممکن را در داده‌ها به خود اختصاص دهند.

شهود ریاضی PCA:

PCA بر اساس مفاهیم جبر خطی، به ویژه ماتریس کوواریانس، مقادیر ویژه (eigenvalues) و بردارهای ویژه (eigenvectors) بنا شده است.

• ماتریس کوواریانس: این ماتریس میزان و جهت همبستگی بین تمام جفت ویژگی‌ها را اندازه‌گیری می‌کند. عناصر قطر اصلی واریانس هر ویژگی را نشان می‌دهند، در حالی که عناصر خارج از قطر اصلی کوواریانس بین دو ویژگی را نشان می‌دهند.
• بردارهای ویژه و مقادیر ویژه: بردارهای ویژه ماتریس کوواریانس، همان مولفه‌های اصلی هستند. هر بردار ویژه نشان‌دهنده یک جهت در فضای داده است که در آن داده‌ها بیشترین واریانس را دارند. مقدار ویژه متناظر با هر بردار ویژه، نشان‌دهنده مقدار واریانس توضیح داده شده توسط آن مولفه اصلی است.

مراحل اجرای PCA:

1. استانداردسازی داده‌ها: از آنجا که PCA حساس به مقیاس ویژگی‌ها است، ابتدا باید داده‌ها را استانداردسازی کرد (معمولاً با تبدیل به میانگین صفر و واریانس واحد).
2. محاسبه ماتریس کوواریانس: ماتریس کوواریانس داده‌های استاندارد شده محاسبه می‌شود.
3. محاسبه مقادیر ویژه و بردارهای ویژه: مقادیر ویژه و بردارهای ویژه ماتریس کوواریانس محاسبه می‌شوند.
4. مرتب‌سازی بردارهای ویژه: بردارهای ویژه بر اساس مقادیر ویژه متناظرشان به ترتیب نزولی مرتب می‌شوند. مولفه‌های اصلی با مقادیر ویژه بزرگتر، بیشترین واریانس را توضیح می‌دهند.
5. انتخاب K مولفه اصلی: بر اساس میزان واریانس توضیح داده شده یا معیار دیگر، K بردار ویژه برتر انتخاب می‌شوند.
6. تصویرسازی (Projection): داده‌های اصلی بر روی K مولفه اصلی انتخاب شده تصویرسازی می‌شوند تا ابعاد داده‌ها کاهش یابد.

نمودار Scree و نسبت واریانس توضیح داده شده:

برای انتخاب بهترین تعداد مولفه‌های اصلی (K)، معمولاً از نمودار Scree استفاده می‌شود. این نمودار مقادیر ویژه را در برابر شماره مولفه اصلی پلات می‌کند. “آرنج” در این نمودار (نقطه‌ای که شیب به شدت کاهش می‌یابد) می‌تواند نشانگر تعداد بهینه مولفه‌ها باشد. همچنین، نسبت واریانس توضیح داده شده (explained variance ratio) توسط هر مولفه و مجموع تجمعی آن‌ها، معیار مهمی برای تصمیم‌گیری است. مثلاً ممکن است هدف ما حفظ 95% واریانس اصلی داده‌ها باشد.

کاربردهای عملی PCA:

• فشرده‌سازی تصویر: با استفاده از PCA می‌توان ویژگی‌های اصلی تصویر را استخراج کرد و ابعاد آن را کاهش داد که منجر به فشرده‌سازی موثر می‌شود.
• استخراج ویژگی برای طبقه‌بندی/خوشه‌بندی: قبل از اعمال الگوریتم‌های طبقه‌بندی یا خوشه‌بندی، می‌توان از PCA برای کاهش ابعاد و بهبود عملکرد و سرعت مدل استفاده کرد.
• کاهش نویز در داده‌های سنسور: مولفه‌های اصلی با واریانس کمتر ممکن است عمدتاً نشان‌دهنده نویز باشند و با حذف آن‌ها، می‌توان نویز داده‌ها را کاهش داد.
• تجزیه و تحلیل داده‌های مالی: شناسایی عوامل اصلی تاثیرگذار بر بازارهای مالی.

تجزیه مقادیر منفرد (SVD): تعمیم و ارتباط با PCA

تجزیه مقادیر منفرد (Singular Value Decomposition – SVD) یک ابزار قدرتمند در جبر خطی است که هر ماتریس را به سه ماتریس دیگر تجزیه می‌کند. SVD تعمیمی از مفهوم بردارهای ویژه به ماتریس‌های غیرمربع است و کاربردهای گسترده‌ای در یادگیری ماشین دارد.

نحوه کار SVD:

برای یک ماتریس دلخواه M با ابعاد m×n، SVD آن را به صورت M = U Σ V^T تجزیه می‌کند، که در آن:

• U: یک ماتریس متعامد m×m است که ستون‌های آن بردارهای منفرد چپ نامیده می‌شوند.
• Σ (سیگما): یک ماتریس قطری m×n است که عناصر قطر اصلی آن (مقادیر منفرد) به ترتیب نزولی مرتب شده‌اند و همیشه غیرمنفی هستند.
• V: یک ماتریس متعامد n×n است که ستون‌های آن بردارهای منفرد راست نامیده می‌شوند.

مقادیر منفرد در Σ ریشه‌های دوم مقادیر ویژه A^T A (یا A A^T) هستند و نشان‌دهنده “اهمیت” یا “مقدار اطلاعات” هر مولفه در داده‌ها هستند.

ارتباط SVD با PCA:

PCA را می‌توان به عنوان یک مورد خاص از SVD در نظر گرفت. در واقع، بردارهای ویژه ماتریس کوواریانس داده‌ها، همان بردارهای منفرد راست (ستون‌های V) در SVD ماتریس داده‌ها (پس از میانگین‌گیری از ستون‌ها) هستند و مقادیر ویژه با مربع مقادیر منفرد متناسبند. به عبارت دیگر، اعمال SVD بر روی ماتریس داده‌های مرکزگذاری شده، نتایج مشابهی با PCA به ما می‌دهد.

کاربردهای SVD:

• سیستم‌های توصیه‌گر (Recommender Systems): SVD برای “تکمیل ماتریس” در سیستم‌های توصیه‌گر استفاده می‌شود، جایی که مقادیر گمشده در ماتریس‌های رتبه‌بندی کاربر-آیتم (مثل امتیازدهی به فیلم‌ها) تخمین زده می‌شوند. این تکنیک به عنوان فاکتورگیری ماتریسی (Matrix Factorization) شناخته می‌شود.
• تحلیل معنایی پنهان (Latent Semantic Analysis – LSA): در پردازش زبان طبیعی، SVD برای کاهش ابعاد ماتریس‌های Term-Document استفاده می‌شود تا “مفاهیم پنهان” در یک مجموعه متن کشف شوند. این به بهبود جستجو و بازیابی اطلاعات کمک می‌کند.
• فشرده‌سازی تصویر: مشابه PCA، SVD نیز می‌تواند برای فشرده‌سازی تصویر با تقریب ماتریس تصویر با استفاده از تعداد کمتری از مقادیر منفرد برتر استفاده شود.
• کاهش نویز: با حذف مقادیر منفرد کوچک و بازسازی ماتریس، می‌توان نویز را از داده‌ها حذف کرد.

نگاشت چند مقیاسی (MDS): حفظ فاصله و شباهت

نگاشت چند مقیاسی (Multidimensional Scaling – MDS) خانواده‌ای از تکنیک‌ها است که هدف آن تصویرسازی داده‌های با ابعاد بالا به فضای با ابعاد پایین (معمولاً 2 یا 3 بعد) است، به گونه‌ای که شباهت‌ها یا فاصله‌های زوجی بین نقاط داده تا حد امکان حفظ شود.

هدف MDS:

برخلاف PCA که بر حفظ واریانس تمرکز دارد، MDS بر حفظ روابط فاصله‌ای بین نقاط تمرکز می‌کند. اگر به جای خود نقاط داده، ماتریس فاصله‌ها یا شباهت‌های بین آن‌ها را داشته باشیم، MDS می‌تواند آن‌ها را در یک فضای ابعاد پایین نمایش دهد که به تجسم ساختار ذاتی داده‌ها کمک می‌کند.

انواع MDS:

• MDS کلاسیک (Classical MDS یا Principal Coordinate Analysis – PCoA): این نوع MDS فرض می‌کند که فاصله‌های ورودی، فاصله‌های اقلیدسی هستند و سعی در بازسازی این فاصله‌ها در فضای ابعاد پایین دارد. این روش ارتباط نزدیکی با PCA دارد و در واقع اگر ماتریس شباهت از ماتریس کوواریانس محاسبه شده باشد، MDS کلاسیک نتایجی مشابه با PCA خواهد داد.
• MDS متری (Metric MDS): این نوع MDS سعی می‌کند تا فاصله‌های ورودی را به طور مستقیم در فضای ابعاد پایین بازسازی کند و یک تابع هزینه (مانند Stress) را به حداقل می‌رساند که نشان‌دهنده تفاوت بین فاصله‌های اصلی و فاصله‌های بازسازی شده است.
• MDS غیرمتری (Non-metric MDS): این روش کمتر مقید به حفظ دقیق فاصله‌هاست و بیشتر بر حفظ ترتیب رتبه‌ای فاصله‌ها تمرکز دارد. یعنی اگر نقطه A به B نزدیک‌تر از C به B باشد، n-MDS سعی می‌کند این ترتیب را در فضای ابعاد پایین نیز حفظ کند، حتی اگر مقادیر دقیق فاصله تغییر کنند. این روش برای داده‌هایی که فاصله‌های دقیق آن‌ها معنای کمتری دارند (مثلاً رتبه‌بندی ترجیحات) مناسب است.

کاربردهای MDS:

• تجسم داده‌ها: نمایش بصری ساختار و خوشه‌بندی داده‌ها، به خصوص در مواردی که هیچ اطلاعات برچسب‌گذاری شده‌ای وجود ندارد.
• روان‌سنجی (Psychometrics): تحلیل شباهت‌های درک شده بین محرک‌ها (مانلاً برندهای مختلف یک محصول).
• بیوانفورماتیک: تحلیل شباهت‌های ژنتیکی بین گونه‌ها یا نمونه‌ها.
• بازاریابی: نقشه‌برداری ادراکی (Perceptual Mapping) برای درک نحوه درک مشتریان از محصولات مختلف در یک بازار.

نگاشت‌های خود سازمان‌دهنده (SOMs): شبکه‌های عصبی برای کاهش ابعاد و خوشه‌بندی

نگاشت‌های خود سازمان‌دهنده (Self-Organizing Maps – SOMs) که به عنوان نقشه‌های کوهونن (Kohonen Maps) نیز شناخته می‌شوند، نوعی از شبکه‌های عصبی مصنوعی هستند که برای کاهش ابعاد و خوشه‌بندی داده‌ها به صورت بدون نظارت استفاده می‌شوند. SOMs داده‌های با ابعاد بالا را به یک فضای ابعاد پایین‌تر (معمولاً 2 بعدی) نگاشت می‌کنند و همزمان خوشه‌بندی توپولوژیکی (نزدیکی در فضای ابعاد بالا به نزدیکی در فضای ابعاد پایین منجر می‌شود) را نیز انجام می‌دهند.

نحوه کار SOMs:

SOM شامل یک لایه ورودی و یک لایه خروجی (نقشه) است که از گره‌ها (یا نورون‌ها) تشکیل شده است. هر گره در نقشه دارای یک بردار وزن (Weight Vector) است که ابعاد آن با ابعاد داده‌های ورودی برابر است.

1. مقداردهی اولیه: بردارهای وزن گره‌ها به صورت تصادفی مقداردهی اولیه می‌شوند.
2. انتخاب بهترین واحد تطبیق (Best Matching Unit – BMU): برای هر نمونه داده ورودی، گره‌ای در نقشه که بردار وزنش بیشترین شباهت (معمولاً کمترین فاصله اقلیدسی) را با داده ورودی دارد، به عنوان BMU انتخاب می‌شود.
3. به‌روزرسانی وزن‌ها: بردار وزن BMU و گره‌های همسایه آن به سمت داده ورودی حرکت داده می‌شوند. میزان به‌روزرسانی (نرخ یادگیری) و اندازه همسایگی در طول زمان کاهش می‌یابد.
4. تکرار: مراحل 2 و 3 برای تعداد زیادی تکرار (epochs) و برای تمام نمونه‌های داده ورودی تکرار می‌شوند تا نقشه “سازمان‌دهی” شود.

نتیجه نهایی یک نقشه دو بعدی است که در آن گره‌های نزدیک به هم در نقشه، داده‌های ورودی مشابهی را نمایندگی می‌کنند. این خاصیت توپولوژیکی، SOM را برای تجسم داده‌ها و شناسایی خوشه‌ها بسیار مفید می‌سازد.

کاربردهای SOMs:

• تجسم و اکتشاف داده‌ها: SOMs ابزاری عالی برای تجسم داده‌های با ابعاد بالا و شناسایی خوشه‌ها و الگوهای پنهان در آن‌ها هستند.
• خوشه‌بندی: پس از آموزش، می‌توان خوشه‌ها را بر اساس گره‌های نقشه شناسایی کرد.
• تقسیم‌بندی مشتریان (Customer Segmentation): گروه‌بندی مشتریان بر اساس الگوهای خرید یا رفتارهای دیگر.
• تشخیص ناهنجاری (Anomaly Detection): نقاط داده‌ای که به هیچ گره‌ای در نقشه شباهت ندارند یا در حاشیه قرار می‌گیرند، می‌توانند به عنوان ناهنجاری شناسایی شوند.
• پردازش تصویر و سیگنال: برای تشخیص الگو و فشرده‌سازی.

نگاشت‌های t-SNE و UMAP: تکنیک‌های پیشرفته برای تجسم داده

با پیشرفت در حوزه یادگیری ماشین، نیاز به تکنیک‌های کاهش ابعاد غیرخطی برای تجسم داده‌های پیچیده‌تر که دارای ساختارهای منیفلد (manifold) پنهان هستند، افزایش یافت. t-SNE و UMAP دو مورد از محبوب‌ترین و قدرتمندترین این تکنیک‌ها هستند.

t-SNE (t-distributed Stochastic Neighbor Embedding):

t-SNE یک تکنیک کاهش ابعاد غیرخطی است که به طور خاص برای تجسم مجموعه‌داده‌های با ابعاد بالا طراحی شده است. هدف اصلی آن حفظ “ساختارهای محلی” در داده‌ها است؛ به این معنی که نقاطی که در فضای ابعاد بالا به هم نزدیک هستند، در فضای ابعاد پایین نیز به هم نزدیک خواهند بود.

نحوه کار t-SNE:

t-SNE ابتدا احتمال شباهت زوجی بین نقاط داده در فضای ابعاد بالا را محاسبه می‌کند و سپس سعی می‌کند این احتمالات را در فضای ابعاد پایین بازتولید کند. این کار با استفاده از توابع توزیع احتمال (گوسی برای فضای ابعاد بالا و t-Student برای فضای ابعاد پایین) انجام می‌شود. تابع t-Student دارای “دم‌های سنگین‌تر” است که به آن امکان می‌دهد نقاطی را که در فضای ابعاد پایین دورتر هستند، همچنان به عنوان نقاط مرتبط در نظر بگیرد و از پدیده “جمع شدن نقاط” (crowding problem) که در بسیاری از الگوریتم‌های کاهش ابعاد دیگر دیده می‌شود، جلوگیری کند.

پارامتر کلیدی در t-SNE، Perplexity است که به طور غیرمستقیم تعداد همسایگان موثر برای هر نقطه را کنترل می‌کند و تاثیر زیادی بر نتایج تجسم دارد.

کاربردهای t-SNE:

• تجسم داده‌های بیولوژیکی: مانند داده‌های بیان ژن (gene expression) یا RNA-seq تک سلولی.
• تجسم بردارهای جاسازی کلمات (Word Embeddings): مانند Word2Vec یا GloVe برای نشان دادن روابط معنایی کلمات.
• تجسم داده‌های تصویر: برای گروه‌بندی تصاویر مشابه.
• تحلیل داده‌های چند متغیره (Multivariate Data Analysis): شناسایی خوشه‌ها و الگوهای پیچیده در داده‌ها.

محدودیت‌های t-SNE:

• هزینه محاسباتی بالا: t-SNE برای مجموعه‌داده‌های بسیار بزرگ می‌تواند بسیار کند باشد.
• حساسیت به پارامتر Perplexity: انتخاب مقدار مناسب برای Perplexity نیاز به آزمون و خطا دارد.
• عدم حفظ ساختار جهانی: t-SNE به حفظ ساختارهای محلی تمرکز دارد و ممکن است فاصله‌های بین خوشه‌های بزرگ را به درستی حفظ نکند.
• غیرقطعی بودن (Non-deterministic): به دلیل ماهیت تصادفی الگوریتم، هر بار اجرای آن می‌تواند نتایج کمی متفاوتی تولید کند (مگر اینکه seed ثابت شود).

UMAP (Uniform Manifold Approximation and Projection):

UMAP یک تکنیک کاهش ابعاد جدیدتر و اغلب برتر از t-SNE است. هدف آن نیز تجسم داده‌ها و حفظ ساختارهای محلی و جهانی است، اما با سرعت بسیار بالاتر و قابلیت حفظ بهتر ساختار کلی داده‌ها.

نحوه کار UMAP:

UMAP بر اساس تئوری منیفلد و توپولوژی جبری بنا شده است. این الگوریتم ابتدا یک گراف همسایگی فازی (fuzzy simplicial complex) از داده‌ها را در فضای ابعاد بالا می‌سازد و سپس سعی می‌کند معادل آن را در فضای ابعاد پایین بازسازی کند. UMAP برای انجام این کار از یک مفهوم فاصله خاص (metric) و یک تابع اتصال (connection strength) برای هر لبه در گراف استفاده می‌کند. UMAP سریع‌تر است زیرا بهینه‌سازی کمتری نسبت به t-SNE نیاز دارد و از تقریب‌های کارآمدتری استفاده می‌کند.

مزایای UMAP نسبت به t-SNE:

• سرعت بالاتر: به طور قابل توجهی سریع‌تر از t-SNE، به ویژه برای مجموعه‌داده‌های بزرگ.
• حفظ بهتر ساختار جهانی: UMAP علاوه بر حفظ ساختارهای محلی، ساختار کلی و جهانی داده‌ها (مانند فاصله‌های بین خوشه‌ها) را نیز به خوبی حفظ می‌کند.
• استفاده به عنوان ابزار تبدیل (Transformational Tool): UMAP می‌تواند داده‌های جدید را به فضای ابعاد پایین نگاشت کند (بخلاف t-SNE که عمدتاً برای تجسم داده‌های موجود استفاده می‌شود و نگاشت داده‌های جدید به فضای کاهش‌یافته آن دشوار است).
• پایان‌باز بودن (Open-ended): UMAP در صورت نیاز به تعداد ابعاد کاهش‌یافته بیشتر از 2 یا 3 نیز عملکرد خوبی دارد.

کاربردهای UMAP:

مشابه t-SNE، اما با مزایای بیشتر در سرعت و حفظ ساختار، UMAP به طور گسترده‌ای در:

• تجسم داده‌های بیولوژیکی (single-cell RNA-seq).
• تجسم جاسازی‌های کلمات و اسناد.
• کاوش داده‌های با ابعاد بالا در هر حوزه‌ای که نیاز به درک ساختار داده‌ها وجود دارد.

ملاحظات عملی در انتخاب و پیاده‌سازی تکنیک‌های کاهش ابعاد

انتخاب تکنیک مناسب و پیاده‌سازی صحیح آن برای کاهش ابعاد داده‌ها نیازمند درک عمیق از ماهیت داده‌ها و اهداف پروژه است. در این بخش به برخی ملاحظات عملی مهم می‌پردازیم.

پیش‌پردازش داده: گامی اساسی

موفقیت هر الگوریتم یادگیری ماشین، و کاهش ابعاد نیز از این قاعده مستثنی نیست، به شدت وابسته به کیفیت و آماده‌سازی داده‌های ورودی است. پیش‌پردازش داده‌ها قبل از اعمال تکنیک‌های کاهش ابعاد حیاتی است.

• استانداردسازی/نرمال‌سازی: بسیاری از الگوریتم‌های کاهش ابعاد (مانند PCA و SVD) که بر اساس فاصله یا واریانس کار می‌کنند، به مقیاس ویژگی‌ها حساس هستند. استانداردسازی (تبدیل به میانگین صفر و واریانس واحد) یا نرمال‌سازی (تبدیل به محدوده مشخص، مانند [0, 1]) برای اطمینان از اینکه هیچ ویژگی‌ای به دلیل مقیاس بزرگتر خود بر نتیجه تسلط پیدا نمی‌کند، ضروری است.
• مدیریت مقادیر گمشده: مقادیر گمشده باید قبل از اعمال اکثر تکنیک‌های کاهش ابعاد مدیریت شوند. این کار می‌تواند از طریق حذف ردیف‌ها/ستون‌های دارای مقادیر گمشده، یا با استفاده از روش‌های جایگزینی (Imputation) مانند میانگین، میانه، مد، یا الگوریتم‌های پیشرفته‌تر (مانند KNN Imputer) انجام شود.
• تشخیص و مدیریت ناهنجاری‌ها (Outliers): ناهنجاری‌ها می‌توانند تاثیر قابل توجهی بر برخی از تکنیک‌های کاهش ابعاد (به ویژه PCA) بگذارند. شناسایی و مدیریت آن‌ها (حذف یا تبدیل) می‌تواند به بهبود نتایج کمک کند.
• تبدیل داده‌های کیفی: ویژگی‌های دسته‌ای (Categorical Features) باید به فرمت عددی تبدیل شوند (مانند One-Hot Encoding) تا بتوان از آن‌ها در الگوریتم‌های کاهش ابعاد استفاده کرد.

معیارهای ارزیابی: چگونه بهترین ابعاد را انتخاب کنیم؟

پس از اعمال یک تکنیک کاهش ابعاد، چالش اصلی این است که چگونه ابعاد بهینه (K) را انتخاب کنیم و چگونه کیفیت کاهش ابعاد را ارزیابی کنیم. انتخاب K اغلب به هدف نهایی پروژه بستگی دارد.

• واریانس توضیح داده شده (Explained Variance): در PCA، این یکی از رایج‌ترین معیارهاست. با بررسی نمودار Scree و نسبت تجمعی واریانس توضیح داده شده، می‌توانیم تعداد مولفه‌هایی را انتخاب کنیم که درصد قابل قبولی (مثلاً 90% یا 95%) از واریانس اصلی داده‌ها را حفظ می‌کنند.
• خطای بازسازی (Reconstruction Error): برای تکنیک‌هایی مانند PCA یا Autoencoders، می‌توانیم داده‌ها را با استفاده از ابعاد کاهش‌یافته بازسازی کنیم و سپس خطای بین داده‌های اصلی و بازسازی شده را اندازه‌گیری کنیم. ابعاد بهینه، ابعادی است که خطای بازسازی را به حداقل برساند در حالی که تعداد ویژگی‌ها را نیز کمینه نگه دارد.
• معیارهای خوشه‌بندی/طبقه‌بندی (اگر کاهش ابعاد پیش‌نیازی برای این کارها باشد): اگر هدف نهایی کاهش ابعاد، بهبود عملکرد یک مدل خوشه‌بندی یا طبقه‌بندی باشد، می‌توانیم ابعاد کاهش یافته را به این مدل‌ها وارد کنیم و عملکرد آن‌ها را با معیارهایی مانند Silhouette Score (برای خوشه‌بندی)، دقت (Accuracy)، F1-Score (برای طبقه‌بندی) ارزیابی کنیم. ابعاد بهینه، ابعادی است که بهترین عملکرد مدل نهایی را به ارمغان می‌آورد.
• بازرسی بصری (Visual Inspection): برای تکنیک‌های تجسمی مانند t-SNE و UMAP، بهترین معیار اغلب بازرسی بصری است. اگر خوشه‌ها به خوبی از هم جدا شده‌اند و ساختارهای معنادار قابل مشاهده هستند، می‌توانیم فرض کنیم که کاهش ابعاد موفقیت‌آمیز بوده است.
• معیار کاپا (Kappa) یا آماره کندال تاو (Kendall’s Tau): برای تکنیک‌هایی مانند MDS یا UMAP که بر حفظ روابط فاصله‌ای یا رتبه‌ای تمرکز دارند، می‌توان از این معیارها برای مقایسه شباهت‌ها/تفاوت‌های رتبه‌ای در فضای اصلی و فضای کاهش یافته استفاده کرد.

چالش‌ها و محدودیت‌ها:

کاهش ابعاد با تمام مزایای خود، چالش‌ها و محدودیت‌هایی نیز دارد که باید به آن‌ها توجه کرد:

• از دست دادن اطلاعات: کاهش ابعاد همیشه با از دست دادن مقداری از اطلاعات همراه است. هدف، به حداقل رساندن از دست دادن اطلاعات مهم و حذف اطلاعات اضافی یا نویز است.
• تفسیرپذیری ویژگی‌های جدید: در تکنیک‌های استخراج ویژگی مانند PCA، مولفه‌های اصلی جدید ممکن است از نظر فیزیکی یا مفهومی قابل تفسیر نباشند، زیرا ترکیبی خطی از ویژگی‌های اصلی هستند. این می‌تواند در توضیح نتایج به ذی‌نفعان غیرفنی چالش‌برانگیز باشد.
• انتخاب پارامترها: بسیاری از تکنیک‌ها (به ویژه t-SNE و UMAP) دارای پارامترهای هایپر مهمی هستند که تنظیم صحیح آن‌ها بر کیفیت نتایج تاثیر زیادی دارد و اغلب نیاز به آزمون و خطا دارد.
• خطی بودن در برابر غیرخطی بودن: انتخاب تکنیک مناسب (خطی مانند PCA یا غیرخطی مانند t-SNE/UMAP) بستگی به این دارد که آیا ساختار ذاتی داده‌ها خطی است یا خیر. استفاده از یک تکنیک خطی برای داده‌هایی با ساختار منیفلد غیرخطی می‌تواند نتایج ضعیفی به همراه داشته باشد.
• حجم داده: برای مجموعه‌داده‌های بسیار بزرگ، برخی تکنیک‌ها (مانند t-SNE) ممکن است از نظر محاسباتی بسیار سنگین باشند و نیاز به رویکردهای مقیاس‌پذیرتر داشته باشند.

پروژه‌های نمونه یادگیری ماشین بدون نظارت با تمرکز بر کاهش ابعاد

برای درک عمیق‌تر کاربردهای کاهش ابعاد، در این بخش به بررسی چندین پروژه نمونه می‌پردازیم. این پروژه‌ها از دامنه‌های مختلفی انتخاب شده‌اند تا طیف وسیعی از چالش‌ها و راه‌حل‌ها را پوشش دهند.

پروژه 1: کاهش ابعاد تصاویر برای فشرده‌سازی و نمایش کارآمدتر

مسئله: تصاویر دیجیتال، به خصوص تصاویر با وضوح بالا، می‌توانند دارای ابعاد بسیار زیادی باشند (مثلاً هر تصویر 28×28 پیکسل MNIST، 784 ویژگی دارد). این ابعاد بالا می‌تواند منجر به مصرف زیاد فضای ذخیره‌سازی، زمان پردازش طولانی‌تر و چالش در تجزیه و تحلیل شود. هدف، کاهش ابعاد تصاویر بدون از دست دادن اطلاعات بصری مهم، به منظور فشرده‌سازی و نمایش کارآمدتر است.

تکنیک پیشنهادی: PCA یا SVD.

شرح پروژه:

1. بارگذاری مجموعه داده: از یک مجموعه داده تصویر مانند MNIST (ارقام دست‌نویس) یا CelebA (تصاویر چهره) استفاده کنید. برای سادگی، MNIST یک نقطه شروع عالی است.
2. پیش‌پردازش داده:
   • هر تصویر را به یک بردار تک بعدی (flatten) تبدیل کنید. برای MNIST 28×28، هر تصویر به یک بردار با طول 784 تبدیل می‌شود.
   • پیکسل‌ها را نرمال‌سازی کنید (معمولاً تقسیم بر 255 برای مقیاس‌بندی به محدوده [0, 1]).
   • داده‌ها را مرکزگذاری کنید (از هر ویژگی، میانگین آن را کم کنید) تا PCA بهینه‌تر عمل کند.
3. اعمال PCA/SVD:
   • یک شیء PCA از کتابخانه scikit-learn ایجاد کنید.
   • تعداد مولفه‌های اصلی (n_components) را مشخص کنید. می‌توانید این تعداد را به صورت درصدی از واریانس توضیح داده شده (مثلاً 0.95 برای حفظ 95% واریانس) یا یک عدد ثابت (مثلاً 50 یا 100 مولفه) تنظیم کنید.
   • PCA را روی داده‌های فلت شده آموزش (fit) دهید و سپس داده‌ها را تبدیل (transform) کنید تا ابعاد آن‌ها کاهش یابد.
4. بازسازی تصاویر:
   • با استفاده از مولفه‌های اصلی کاهش یافته، تصاویر را به ابعاد اصلی خود بازسازی کنید (از inverse_transform در scikit-learn).
   • مقادیر پیکسل بازسازی شده را به محدوده اصلی [0, 255] برگردانید.
5. تجسم و ارزیابی:
   • تصاویر اصلی و تصاویر بازسازی شده را در کنار هم نمایش دهید. این به شما امکان می‌دهد تا تفاوت بصری و میزان حفظ جزئیات را ارزیابی کنید.
   • واریانس توضیح داده شده توسط مولفه‌های انتخابی را بررسی کنید (pca.explained_variance_ratio_).
   • نسبت فشرده‌سازی را محاسبه کنید (ابعاد اصلی / ابعاد کاهش یافته).
   • می‌توانید خطای بازسازی (مانند Mean Squared Error) را نیز محاسبه کنید.

خروجی مورد انتظار: تصاویری که با ابعاد کاهش یافته بازسازی شده‌اند، با کیفیت بصری قابل قبولی شبیه به تصاویر اصلی خواهند بود، در حالی که تعداد ویژگی‌های مورد نیاز برای نمایش آن‌ها به طور قابل توجهی کاهش یافته است.

پروژه 2: کشف الگوهای پنهان در داده‌های متنی با LSA (SVD)

مسئله: داده‌های متنی دارای ابعاد بسیار بالا و تنک (sparse) هستند. نمایش متون با مدل‌های Bag-of-Words یا TF-IDF منجر به ماتریس‌هایی با هزاران یا میلیون‌ها ستون (کلمات) می‌شود که پردازش آن‌ها دشوار است. هدف، کاهش ابعاد این نمایش‌ها و کشف “مفاهیم پنهان” یا “موضوعات” در یک مجموعه از اسناد است.

تکنیک پیشنهادی: SVD برای تحلیل معنایی پنهان (Latent Semantic Analysis – LSA).

شرح پروژه:

1. بارگذاری مجموعه داده: از یک مجموعه داده متنی مانند مجموعه اسناد خبری 20 Newsgroups یا مجموعه از توییت‌ها/نظرات مشتریان استفاده کنید.
2. پیش‌پردازش متن (Text Preprocessing):
   • Tokenization: متون را به کلمات (توکن) تقسیم کنید.
   • حذف Stop Words: کلمات رایج و بی‌اهمیت (مانند “و”، “که”، “یک”) را حذف کنید.
   • Lemmatization/Stemming: کلمات را به ریشه یا شکل پایه خود برگردانید (مثلاً “running” به “run”).
   • حذف کلمات با فراوانی کم/زیاد: کلماتی که بسیار نادر یا بسیار رایج هستند را حذف کنید.
3. ایجاد ماتریس Term-Document:
   • از TfidfVectorizer در scikit-learn برای تبدیل متون پیش‌پردازش شده به ماتریس TF-IDF استفاده کنید. این ماتریس نشان می‌دهد هر کلمه چقدر در هر سند مهم است.
4. اعمال SVD (LSA):
   • از TruncatedSVD در scikit-learn استفاده کنید. TruncatedSVD به طور خاص برای ماتریس‌های تنک بهینه شده و به دلیل ارتباط با LSA بسیار مناسب است.
   • تعداد مولفه‌ها (n_components) را انتخاب کنید (مثلاً 50 یا 100 موضوع).
   • TruncatedSVD را روی ماتریس TF-IDF آموزش دهید و سپس داده‌ها را تبدیل کنید.
5. تفسیر نتایج:
   • هر مولفه اصلی (موضوع پنهان) اکنون توسط یک بردار از کلمات با وزن‌های مرتبط نمایش داده می‌شود.
   • برای هر مولفه (موضوع)، 10 یا 20 کلمه با بالاترین وزن را استخراج کنید.
   • این کلمات به شما کمک می‌کنند تا محتوای معنایی هر موضوع پنهان را تفسیر کنید. برای مثال، کلمات “فوتبال”، “لیگ”، “تیم” ممکن است نشان‌دهنده موضوع “ورزش” باشند.
   • می‌توانید اسناد را بر اساس میزان ارتباطشان با هر یک از این موضوعات جدید دسته‌بندی یا تحلیل کنید.

خروجی مورد انتظار: مجموعه‌ای از “موضوعات” پنهان که هر یک توسط گروهی از کلمات مرتبط تعریف می‌شوند و هر سند را می‌توان به صورت ترکیبی از این موضوعات جدید نمایش داد.

پروژه 3: تجسم داده‌های ژنومیک با t-SNE و UMAP

مسئله: داده‌های ژنومیک، مانند داده‌های بیان ژن از RNA-seq تک سلولی، دارای هزاران ژن (ویژگی) برای هر سلول هستند. این ابعاد بالا، تجسم و شناسایی انواع سلول‌ها یا حالات بیولوژیکی مختلف را بسیار دشوار می‌کند. هدف، کاهش ابعاد این داده‌ها به 2 یا 3 بعد برای تجسم بصری خوشه‌های سلولی.

تکنیک پیشنهادی: t-SNE و UMAP.

شرح پروژه:

1. بارگذاری مجموعه داده: از یک مجموعه داده RNA-seq تک سلولی استفاده کنید که شامل بیان هزاران ژن برای صدها یا هزاران سلول است. این داده‌ها معمولاً به صورت یک ماتریس سلول × ژن ارائه می‌شوند.
2. پیش‌پردازش داده:
   • نرمال‌سازی داده‌های بیان ژن (مثلاً log-transformation یا مقیاس‌بندی).
   • ممکن است لازم باشد ژن‌هایی با واریانس پایین یا ژن‌های housekeeping را حذف کنید.
   • استانداردسازی (z-score scaling) نیز می‌تواند مفید باشد.
3. اعمال t-SNE و UMAP:
   • برای t-SNE: یک شیء TSNE از scikit-learn ایجاد کنید. پارامترهای n_components (معمولاً 2) و perplexity را تنظیم کنید. perplexity معمولاً در محدوده 5 تا 50 است و نیاز به آزمایش دارد.
   • برای UMAP: یک شیء UMAP از کتابخانه umap-learn ایجاد کنید. پارامترهای n_components (معمولاً 2)، n_neighbors و min_dist را تنظیم کنید. n_neighbors (مثلاً 15 یا 30) بر تعادل بین حفظ ساختار محلی و جهانی تاثیر می‌گذارد و min_dist (مثلاً 0.1) بر حداقل فاصله بین نقاط در فضای کاهش یافته تاثیر می‌گذارد.
   • هر دو الگوریتم را روی داده‌های پیش‌پردازش شده fit_transform کنید.
4. تجسم و تفسیر:
   • نتایج t-SNE و UMAP را با استفاده از کتابخانه‌های تجسمی مانند Matplotlib یا Seaborn به صورت نمودارهای نقطه‌ای (scatter plots) نمایش دهید.
   • اگر اطلاعات برچسب‌گذاری شده در مورد نوع سلول‌ها یا شرایط تجربی دارید، نقاط را بر اساس این برچسب‌ها رنگ‌آمیزی کنید. این به شما کمک می‌کند تا ببینید آیا تکنیک کاهش ابعاد توانسته است انواع سلول‌ها را به خوبی تفکیک کند یا خیر.
   • خوشه‌ها یا الگوهای بصری مشاهده شده را تفسیر کنید. آیا سلول‌های از یک نوع خاص با هم گروه‌بندی شده‌اند؟ آیا خوشه‌های جدیدی کشف شده‌اند که قبلاً شناخته شده نبودند؟

خروجی مورد انتظار: نمودارهای دو بعدی که در آن‌ها سلول‌های با پروفایل بیان ژن مشابه در کنار یکدیگر قرار گرفته‌اند و خوشه‌های متمایز از انواع سلول‌ها یا حالات بیولوژیکی مختلف به وضوح قابل مشاهده هستند.

پروژه 4: بهبود عملکرد سیستم‌های توصیه‌گر با کاهش ابعاد

مسئله: سیستم‌های توصیه‌گر اغلب با ماتریس‌های رتبه‌بندی کاربر-آیتم بسیار بزرگ و تنک (اکثر کاربران تنها به تعداد کمی از آیتم‌ها رتبه داده‌اند) سروکار دارند. این تنک بودن و ابعاد بالا، چالش‌هایی را در یافتن الگوهای پنهان و انجام توصیه‌های دقیق ایجاد می‌کند. هدف، کاهش ابعاد این ماتریس‌ها برای شناسایی عوامل پنهان و بهبود کیفیت توصیه‌ها.

تکنیک پیشنهادی: SVD (به عنوان فاکتورگیری ماتریسی برای فیلترینگ مشارکتی).

شرح پروژه:

1. بارگذاری مجموعه داده: از مجموعه داده‌های عمومی سیستم‌های توصیه‌گر مانند MovieLens (رتبه‌بندی فیلم‌ها توسط کاربران) یا یک مجموعه داده مشابه برای محصولات/خدمات استفاده کنید.
2. ساخت ماتریس کاربر-آیتم:
   • داده‌ها را به یک ماتریس بزرگ تبدیل کنید که ردیف‌های آن کاربران و ستون‌های آن آیتم‌ها هستند. سلول‌ها حاوی رتبه‌بندی کاربران به آیتم‌ها هستند و اکثر سلول‌ها خالی (NaN یا صفر) خواهند بود.
3. مدیریت مقادیر گمشده (Implicit Feedback):
   • در سیستم‌های توصیه‌گر، مقادیر گمشده معمولاً به این معنی است که کاربر به آن آیتم رتبه نداده است، نه اینکه رتبه آن گمشده است. می‌توان این‌ها را به عنوان “عدم علاقه” یا “ناشناخته” در نظر گرفت.
   • برای SVD، معمولاً مقادیر گمشده با میانگین رتبه‌بندی آیتم/کاربر پر می‌شوند یا از نسخه‌های SVD که با مقادیر گمشده کار می‌کنند (مانند SVD در کتابخانه Surprise) استفاده می‌شود.
4. اعمال SVD:
   • از SVD برای فاکتورگیری ماتریس کاربر-آیتم به دو ماتریس کوچک‌تر استفاده کنید: یک ماتریس کاربر-ویژگی پنهان و یک ماتریس آیتم-ویژگی پنهان.
   • این ویژگی‌های پنهان (latent features) “عوامل پنهان” را نشان می‌دهند که بر ترجیحات کاربر تاثیر می‌گذارند (مثلاً ژانرهای فیلم، بازیگران، کارگردان‌ها).
   • تعداد عوامل پنهان (k) یک پارامتر مهم است که باید تنظیم شود.
5. بازسازی ماتریس و پیش‌بینی رتبه‌بندی:
   • با ضرب ماتریس‌های فاکتورگیری شده، یک ماتریس رتبه‌بندی بازسازی شده به دست می‌آورید. این ماتریس شامل پیش‌بینی رتبه‌بندی برای آیتم‌هایی است که کاربر قبلاً به آن‌ها رتبه نداده است.
6. ارزیابی و توصیه:
   • عملکرد سیستم توصیه‌گر را با معیارهایی مانند RMSE (Root Mean Squared Error) یا MAE (Mean Absolute Error) ارزیابی کنید.
   • برای یک کاربر خاص، آیتم‌هایی را که پیش‌بینی رتبه‌بندی بالاتری دارند و کاربر قبلاً آن‌ها را ندیده است، به عنوان توصیه‌ها ارائه دهید.

خروجی مورد انتظار: بهبود دقت پیش‌بینی رتبه‌بندی کاربران برای آیتم‌های ندیده شده و ارائه توصیه‌های مرتبط‌تر.

پروژه 5: کاهش نویز در داده‌های سنسور صنعتی

مسئله: داده‌های جمع‌آوری شده از سنسورهای صنعتی اغلب شامل نویزهای محیطی، خطاها یا اطلاعات اضافی هستند که می‌توانند تحلیل داده‌ها و تشخیص الگوهای واقعی را دشوار کنند. هدف، حذف یا کاهش این نویزها و استخراج سیگنال‌های مهم.

تکنیک پیشنهادی: PCA.

شرح پروژه:

1. بارگذاری مجموعه داده: از یک مجموعه داده سری زمانی از سنسورهای صنعتی (مثلاً داده‌های دما، فشار، لرزش از یک دستگاه صنعتی) استفاده کنید.
2. پیش‌پردازش داده:
   • هموارسازی (Smoothing): در صورت لزوم، اعمال فیلترهای هموارسازی اولیه (مانند میانگین متحرک) برای کاهش نویزهای با فرکانس بالا.
   • استانداردسازی: داده‌های هر سنسور را استانداردسازی کنید.
3. اعمال PCA:
   • PCA را روی داده‌های سنسور (که هر ستون یک سنسور و هر ردیف یک نمونه زمانی است) اعمال کنید.
   • مولفه‌های اصلی را استخراج کنید.
4. شناسایی و حذف مولفه‌های نویز:
   • بررسی واریانس توضیح داده شده توسط هر مولفه اصلی. معمولاً مولفه‌هایی با واریانس بسیار کم (که کمترین سهم را در توضیح تنوع داده‌ها دارند) می‌توانند نشان‌دهنده نویز باشند.
   • همچنین، می‌توانید مولفه‌های اصلی را به صورت سری زمانی پلات کنید و از نظر بصری آن‌هایی را که به نظر می‌رسد صرفاً نویز هستند، شناسایی کنید.
   • تعداد مشخصی از مولفه‌های اصلی برتر (مثلاً 90% از واریانس را حفظ می‌کنند) را انتخاب کنید و بقیه را حذف کنید.
5. بازسازی داده‌های بدون نویز:
   • داده‌ها را با استفاده از زیرمجموعه انتخاب شده از مولفه‌های اصلی بازسازی کنید (inverse_transform).
   • این داده‌های بازسازی شده، نسخه‌ای “پاک شده” از داده‌های اصلی خواهند بود که نویز آن‌ها کاهش یافته است.
6. ارزیابی:
   • نمودار سری زمانی داده‌های اصلی و داده‌های بازسازی شده را در کنار هم رسم کنید تا تاثیر کاهش نویز را به صورت بصری ارزیابی کنید.
   • می‌توانید معیارهایی مانند نسبت سیگنال به نویز (SNR) یا MSE را برای ارزیابی کمی کاهش نویز محاسبه کنید.

خروجی مورد انتظار: داده‌های سنسوری که نویز آن‌ها به طور قابل توجهی کاهش یافته است، در حالی که الگوهای و روندهای اصلی سیگنال حفظ شده‌اند. این داده‌های پاک شده برای تحلیل‌های بعدی، پیش‌بینی یا تشخیص ناهنجاری مناسب‌تر خواهند بود.

آینده کاهش ابعاد: روندهای نوظهور و چالش‌ها

حوزه کاهش ابعاد داده به طور مداوم در حال تحول است. با ظهور مجموعه‌داده‌های پیچیده‌تر و نیاز به مدل‌های یادگیری ماشین کارآمدتر، تکنیک‌های جدیدی در حال توسعه هستند. در اینجا به برخی از روندهای نوظهور و چالش‌های آینده می‌پردازیم:

کاهش ابعاد عمیق (Deep Dimensionality Reduction):

با موفقیت‌های چشمگیر یادگیری عمیق، شبکه‌های عصبی عمیق نیز برای کاهش ابعاد مورد استفاده قرار گرفته‌اند. Autoencoders مثال بارزی از این رویکرد هستند.

• Autoencoders: یک نوع شبکه عصبی هستند که برای یادگیری یک نمایش فشرده (encoding) از داده‌های ورودی آموزش می‌بینند. Autoencoder از دو بخش تشکیل شده است:
  • Encoder: ورودی را به یک فضای با ابعاد پایین‌تر (Latent Space یا Bottleneck) نگاشت می‌کند.
  • Decoder: سعی می‌کند ورودی اصلی را از نمایش فشرده بازسازی کند.

  با آموزش Autoencoder برای به حداقل رساندن خطای بازسازی، Encoder یاد می‌گیرد که مهم‌ترین ویژگی‌های داده را در فضای پنهان فشرده کند. انواع پیشرفته‌تر مانند Variational Autoencoders (VAEs) و Denoising Autoencoders نیز برای تولید داده‌های جدید و کاهش نویز به کار می‌روند. Autoencoders توانایی یادگیری نگاشت‌های غیرخطی پیچیده را دارند که آن‌ها را برای داده‌های بسیار پیچیده مناسب می‌سازد.

• Manifold Learning with Neural Networks: شبکه‌های عصبی عمیق می‌توانند برای یادگیری منیفولدهای پنهان در داده‌ها نیز استفاده شوند، به گونه‌ای که حتی ساختارهای پیچیده و غیرخطی را نیز به خوبی استخراج کنند.

کاهش ابعاد برای داده‌های جریانی (Streaming Data):

بسیاری از کاربردهای مدرن (مانند اینترنت اشیا، حسگرها، بازارهای مالی) شامل داده‌هایی هستند که به صورت پیوسته و در زمان واقعی تولید می‌شوند. اعمال تکنیک‌های کاهش ابعاد بر روی این “داده‌های جریانی” چالش‌های خاص خود را دارد:

• قابلیت انطباق (Adaptability): مدل کاهش ابعاد باید قادر به به‌روزرسانی خود به صورت افزایشی باشد، بدون نیاز به آموزش مجدد کامل بر روی کل مجموعه داده در هر بار.
• کارایی محاسباتی: الگوریتم‌ها باید سبک باشند تا بتوانند با سرعت بالای جریان داده مطابقت داشته باشند.
• Online PCA: نسخه‌هایی از PCA که به صورت آنلاین و افزایشی کار می‌کنند، در حال توسعه هستند.

کاهش ابعاد برای داده‌های ناهمگن (Heterogeneous Data):

در بسیاری از سناریوها، داده‌ها از منابع مختلفی با انواع مختلف (تصویر، متن، داده‌های جدولی، سری زمانی) جمع‌آوری می‌شوند. کاهش ابعاد برای این “داده‌های چندوجهی” (Multi-modal Data) یک چالش بزرگ است:

• Multi-modal Learning: هدف این است که یک نمایش پنهان مشترک ایجاد شود که اطلاعات معنادار را از تمام حالت‌های داده استخراج کند و همبستگی بین آن‌ها را حفظ کند.
• تلفیق ویژگی‌ها (Feature Fusion): روش‌هایی برای ترکیب ویژگی‌ها از منابع مختلف و سپس اعمال کاهش ابعاد بر روی این مجموعه ترکیب شده.
• شبکه‌های عصبی برای داده‌های ناهمگن: معماری‌های شبکه‌های عصبی عمیق که می‌توانند ورودی‌های مختلف را پردازش کرده و یک نمایش پنهان یکپارچه را یاد بگیرند، در حال ظهور هستند.

تفسیرپذیری و شفافیت:

با پیچیده‌تر شدن تکنیک‌های کاهش ابعاد (به ویژه آن‌هایی که از یادگیری عمیق استفاده می‌کنند)، تفسیرپذیری نتایج به یک چالش جدی تبدیل می‌شود. درک اینکه ویژگی‌های کاهش یافته دقیقاً چه چیزی را نشان می‌دهند و چگونه بر تصمیمات مدل تاثیر می‌گذارند، برای اعتماد به این مدل‌ها و استفاده مسئولانه از آن‌ها حیاتی است. تلاش‌ها برای توسعه تکنیک‌های کاهش ابعاد “قابل توضیح” (Explainable Dimensionality Reduction) ادامه دارد.

کاهش ابعاد برای حریم خصوصی:

در زمینه حفظ حریم خصوصی داده‌ها، کاهش ابعاد می‌تواند نقش دوگانه‌ای ایفا کند: از یک سو می‌تواند با حذف ویژگی‌های حساس به حریم خصوصی کمک کند، از سوی دیگر ممکن است به صورت ناخواسته اطلاعات حساسی را در فضای ابعاد پایین حفظ کند. توسعه روش‌های کاهش ابعاد که به طور ذاتی حریم خصوصی را حفظ می‌کنند (مانند Differential Privacy-preserving Dimensionality Reduction) یک حوزه فعال تحقیقاتی است.

نتیجه‌گیری

کاهش ابعاد داده یک ستون فقرات در حوزه یادگیری ماشین بدون نظارت است که برای مقابله با پیچیدگی‌های داده‌های با ابعاد بالا، به ویژه در عصر داده‌های بزرگ، حیاتی است. از تکنیک‌های خطی و کلاسیکی مانند PCA و SVD که برای فشرده‌سازی و استخراج عوامل پنهان بسیار موثر هستند، تا روش‌های پیشرفته و غیرخطی مانند t-SNE و UMAP که انقلابی در تجسم داده‌های پیچیده ایجاد کرده‌اند، هر یک جایگاه و کاربرد خاص خود را در جعبه ابزار یک دانشمند داده دارد.

همانطور که در این مقاله مشاهده شد، کاهش ابعاد نه تنها به حل مشکل “نفرین ابعاد” کمک می‌کند، بلکه مزایای متعددی از جمله بهبود عملکرد مدل، کاهش زمان آموزش، صرفه‌جویی در فضای ذخیره‌سازی و مهم‌تر از همه، امکان درک و تجسم ساختارهای پنهان در داده‌ها را به ارمغان می‌آورد. از فشرده‌سازی تصویر و تحلیل متون گرفته تا کشف انواع سلول‌ها در داده‌های ژنومیک و بهبود سیستم‌های توصیه‌گر، کاربردهای این تکنیک‌ها بی‌شمار و گسترده هستند.

با این حال، انتخاب و پیاده‌سازی موفقیت‌آمیز تکنیک کاهش ابعاد نیازمند درک عمیق از مبانی هر روش، پیش‌پردازش دقیق داده‌ها و ارزیابی هوشمندانه نتایج است. آینده این حوزه نیز با پیشرفت‌های هیجان‌انگیز در کاهش ابعاد عمیق، کار با داده‌های جریانی و ناهمگن، و تاکید فزاینده بر تفسیرپذیری و حفظ حریم خصوصی در حال شکل‌گیری است.

دانش و مهارت در کاهش ابعاد به هر متخصص یادگیری ماشین این امکان را می‌دهد که با اطمینان خاطر بیشتری با مجموعه‌داده‌های پیچیده کار کند، الگوهای پنهان را کشف کند و مدل‌هایی بسازد که نه تنها کارآمدتر، بلکه قابل فهم‌تر باشند. از این رو، ادامه یادگیری و آزمایش با این ابزارهای قدرتمند، کلیدی برای موفقیت در دنیای هوش مصنوعی و علم داده خواهد بود.