ریاضیات

در اینجا به مفهوم امبدینگ کاربر/آیتم (User/Item Embeddings) می‌پردازیم که هسته اصلی سیستم‌های توصیه‌گر مدرن را تشکیل می‌دهد.

امبدینگ کاربر/آیتم (User/Item Embeddings)

مفهوم: امبدینگ کاربر/آیتم به فرآیند تبدیل هر کاربر (User) و هر آیتم (Item) (مانند فیلم، محصول، آهنگ، مقاله) به یک بردار عددی در یک فضای برداری مشترک و با ابعاد پایین گفته می‌شود. این بردارهای عددی به گونه‌ای طراحی می‌شوند که ترجیحات پنهان (latent preferences) کاربران و ویژگی‌های پنهان (latent characteristics) آیتم‌ها را رمزگذاری کنند.

هدف اصلی این است که:

• امبدینگ یک کاربر، سلیقه و ترجیحات آن کاربر را بازتاب دهد.
• امبدینگ یک آیتم، ویژگی‌ها و محتوای آن آیتم را نمایش دهد.
• تصاویر و آیتم‌های مشابه (چه از نظر بصری، چه از نظر محتوایی، چه از نظر الگوی تعامل با کاربران)، در فضای امبدینگ به یکدیگر نزدیک باشند.

چرا امبدینگ کاربر/آیتم مهم است؟

این امبدینگ‌ها ستون فقرات سیستم‌های توصیه‌گر مدرن هستند. سیستم‌های توصیه‌گر باید میلیاردها تعامل بین میلیون‌ها کاربر و آیتم را پردازش کنند. نمایش کاربران و آیتم‌ها به عنوان بردارهای عددی، این فرآیند را به شدت کارآمد و مقیاس‌پذیر می‌کند:

1. پردازش کارآمد و مقیاس‌پذیری: به جای کار با ماتریس‌های بسیار بزرگ و تنک (sparse) تعاملات کاربر-آیتم، که میلیاردها ورودی خالی دارند، می‌توانیم با بردارهای فشرده با ابعاد پایین‌تر کار کنیم.
2. کشف عوامل پنهان (Latent Factors): امبدینگ‌ها عوامل پنهان را در سلیقه کاربران و ویژگی‌های آیتم‌ها کشف می‌کنند که ممکن است به وضوح در داده‌های خام (مانند "ژانر" یا "بازیگر") مشخص نباشند. برای مثال، یک بُعد در بردار امبدینگ ممکن است نشان‌دهنده علاقه کاربر به "فیلم‌های علمی-تخیلی با پایان غم‌انگیز" باشد.
3. محاسبه شباهت (Similarity Calculation): پس از داشتن امبدینگ‌ها، می‌توانیم با استفاده از معیارهای شباهت مانند تشابه کسینوسی (Cosine Similarity) یا فاصله اقلیدسی (Euclidean Distance):
   • آیتم‌های مشابه (Similar Items) را پیدا کنیم (مثلاً فیلم‌هایی با امبدینگ‌های نزدیک).
   • کاربران مشابه (Similar Users) را پیدا کنیم (کاربرانی با سلیقه مشابه).
   • ارتباط بین کاربر و آیتم (User-Item Relevance) را تخمین بزنیم (با محاسبه ضرب داخلی یا فاصله بین امبدینگ کاربر و آیتم، می‌توانیم پیش‌بینی کنیم که کاربر چقدر به آیتم علاقه دارد).
4. رسیدگی به داده‌های تنک (Sparsity Handling): سیستم‌های توصیه‌گر معمولاً با مشکل تنکی داده مواجه‌اند؛ یعنی هر کاربر تنها با درصد بسیار کوچکی از کل آیتم‌ها تعامل داشته است. امبدینگ‌ها با یادگیری از تعاملات مشاهده شده، می‌توانند روابط پنهان را کشف کرده و برای آیتم‌های نادیده نیز پیش‌بینی انجام دهند.
5. انتقال یادگیری (Transfer Learning): امبدینگ‌های آموزش‌دیده می‌توانند در مدل‌های دیگر یا برای وظایف مرتبط (مثل دسته‌بندی آیتم‌ها یا خوشه‌بندی کاربران) به عنوان ویژگی‌های ورودی استفاده شوند.

نحوه ساخت و آموزش امبدینگ‌های کاربر/آیتم:

روش‌های مختلفی برای یادگیری این امبدینگ‌ها وجود دارد که به طور کلی به دو دسته اصلی تقسیم می‌شوند:

1. فاکتورگیری ماتریس (Matrix Factorization - MF):

   • ایده اصلی: این روش فرض می‌کند که ماتریس بزرگ تعاملات کاربر-آیتم (مثلاً ماتریسی که در آن سطرها کاربران و ستون‌ها آیتم‌ها هستند و هر ورودی امتیاز کاربر به آیتم را نشان می‌دهد) را می‌توان به حاصل‌ضرب دو ماتریس کوچک‌تر تجزیه کرد: یک ماتریس امبدینگ کاربر و یک ماتریس امبدینگ آیتم.
   • نحوه کار: این مدل‌ها به دنبال بردارهای امبدینگ کاربر Pu​ و آیتم Qi​ هستند به گونه‌ای که حاصل‌ضرب داخلی آن‌ها (Pu​⋅Qi​) نزدیک به امتیاز واقعی (یا تعامل) Rui​ باشد. تابع هزینه (loss function) این مدل‌ها تفاوت بین امتیازات پیش‌بینی‌شده و واقعی را حداقل می‌کند.
   • انواع بازخورد (Feedback Types):
     • بازخورد صریح (Explicit Feedback): مانند امتیازات (ratings) ستاره‌ای (مثلاً ۱ تا ۵ ستاره).
     • بازخورد ضمنی (Implicit Feedback): مانند کلیک‌ها، مشاهده‌ها، خریدها، یا زمان صرف‌شده. این نوع بازخورد فراوان‌تر است اما نشان‌دهنده علاقه مستقیم نیست (مثلاً کلیک کردن روی یک محصول به معنای دوست داشتن آن نیست). برای این نوع داده‌ها، اغلب از رویکردهایی مانند Weighted Alternating Least Squares (WALS) یا Bayesian Personalized Ranking (BPR) استفاده می‌شود که به تعاملات مشاهده شده وزن بیشتری می‌دهند.
   • مزیت: درک و پیاده‌سازی نسبتاً ساده، عملکرد خوب روی داده‌های تنک.
   • محدودیت: ممکن است در مدل‌سازی روابط غیرخطی پیچیده ناتوان باشند و برای "شروع سرد" (Cold Start) کاربران/آیتم‌های جدید مشکل دارند.

2. مدل‌های یادگیری عمیق (Deep Learning Models):

   • ایده اصلی: شبکه‌های عصبی عمیق می‌توانند الگوهای پیچیده‌تر و غیرخطی را در داده‌های کاربر-آیتم یاد بگیرند و امبدینگ‌هایی تولید کنند که غنی‌تر از روش‌های MF سنتی باشند.
   • Neural Collaborative Filtering (NCF) (۲۰۱۷): این مدل‌ها فاکتورگیری ماتریس را با استفاده از یک شبکه عصبی چند لایه (Multi-Layer Perceptron - MLP) تعمیم می‌دهند تا تعاملات غیرخطی را نیز ثبت کنند. NCF می‌تواند از حاصل‌ضرب داخلی (Generalized Matrix Factorization - GMF) یا ترکیب (Concatenation) امبدینگ‌ها استفاده کند و آن‌ها را از طریق MLP پردازش کند.
   • مدل‌های دو برجی (Two-Tower Models): این معماری‌ها به طور گسترده توسط شرکت‌هایی مانند YouTube و Google استفاده می‌شوند. آن‌ها دو شبکه عصبی مجزا دارند:
     • یک برج کاربر (User Tower): ورودی‌هایی مانند ID کاربر، ویژگی‌های دموگرافیک، تاریخچه تعاملات قبلی (کلمات کلیدی جستجو شده، فیلم‌های تماشا شده) را می‌گیرد و یک بردار امبدینگ کاربر تولید می‌کند.
     • یک برج آیتم (Item Tower): ورودی‌هایی مانند ID آیتم، ویژگی‌های آیتم (ژانر، بازیگر، توضیحات متنی، تصاویر) را می‌گیرد و یک بردار امبدینگ آیتم تولید می‌کند.
     • سپس، شباهت بین امبدینگ کاربر و امبدینگ آیتم برای تولید امتیاز پیش‌بینی‌شده یا رتبه‌بندی استفاده می‌شود. این مدل‌ها برای مرحله "تولید کاندیدا" (Candidate Generation) در سیستم‌های توصیه‌گر بسیار کارآمد هستند.
   • مدل‌های ترانسفورمر (Transformer Models): برای داده‌های توالی‌محور (مانند تاریخچه مرور کاربر یا توالی آیتم‌های خریداری شده)، مدل‌های ترانسفورمر می‌توانند روابط پیچیده زمانی و تعاملی را در امبدینگ‌ها ثبت کنند.
   • مزیت: توانایی مدل‌سازی روابط غیرخطی، استفاده از ویژگی‌های جانبی (Side Information) مانند متن توضیحات آیتم یا تصاویر، عملکرد بهتر در سناریوهای پیچیده.
   • محدودیت: نیاز به داده‌های بیشتر و قدرت محاسباتی بالاتر، تفسیرپذیری کمتر.

کاربردها در سیستم‌های توصیه‌گر:

امبدینگ‌های کاربر/آیتم هسته اصلی اکثر سیستم‌های توصیه‌گر مدرن را تشکیل می‌دهند:

1. فیلترینگ مشارکتی (Collaborative Filtering): با یافتن کاربران مشابه یا آیتم‌های مشابه بر اساس امبدینگ‌هایشان، توصیه‌ها ارائه می‌شود.
2. جستجوی شباهت (Similarity Search):
   • جستجوی آیتم به آیتم: با داشتن امبدینگ یک آیتم، آیتم‌های دیگر با نزدیک‌ترین امبدینگ‌ها را پیدا می‌کند (مثلاً "اگر این فیلم را دوست داشتید، این‌ها را هم دوست خواهید داشت").
   • جستجوی کاربر به کاربر: با داشتن امبدینگ یک کاربر، کاربران مشابه را پیدا می‌کند.
3. تولید کاندیدا (Candidate Generation): در سیستم‌های توصیه‌گر مقیاس بزرگ، امبدینگ‌های کاربر و آیتم برای یافتن سریع هزاران آیتم بالقوه مرتبط با یک کاربر از میان میلیون‌ها آیتم استفاده می‌شوند.
4. رتبه‌بندی (Ranking): پس از تولید کاندیداها، مدل‌های رتبه‌بندی می‌توانند از امبدینگ‌ها به عنوان ویژگی‌های ورودی برای پیش‌بینی دقیق‌تر علاقه کاربر استفاده کنند.
5. خوشه‌بندی کاربر/آیتم: گروه‌بندی کاربران با سلیقه مشابه یا آیتم‌های مشابه برای هدف‌گذاری بازاریابی یا تحلیل رفتار.
6. شروع سرد (Cold Start): برای کاربران یا آیتم‌های جدید که تعاملات کمی دارند، می‌توان از ویژگی‌های جانبی (مانلاً دموگرافیک کاربر، توضیحات آیتم) برای تولید امبدینگ اولیه استفاده کرد.

چالش‌ها و جهت‌گیری‌های آینده:

• شروع سرد (Cold Start): چالش همیشگی برای کاربران/آیتم‌های جدید بدون سابقه تعامل.
• پویایی و تغییرات (Dynamism & Evolution): سلیقه کاربران و ویژگی‌های آیتم‌ها به مرور زمان تغییر می‌کنند. امبدینگ‌ها باید به طور مداوم به‌روزرسانی شوند. یادگیری پیوسته (Continual Learning) در اینجا اهمیت پیدا می‌کند.
• تفسیرپذیری (Interpretability): درک اینکه چرا یک آیتم خاص به یک کاربر توصیه شده است، می‌تواند دشوار باشد.
• سوگیری و عدالت (Bias & Fairness): امبدینگ‌ها می‌توانند سوگیری‌های موجود در داده‌های آموزشی (مثلاً سوگیری جنسیتی یا نژادی) را بازتاب دهند که منجر به توصیه‌های ناعادلانه می‌شود.
• مدل‌های چندوجهی (Multimodality): ترکیب ویژگی‌های متنی، تصویری، صوتی و دیگر انواع داده برای تولید امبدینگ‌های غنی‌تر.
• حفظ حریم خصوصی (Privacy Preservation): چالش در یادگیری امبدینگ‌های کاربر بدون به خطر انداختن حریم خصوصی.

در مجموع، امبدینگ‌های کاربر/آیتم ابزارهای قدرتمندی هستند که با تبدیل داده‌های تعاملی پیچیده به نمایش‌های عددی قابل مدیریت، انقلاب بزرگی در حوزه سیستم‌های توصیه‌گر ایجاد کرده‌اند و امکان ارائه تجربه‌های شخصی‌سازی شده در مقیاس وسیع را فراهم می‌آورند.

منابع (کلی و کلیدی):

• کتاب‌های مرجع در سیستم‌های توصیه‌گر:
  • Aggarwal, C. C. (2016). Recommender Systems: The Textbook. Springer.
  • Ricci, F., Rokach, L., & Shapira, B. (Eds.). (2011). Recommender Systems Handbook. Springer.
• Matrix Factorization:
  • Koren, Y., Bell, R., & Volinsky, C. (2009). Matrix factorization techniques for recommender systems. Computer, (8), 30-37.
  • Funk, S. (2006). Netflix Update: Try This At Home. (بلاگ پست معروف Simon Funk).
• Neural Collaborative Filtering (NCF):
  • He, X., Liao, L., Zhang, H., Cao, L., Nguyen, D. T., & Chua, T. S. (2017). Neural Collaborative Filtering. Proceedings of the 26th International Conference on World Wide Web, 173-182.
• مدل‌های دو برجی (Two-Tower Models): این مدل‌ها اغلب از طریق مقالات کنفرانس‌های برتر (مانند RecSys، KDD، WWW) و بلاگ‌پست‌های فنی شرکت‌هایی مانند Google و YouTube معرفی شده‌اند.
• بازخورد ضمنی:
  • Hu, Y., Koren, Y., & Volinsky, C. (2008). Collaborative filtering for implicit feedback datasets. IEEE International Conference on Data Mining (ICDM), 263-272.
• مقالات مرور (Survey Papers):
  • Zhang, S., Yao, L., Sun, A., & Tay, Y. (2019). Deep Learning for Recommender Systems: A Survey and New Perspectives. ACM Computing Surveys (CSUR), 52(5), 1-35.

این منابع مبانی نظری و پیشرفت‌های عملی در زمینه امبدینگ‌های کاربر/آیتم در سیستم‌های توصیه‌گر را پوشش می‌دهند.