LLM4Rec：当推荐系统遇到大模型

飞书用户7782

2024年4月6日修改

📌

持续follow更新中，欢迎交流。如有错误，多多指正~

BTW，本文内容与作者雇主无关，仅代表作者本人当前认知梳理。全文只会引用互联网公开资源，不涉及任何内部未公开信息。​

推荐系统发展overview

来自大模型总结的发展和展望timeline

仅供娱乐（https://mylens.ai/）

1.
LLM v.s. Rec​

🎉

推荐，你在 "馋" LLM 啥？

既然是大模型在推荐系统中的应用，那么首先要梳理下传统推荐模型和 LLM 的优缺点，推荐到底在"馋"LLM 的什么？​

（这里的 LLM 指广义的大语言模型，包括 BERT、ChatGPT 等）

	推荐系统	大模型
发展历史
场景	千人千面、领域各异	通用模型，one for all
输入	物品（百万、千万）	字词文本（十万）
参数规模	亿级别特征参数占比大，不具备 scaling law	千亿、万亿（计算复杂度高） Scaling Law
学习范式	Online learning	Pretrain-finetuning、Prompt-learning、instruction-tuning
模型能力	缺乏语义信息、推理能力、可解释性等；过拟合场景数据、bias、冷启动问题；可以充分利用协同信号	引入外部世界知识，语义信号丰富；可解释性强；冷启动友好；跨域知识；缺少协同信号；
challenge	1. Mismatch between LLM pretrain objective and RS; 2. LLM rely more on semantics, omit collaborative information;

LLM4Rec：当推荐系统遇到大模型​