大模型赋能推荐：华为在推荐场景中的探索与应用
引言
信息爆炸的时代，推荐系统已成为互联网信息分发的核心渠道，它不仅提升用户体验，更构建了健康的平台生态。传统的推荐算法主要依赖于用户在特定场景中的交互数据，但其局限性在于难以真正理解语义信息，且无法有效应对冷启动或数据稀疏问题。近年来，大模型的出现为推荐系统带来了新的机遇和建模范式，其强大的世界知识和逻辑推理能力，为推荐系统全链路赋能。本文将探讨华为在基于大模型的推荐算法方向的探索和工业落地，揭示大模型如何从语义和协同信息两方面提升推荐效果。
大模型推荐系统的优势
大模型在推荐系统中的应用，主要体现在以下四个方面：
- 开放世界知识： 大模型能够引入开放域世界的知识，突破数据集内部的局限，提供额外的信息增益，例如理解电影的影评、导演背景等。
- 跨域通用语义知识： 大模型具备较好的跨域通用语义知识，能够更好地应用于跨域推荐或冷启动问题。
- 协同信息注入： 大模型缺乏协同信息，因此研究者正在探索如何将推荐场景领域的协同信息注入到大模型中，以弥补其在启动信息上的不足。
- 效率优化： 大模型的复杂度相对较高，需要进行针对推荐任务的效率优化。
LLM for Rec：工业应用与研究方向
在工业领域，大模型在推荐链路中的应用方式主要包括：
- 特征工程： 利用大模型对数据进行加工处理，得到结构化的特征。
- 编码器： 用大模型作为更强大的编码器，生成用户和物品的表征，学习更深层次的语义知识。
- 排序打分： 大模型直接用于对候选物品进行排序打分，应用于 CTR 预测、位置预测等任务。
- 对话式场景： 大模型在用户与系统之间的交互以及对现有流程的控制上发挥重要作用。
现有的研究方向主要集中在语义和协同联合优化方面，即在模型侧引入传统推荐模型进行辅助，或在数据微调侧引入领域知识进行数据微调，以期结合大模型的语义理解能力和传统推荐模型的协同信息处理优势。
KAR 框架：利用 LLM 开放知识辅助推荐
华为诺亚方舟实验室提出了一种基于开放域知识的框架 KAR，旨在生成语义知识以辅助传统的大模型。该框架通过 QA 方式对大模型进行提问，获取关于物品在关键因素上的知识，并将其转换成结构化的嵌入向量，最终得到可以用于下游推荐模型的增强用户表征向量。
工业落地：华为广告、音乐场景的应用
华为在广告和音乐场景中应用了大模型推荐技术，取得了显著成果。例如，在音乐推荐中，通过引入开放域知识，显著提高了 AUC 值，表明大模型能够有效地提升推荐效果。
未来展望
大模型在推荐场景中的应用仍处于探索阶段，未来研究方向包括：
- 更有效的协同信息注入方法： 如何将推荐场景的协同信息更有效地注入到大模型中。
- 大模型效率优化： 如何提高大模型在推荐场景中的训练和推理效率。
- 多模态大模型的应用： 如何将多模态大模型应用于推荐场景，例如将图像、视频等信息融入推荐系统。
结论
大模型为推荐系统带来了新的机遇和挑战，其强大的语义理解能力和逻辑推理能力，能够有效地提升推荐效果。华为在基于大模型的推荐算法方向的探索和工业落地，为大模型在推荐场景中的应用提供了宝贵的经验。未来，随着大模型技术的不断发展，大模型在推荐场景中的应用将会更加广泛和深入。
参考文献
- AICon 全球人工智能开发与应用大会
- LLM for Rec: A Survey
- Knowledge-Augmented Recommendation with Open-World Knowledge
Views: 0