当前位置: 首页 > news >正文

向量数据库实战:选型、调优与落地~系列文章20:向量数据库在推荐系统中的应用:从协同过滤到向量召回

向量数据库在推荐系统中的应用:从协同过滤到向量召回 🎯

🔥本文是《向量数据库实战:选型、调优与落地》专栏第 20 篇

⏱️阅读时间:约 13 分钟


🎯 开篇:推荐系统的"召回"革命

传统推荐系统的核心流程 👇

┌─────────────────────────────────────────────────────────┐ │ 推荐系统经典架构 │ ├─────────────────────────────────────────────────────────┤ │ │ │ 用户请求 │ │ │ │ │ ▼ │ │ ┌──────────┐ ┌──────────┐ ┌──────────┐ │ │ │ 召回层 │ → │ 粗排层 │ → │ 精排层 │ │ │ │ (Recall) │ │ (Pre- │ │ (Rank) │ │ │ │ │ │ ranking) │ │ │ │ │ │ 百万→千 │ │ 千→百 │ │ 百→几十 │ │ │ └──────────┘ └──────────┘ └──────────┘ │ │ │ │ │ ▼ │ │ ┌──────────┐ │ │ │ 重排层 │ │ │ │ (Re-rank)│ │ │ │ 几十→展示 │ │ │ └──────────┘ │ │ │ │ 召回层是核心!它决定了推荐的"天花板" │ │ → 向量数据库就是召回层的"发动机" │ │ │ └─────────────────────────────────────────────────────────┘

🧠 从协同过滤到向量召回

传统协同过滤的问题

用户 A 喜欢:[商品1, 商品2, 商品3] 用户 B 喜欢:[商品2, 商品3, 商品4] → A 和 B 有相似偏好 → 给用户 A 推荐商品4 问题: ❌ 只能发现"显式相似"的用户/物品 ❌ 稀疏性问题:大部分用户-物品对没有交互 ❌ 无法理解"为什么"相似

向量召回的优势

商品1 的向量: [0.12, -0.34, ...] ← learned representation 商品2 的向量: [0.13, -0.33, ...] ← 语义相近! 商品3 的向量: [0.89, 0.12, ...] ← 语义远 向量召回: ✅ 能发现"隐式相似"(语义相近但没交互过的) ✅ 不受稀疏性影响 ✅ 能理解"为什么"相似(向量空间中的距离)

💻 向量召回实战

Step 1:训练双塔模型

importtorchimporttorch.nnasnnclassTwoTowerModel(nn.Module):"""双塔模型:用户塔 + 物品塔"""def__init__(self,user_dim,item_dim,embedding_dim=128):super().__init__()# 用户塔self.user_tower=nn.Sequential(nn.Linear(user_dim,256),nn.ReLU(),nn.Linear(256,128),nn.ReLU(),nn.Linear(128,embedding_dim),nn.LayerNorm(embedding_dim))# 物品塔self.item_tower=nn.Sequential(nn.Linear(item_dim,256),nn.ReLU(),nn.Linear(256,128),nn.ReLU(),nn.Linear(128,embedding_dim),nn.LayerNorm(embedding_dim))defforward(self,user_features,item_features):user_emb=self.user_tower(user_features)item_emb=self.item_tower(item_features)# 内积作为相似度return(user_emb*item_emb).sum(dim=-1)defget_user_embedding(self,user_features):returnself.user_tower(user_features)defget_item_embedding(self,item_features):returnself.item_tower(item_features)

Step 2:生成物品向量并存入数据库

frompymilvusimportCollection# 为所有物品生成向量item_embeddings=[]foriteminall_items:item_features=extract_features(item)# 类别、价格、标签等withtorch.no_grad():vec=model.get_item_embedding(item_features)item_embeddings.append(vec.numpy()[0])# 存入向量数据库data=[[item.idforiteminall_items],item_embeddings,[{"category":item.category,"price":item.price}foriteminall_items]]collection.insert(data)collection.flush()# 建索引collection.create_index("embedding",{"index_type":"HNSW","metric_type":"IP",# 推荐系统用内积!"params":{"M":32,"efConstruction":256}})

Step 3:在线召回

defrecall_for_user(user_id,user_features,collection,model,top_k=100):"""为单个用户做向量召回"""# 1. 生成用户向量withtorch.no_grad():user_vec=model.get_user_embedding(user_features).numpy()[0]# 2. 向量检索collection.load()results=collection.search(data=[user_vec.tolist()],anns_field="embedding",param={"metric_type":"IP","params":{"ef":128}},limit=top_k,output_fields=["category","price"])# 3. 过滤已购买purchased=get_purchased_items(user_id)filtered=[hitforhitinresults[0]ifhit.idnotinpurchased]returnfiltered[:top_k]

📊 多路召回架构

┌─────────────────────────────────────────────────────────┐ │ 多路召回架构 │ ├─────────────────────────────────────────────────────────┤ │ │ │ 用户请求 │ │ │ │ │ ├──→ 向量召回(语义相似)→ 100 个候选 │ │ │ │ │ ├──→ 热门召回(全局热门)→ 50 个候选 │ │ │ │ │ ├──→ 协同过滤召回 → 50 个候选 │ │ │ │ │ ├──→ 标签召回(同类目)→ 50 个候选 │ │ │ │ │ └──→ 实时召回(最近浏览的相似品)→ 50 个候选 │ │ │ │ ↓ 合并去重 │ │ ~300 个候选 │ │ ↓ │ │ 粗排 → 精排 → 重排 → 展示 │ │ │ └─────────────────────────────────────────────────────────┘

🔑 本篇核心要点回顾

要点说明
向量召回用双塔模型生成用户/物品向量,向量数据库检索
度量选择推荐系统用内积(IP),不是余弦
多路召回向量召回只是其中一路,需要多路融合
性能要求召回层要求极低延迟(< 10ms)

📌下篇预告:《向量数据库在图像搜索引擎中的应用:以图搜图的完整实现 📸》

💬有问题欢迎评论区讨论,觉得有用请点赞收藏 👍

作者:高炉炼铁智能化技术研究者,专注钢铁冶金与人工智能 交叉领域。

👍 如果觉得有帮助,请点赞、收藏、转发!
版权归作者所有,未经许可请勿抄袭,套用,商用(或其它具有利益性行为)
🔔 关注专栏,不错过后续精彩内容

http://www.cnnetsun.cn/news/3679227.html

相关文章:

  • TMS320C6421开发全解析:从命名规则到工具链与实战避坑指南
  • LangChain结构化输出:Pydantic与JSON解析器实战
  • uv:快得像火箭,顺便把“安装依赖”藏起来了
  • FSDrive框架:时空思维链与视觉推理的自动驾驶决策
  • TVA数字小脑:具身智能的物理交互革命(7)
  • MSO算法在柔性作业车间调度中的Matlab实现与优化
  • HsMod终极指南:32倍速炉石传说插件,200+皮肤定制与自动化功能完全解析
  • TVA数字小脑:具身智能产业化落地的关键支撑(9)
  • TVA数字小脑:具身智能产业化落地的关键支撑(10)
  • 定点DSP上IIR滤波器优化:规范型结构防溢出与高效实现
  • Python作业实战:函数与数据结构进阶指南
  • 云原生12要素应用开发实践指南
  • Java后端面试7天冲刺:系统化复习八股文与场景题实战
  • GPT-4o企业级成本优化实战:从Prompt设计到架构部署
  • 功率谱估计算法从零详解(纯C#原生实现、无第三方库、超全理论+源码)
  • 英雄联盟智能助手Seraphine:告别繁琐查询,3分钟掌握全队数据
  • MiniMax Agent:全栈式AI智能代理的技术解析与应用
  • MySQL SQL执行全链路解析:从Parser到Executor的完整生命周期
  • AI动态调整销售目标的技术实现与实战经验
  • TI 64位定时器看门狗配置详解:从原理到防误触发实战
  • 688号文多用户绿电直连全流程拆解|全网独家复现源荷储能收益仿真 双阶段入市模式、四维交易能力、多方风险收益分配助力园区零碳落地、算力负荷稳供、绿碳资产增值
  • 英雄联盟智能助手Seraphine:如何用免费开源工具提升你的游戏胜率
  • TMS320C6474 DSP电源设计实战:CVDD、Bulk电容与SmartReflex详解
  • 【AI配色无障碍设计黄金法则】:20年UI/UX专家亲授——覆盖98.7%色觉障碍用户的5大智能配色模型
  • AI表单处理不是“开箱即用”——为什么93%的RPA项目在第3个月崩溃?(附可立即部署的校验增强插件包)
  • 深入解析DSP/BIOS六大核心驱动模块:原理、配置与实战应用
  • 微信数据库解密终极指南:三步恢复你的聊天记录
  • Unity游戏翻译神器:5分钟搞定外语游戏汉化
  • Java集合框架:Map与Set核心原理与性能优化实践
  • 毕设避开烂大街教务!师生健康信息管理系统,校园细分选题好上手!