当前位置: 首页 > news >正文

影刀RPA京东商品数据采集实战:价格库存评分批量监控

影刀RPA京东商品数据采集实战:价格库存评分批量监控

作者:林焱


京东是做电商竞品分析的核心数据源之一,价格体系透明、评分数据丰富。这篇把京东商品数据的采集方法完整梳理一遍。

一、能采集的数据类型

  • 搜索结果列表:商品名称、价格、销量、评价数、店铺名
  • 商品详情页:SKU详情、优惠信息、详细规格
  • 商品评价:评论内容、评分、买家秀

店群矩阵自动化突破运营极限!


二、前置准备

  • Chrome + 影刀扩展
  • 京东账号(影响价格显示,部分商品未登录显示价格不同)
  • 注意:京东的反爬机制较强,操作频率不要太快

三、采集搜索结果页

关键词 = "蓝牙耳机" 打开浏览器(https://search.jd.com/Search?keyword= + URL编码(关键词) + &enc=utf-8) 等待页面加载 // 滚动加载完整列表 执行JavaScript("window.scrollTo(0, document.body.scrollHeight)") 等待(2000) 执行JavaScript("window.scrollTo(0, 0)") 等待(1000) 商品列表 = 获取元素集合(".gl-item") 结果 = 创建列表() ForEach 商品 in 商品列表: 信息 = 创建字典() // 商品名称 尝试: 名称 = 获取子元素文本(商品, ".p-name em") 如果 名称 == "": 名称 = 获取子元素文本(商品, ".p-name a") 捕获: 名称 = "" // 价格 尝试: 价格 = 获取子元素文本(商品, ".p-price i") 捕获: 价格 = "" // 评论数 尝试: 评论数 = 获取子元素文本(商品, ".p-commit strong a") 捕获: 评论数 = "0" // 店铺名 尝试: 店铺 = 获取子元素文本(商品, ".p-shop span") 捕获: 店铺 = "" 设置字典键值(信息, "名称", 名称) 设置字典键值(信息, "价格", 价格) 设置字典键值(信息, "评论数", 评论数) 设置字典键值(信息, "店铺", 店铺) 添加到末尾(结果, 信息)

四、价格处理

京东价格有时显示为活动价+划线价,只取当前售价:

// 京东价格通常只有数字,去掉可能的逗号 处理后价格 = 替换文本(原始价格, ",", "") 处理后价格 = 去除首尾空格(处理后价格) ![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/4b5be6fd0a544d17ac6ec239f4a1c14a.png#pic_center)

temu店群自动化报活动案例

五、翻页采集

最大页数 = 5 循环 页码 从 1 到 最大页数: 采集当前页(结果) // 点击下一页 下一页 = 查找元素(".pn-next") ![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/ec2bbfef584a44699b69141d3fb59433.png#pic_center) 如果 元素不存在(下一页) 或 元素禁用(下一页): 跳出循环 点击(下一页) 等待(3000)

六、踩坑速查

解法
价格显示为空登录后再采集,部分商品需要登录才显示价格
商品元素采集不全滚动到底部后再获取元素集合
翻页后跳到了广告页检测翻页后URL是否正确
评论数带"万+"用万单位转换处理

作者:林焱

http://www.cnnetsun.cn/news/3653804.html

相关文章:

  • C/C++ BFS算法面试实战:从核心原理到高频考点解析
  • C++项目升级实战:规避六大核心陷阱,平稳迁移至现代标准
  • C++实战:从零构建Windows窗口信息获取工具,深入Win32 API与自动化开发
  • 如何彻底解决Windows无法预览iPhone HEIC照片的终极指南
  • C++实现Pagoda期权蒙特卡洛定价:从理论到代码的量化实践
  • 安卓设备免Root实现AI功能的技术方案
  • Godot游戏资源解包终极指南:3步提取.pck文件所有内容
  • Python实战成员推理攻击:从原理到实现,保护机器学习模型隐私
  • 智能学习Agent架构解析与教育实践
  • GPT-6越狱攻击被GLM 5.2检测:AI模型安全防护技术解析
  • 推理时引导技术:确保跨语言大模型事实一致性
  • 空客可折叠翼梢技术:解决机翼设计矛盾的关键突破
  • C++智能指针std::shared_ptr:原理、应用与内存管理实战
  • C++回溯算法精解:从四皇后问题入门算法思维与工程实践
  • 浏览器端数据画布:零安装节点式IDE与可视化工作流实践
  • HELMSMAN:小红书OSDI 2026向量检索系统架构与性能优化实践
  • OpenClaw:本地AI模型部署框架的设计与实践
  • 人脸识别的大规模部署——从百人门禁到千万级城市安防
  • AI虚拟购物助手技术解析:从对话交互到知识图谱应用
  • AI算力爆发下高端PCB供需失衡:技术挑战与成本控制策略
  • 智能报价系统Q-Smart:制造业报价效率与准确率提升方案
  • 视觉Transformer模型精准编辑:注意力头修正技术解析
  • 智能招聘系统:从简历筛选到JD生成的全流程优化
  • 用 Ace Data Cloud 把 API 能力变成可持续的技术内容分发
  • ARMv8-A硬件观察点深度解析:DBGWVR与DBGWCR寄存器配置实战
  • KEITHLEY 2010 吉时利7½位低噪声高性能台式数字万用表
  • 汉明距离:从原理到C/C++高效实现与性能优化
  • 深度解析CC27xx无线MCU架构:从Cortex-M33到低功耗设计实战
  • React公众号开发:母婴用品会员积分体系技术方案
  • OpenAI Presence平台:企业级AI Agent部署与实战指南