当前位置: 首页 > news >正文

前OpenAI安全副总裁翁荔新博客:AI自进化或先从Harness开始,揭示现实路径与瓶颈

AI自进化的现实路径

前OpenAI安全副总裁、Thinking Machines Lab联创翁荔发布新博客《Harness Engineering for Self-Improvement》,讨论AI自进化,提出一条现实路径:不一定从模型直接改写自己的权重开始,而是先从Harness开始。Harness可简单理解为模型外部的运行系统,决定模型如何调用工具、管理上下文等。DeepSeek研究员崔添翼转发并画重点,认为Harness方向的自进化和模型方向的自进化一样,都是非常可能出成果的方向,还提出Skill是Harness自进化中比较初级的一种形式,即从prompt层面进行自进化。

核心概念与自进化趋势

博客讨论的核心概念是RSI(Recursive Self-Improvement),递归自我改进。翁荔把这个问题拆得更工程化,认为在今天的AI系统里,自我改进未必只意味着模型直接改写自己的权重,也可能意味着改进训练流程等。而Harness是部署系统里最关键的一层。翁荔梳理相关研究,发现优化对象正从上下文、工作流深入到Harness本身,递进链条是:prompt→structured context→workflow→harness code→optimizer code。

优化的不同层次

第一层是Context Engineering,翁荔提到ACE和MCE两个代表性工作。ACE把上下文当成会持续更新的 "操作手册",靠三个角色配合;MCE更进一步,把管理上下文和具体内容拆成两层优化。第二层是Workflow Design,翁荔举例AI Scientist、ADAS、AFlow,说明优化对象从单个prompt到整个Agent如何组织行动的递进。第三层是Self-Improving Harness,模型开始分析Harness的不足并提出修改。翁荔重点提到Self-Harness工作,其循环包括Weakness Mining、Harness Proposal、Proposal Validation。此外,翁荔还提到Evolutionary Search,把Harness变成可搜索对象,她特别提到DGM,实验显示其进化出来的agent效果惊人。

Harness的发展与瓶颈

翁荔认为Harness和模型训练互相强化,长期看,Harness的很多改进可能被 "内化"进模型本身。但实现RSI存在瓶颈,如评估器太弱太模糊、上下文和记忆的生命周期问题、负面结果容易被忽视、多样性坍缩、Reward hacking、长期健康和短期成功之间的矛盾等。翁荔认为人类不会被踢出循环,而是要在合适的时机和抽象层级上提供监督。现在,Harness已成为行业不可忽略的变量,同一个模型在不同Harness里可能表现出不同能力,"AI自进化更现实的工程入口是什么"将是下一阶段讨论的重点。

http://www.cnnetsun.cn/news/3272063.html

相关文章:

  • Oracle EBS 12.2 审计追踪
  • EN 18031标准落地经验:联网无线电设备网络安全合规的关键节点与常见误区
  • AI 指标异动分析:先判断是业务事件还是数据 bug
  • ModelScope命令行工具终极实战:从零到精通的AI模型管理指南
  • MySQL学习第四天
  • 2026.7.8:2026年7月最新安装教程之docker compose 安装最新版neo4j
  • 多云架构下,Atlas 怎么统一管理证书生命周期?
  • 【久久派】LS2K0300 的 LoongOS 原装系统启动分析
  • AI 编程催生新商机:Slopfix 每周 1 万美元删 AI 生成代码引争议
  • 基于TPA3128D2与STM32F756ZG的高效D类音频放大器设计
  • Buzz:终极离线音频转录解决方案,让语音转文字变得简单高效
  • 如何用GBrain在30分钟内构建你的个人AI大脑:终极快速入门指南
  • 异常掉电保护全链路解析
  • PyInstaller逆向工程深度解析:pyinstxtractor-ng架构剖析与实战指南
  • 深度剖析:Bootloader解锁的技术争议与用户自主权之争
  • Matter 1.5数据模型范式转变:从设备互联到智能生态的技术基因图谱
  • 3分钟掌握Whisper:多语言语音识别的终极指南
  • 三亚亲子游一日游出行攻略之槟榔谷
  • 探索Simple Mind Map:构建下一代思维可视化引擎的技术深度解析
  • 如何用ECC Frontend Slides解决技术演示的跨平台困境:架构师的完整指南
  • 告别传统绘图工具:Mermaid Live Editor如何用代码重塑可视化图表创作
  • 如何快速解决MinIO与AWS S3 SDK签名版本4兼容性问题:完整技术指南
  • reMarkable生态完全指南:从基础使用到高级定制的终极教程
  • 高德地图 Skill:当地图能力从“API 调用“进化到“意图理解“
  • 高效团队管理的6个黄金法则
  • 2026年企业级大模型API中转平台选型指南:八大服务商技术指标解析与场景适配策略
  • 语音合成跨平台开发:如何用Sherpa Onnx一次编写、处处运行?
  • Qbot:三步构建高效AI量化交易系统的智能实战指南
  • 写技术文档时,我把Markdown编辑和PDF导出都搬到了浏览器
  • Gliding Horse 整体架构拼图:当 AI Agent 有了自己的操作系统