Karpathy指出Agent开发误入歧途忽视基础模型理解

7月6日 03:07
前OpenAI联合创始人现Anthropic研究员批评业界急于构建自主代理而忽略底层机制,引用历史项目失败案例与最新实验数据说明系统工程比单纯堆叠模型更关键。

Andrej Karpathy作为Anthropic预训练团队核心成员,近期在针对Agent开发者的分享中提出核心观点,认为当前人工智能领域存在重大方向性错误,即过度追求让智能体(Agent)立即执行任务,却未充分理解底层大模型及系统运作机制。这一言论指出行业在基础能力尚未成熟时便急于推进复杂应用,导致资源浪费与成效低下。

Karpathy回顾了2016年在OpenAI期间主导的World of Bits项目,该项目旨在利用强化学习技术让智能体通过操作键盘和鼠标完成订票、点餐等网页交互任务。尽管团队在ICML 2017会议发表了相关论文,但最终因当时技术条件限制,仅能在简陋网页环境中取得有限进展,未能实现预期目标。他总结当时若将重心转向语言模型研发而非过早聚焦Agent,可能会避免五年的无效投入。当前业界普遍采用非强化学习的工具链,但Karpathy强调若未厘清基础模型边界,单纯增加工作流层数无法解决根本问题。

近期Hugging Face工程师Joel Niklaus的实验数据进一步佐证了系统机制优化的重要性。研究显示,在保持DeepSeek-v4-pro模型权重不变的前提下,仅通过优化外层执行架构,使智能体在专业任务上的综合得分从3.5%提升至80.1%,增幅达76.6个百分点。此外,Karpathy此前开源的AutoResearch项目也展示了通过循环迭代机制实现性能突破的路径,该项目在GitHub获得9万星标,其核心在于构建包含提出修改、运行实验、自动评估与保留进展的闭环流程,而非依赖单次生成答案。行业观察指出,这一转向可能促使开发者重新评估对模型参数规模的追逐,转而关注执行环境的工程化构建。