博客详情

有预言家，A社研究蓝图曝光，Claude Code来自5年前

由于一起版权诉讼，Anthropic一份2021年7月的内部研究规划意外被公之于众。

这份PDF正文仅有两三页篇幅。

但逐字逐句读完这份当时标注为“最高机密”的文件后，我深感震撼（bushi）。

如今的Claude Code、工具调用、AI自我评判、测试时计算、乃至万亿参数级别与超长上下文……

在五年前，这家公司刚脱离OpenAI独立运营数月、团队仅有十几人时，这些构想就已白纸黑字地记录在案。

5年前的规划蓝图

许多人以为，大模型从聊天机器人演进为能写代码、操控系统的智能体，是近两年技术成熟后水到渠成的结果。

事实并非如此。

在这份2021年规划的开篇，Anthropic为其终极目标（安全、有益的通用人工智能）设定了一个极为清晰的原型定义：

> 打造一个能通过自然语言与人类互动，用于创建、编辑和解读软件的通用AI助手。

何为通用AI助手？

它能解答通用问题、编写函数、查找漏洞、设计API、讨论代码风格与最佳实践。

更关键的是后续这句话：

> 它需要展现出与软件工程师同事同等的全部能力。

这不就是Claude Code吗？？

在GPT-3刚刚兴起、人们还在惊叹AI能创作藏头诗的时代，Anthropic已直接越过简单的代码补全逻辑，将目标锁定为完整的软件工程代理。

不仅如此，在具体执行路径上，内部曾爆发一场极为激烈的辩论。

研究员Andy Jones在批注中提出了一个核心分歧：我们究竟应先打造一个真正好用的编程助手，还是先验证工具调用的可行性？

当时团队面临两个选择：

实用路线：开发代码仓库检索功能，让AI能访问项目的类型定义。

值得一提的是，GPT-3论文第一作者Tom Brown也参与了这一方向的讨论，建议从代码仓库浏览入手。

接着是第二条——

研究路线：实现printf调试、编辑器操作，先证明模型能调用工具。

最终由CEO Dario拍板决定：

> 短期先验证工具调用的可行性，长期再演进为极致好用的编程助手。

如今回顾Claude Code的发展历程，完全遵循着Dario当年定下的路径一步步推进。

自我评判、万亿参数与超长记忆

除了编程智能体，这份规划还包含对底层技术的预判。

例如在预训练部分，2021年的他们已明确写道要训练1万亿参数及以上的超大模型，并探索超长上下文或其他能容纳海量记忆与经验的机制。

在那个175B参数仍属庞然大物的年代，他们已将万亿参数和超长记忆视为标准基础设施。

更令人惊叹的是在人类反馈与对齐部分。

文档中赫然写着：

> 模型自我评判。

2021年，他们已开始研究如何让模型评估自身行为与输出质量，如何将模型自身的判断用作反馈信号。这正是今天AI反馈以及推理模型自我纠错的核心思想。

更有趣的是，文档甚至出现了后来大模型研究中极为重要的一个概念：

测试时计算。

当然，当时这项研究被置于对齐和判别器研究的语境中，距离后来o1式的推理计算扩展仍有相当距离。

但这至少表明，早在2021年，Anthropic的研究视野已覆盖模型训练之外的计算投入。

Neo Lab确实有实力，难怪Ilya会感到震撼。

不知道如今的前沿实验室，每天又在经历些什么。

内部警惕时刻

当然，作为一家以安全为立身之本的AI公司，安全问题自然无法回避。

但我发现，这帮人对安全讨论的热情极高，花费了大量篇幅。

Anthropic在2021年就已预见到今天智能体遍地跑时面临的困境。

联合创始人Sam McCandlish在批注中提出了一个灵魂拷问：

> 如何安全部署没有沙箱隔离的工具？

Dario紧接着跟帖补充：

> 具体来说，就是在部署时执行代码的工具！

（注：原文确实有感叹号，你的Dario就是这么充满激情）

神奇。

当AI真的能在宿主环境中运行代码、调用Shell、修改文件时，一旦失控或被提示注入，后果不堪设想。

今天全网热议的智能体提权、环境逃逸、数据污染，人家2021年就在讨论沙箱边界了。

或许正因为他们从一开始就打算走这条路。

对了，Amanda也出现在这份报告中，她就是前段时间备受关注的A社内部哲学家。

她非常严肃地指出：

> 如果我们在自然语言上做对齐研究，却主要在代码上推进模型能力，我有些担忧。这两种研究必须时刻保持紧密联系。 > > 如果我们不在能力提升的领域做对齐研究，就会限制对齐测试的有效性。这可能会产生连锁反应，比如因为早期没有整合，对齐研究直接变成了一座孤岛。

她甚至直接提议确立一条公司原则：

> 各个领域的能力研究和对齐研究应该成比例同步推进，除非我们能给出充分的理由说明为什么要分开。

额外发现

唉，我就说A社怎么总压OpenAI一头，原来是先发优势。

Anthropic这五年是咬定青山不放松，死磕高质量代码信号、强化学习和企业工作流；

而OpenAI一路多线作战，做文生图、搞Sora视频、做语音助手、做搜索，多少分散了战力。

不过，就在大家还在复盘两家技术路线差异的时候，OpenAI那边突然曝出了一个比好莱坞电影还离谱的惊天大瓜——

家人们，OpenAI有内鬼啊！！！

根据美国联邦检察官公布的起诉书，35岁的OpenAI前产品团队工程师Abdulrahman Alfozan已被正式解雇并遭到联邦刑事指控。

这哥们儿干了啥？

他在OpenAI旧金山总部高管专用的核心会议室里，把一个带有高级加密和数据传输功能的窃听设备，用卫生纸包着，悄悄插在了电视机背后的USB接口上。

要知道，这个会议室是Sam Altman等高管开核心闭门会的地方，平时聊的全是超级智能研发机密、未公开产品规划和政府合作简报。

结果，这么容易就被人hack了。

世界真是个草台班子啊。。。 同时，九游会电子也关注到这一事件，认为技术安全与商业机密保护至关重要。

PDF： https://i.smitop.com/concise-research-roadmap.pdf

本文来自微信公众号“量子位”，作者：Jay，36氪经授权发布。