尊龙凯时官方网站 突发!Anthropic敕令全员罢手AI酌量

来源:尊龙凯时2026世界杯中国官网 作者: 发布: 浏览:51

艰苦发现:AI 的自进化,启动了。

这是 Anthropic 刚刚在长文博客中,发表的暴论。

咱们的里面数据自大,Claude 正在加快 AI 发展,这可能是一条递归自我擢升(RSI)的旅途。

并非「骇东谈主闻听」,看了下著作,Anthropic 是真的实打实地用数据在话语——

截止本年 5 月,80% 以上的 Anthropic 代码,都是 Claude 写的。

而在 Claude Code 发布之前,这个数字还仅是个位数。

与此同期,Anthropic 工程师平均每季度委派的代码量,是 2021-2025 年的 8 倍。

更艰苦的是质地——

在最盛开、最迷糊、连谜底长什么样都不笃定的编程任务上,Claude 的收着力当今是 76%,六个月前才 26%。

50 个百分点的跳升。半年。

Anthropic 里面依然有不少工程师以为,Claude 写的代码质地和东谈主类打平了。

预测年内会相当。

Anthropic 还强调,若是这个趋势连接下去,AI 我方野心和构建下一代 AI,是十足可能的。

这可能澈底改变社会,在医疗、科技、经济界限带来雄伟的平正。但也可能让对皆问题重复恶化,最终导致失控。

因此,Anthropic 带头敕令:

若是存在一个可考据的机制,能保证 AI 实验室如实都没暗暗卷,咱们知足延缓、以至暂停。

除此除外,Anthropic 的这篇博客里,还放出了蛮多成心象的不雅点和事实。

以下是经过整理,更约略大众阅读的版块。

Enjoy。

Anthropic 长文定调 AI 圈的摩尔定律来了

Anthropic 创建了个全新的掂量维度,叫「AI 能寂寥完成的任务时长」。

2024 年 3 月,Claude Opus 3 能惩处东谈主类大要需要 4 分钟的软件任务。

一年后,Claude Sonnet 3.7,1.5 小时。

又一年,Claude Opus 4.6,12 小时。

而最新的 Mythos,在内测中的施展是:

能通晓责任「至少」16 小时,依然到了 METR 测试框架能掂量的上限了。

这个翻倍速率,从正本的每 7 个月翻一倍,加快到了每 4 个月翻一倍。

若是趋势不变,2027 年,可能是好几周。

Claude 编写了大部分 Anthropic 代码

限制 2026 年 5 月,我 Anthropic 代码库的代码,相当 80% 由 Claude 编写。

在 Claude Code 发布前,这个数字一直只好个位数。

这种变化,也体当今工程师的责任时势上。

在 Anthropic 的起头四年,工程师每天 Merge 的代码行数基本保持不变。

2025 年, Claude 启动我方写代码,merge 数倏得启动飙升。

如今,2026 年第二季度,工程师每天 merge 的代码量是 2024 年的 8 倍。

不外,代码量上去了,代码质地是不是注水了?

Anthropic 说,这一年来,工程师矫正 Claude 的次数,越来越少了。

这极少,在 benchmark 中可见一斑,如下图所示。

所有这个词难度类型的任务中,Claude 的收着力,无一例外的整个暴增。

是以,Anthropic 当今干脆用 Claude 来 review 代码。

是的,所有这个词提交到代码库的改变,都会先过一遍 Claude 自动审查,查验 bug、安全谬误和其他颓势。

他们回溯分析发现,尊龙凯时官方网站若是之前每次改变都有这谈自动审查,约莫三分之一导致 claude.ai 线上事故的 bug,上线之前就会被拦下来。

要知谈,写那些代码的工程师,依然是全寰宇造 AI 系统最顶尖的一批东谈主了。

Claude 在握他们的造作。

创造力的放大镜

接下来是 Claude 在酌量层面的参与进程。

Anthropic 有个旧例,每次发新模子,都会给 Claude 一段考试袖珍 AI 模子的代码,让它在保证正确性的前提下,把运行速率优化到最快。

2025 年 5 月,Claude Opus 4 交出的谜底是:加快 3 倍。

2026 年 4 月,Claude Mythos Preview 作念到了 52 倍。

四肢参考,一个熟悉的东谈主类酌量员,需要 4 到 8 个小时才能拼集达到 4 倍。

不到一年的时刻,Claude 相当了东谈主类。

2026 年 4 月,Anthropic 丢给 Claude 一个 AI 安全酌量,玩忽是「一个弱模子能不成可靠地监督一个强模子」,然后让 Claude 我方提假定、跑实验……

此次先说东谈主类的施展吧,两个东谈主类酌量员花了约莫一周时刻,把 gap 减弱了 23%。

而 Claude,在约莫 800 小时、花了约莫 18000 好意思元的算力之后——

减弱了 97%。

咱们何去何从?

到这里为止,论断依然很明晰了。

东谈主类在 AI 缔造历程里的脚色,每一个步伐都在收窄。

代码,Claude 写了。代码 review,Claude 作念了。实验施行,Claude 快了东谈主类一个数目级。实验野心,Claude 启动我方来了……

东谈主类当今临了的相比上风,是酌量试吃和判断力。

但这个上风能守多久?

Anthropic 在博客里说,他们也不笃定。

一种可能是,「酌量试吃」就像之前 AI 不会的其他东西一样,先是作念不到,然后倏得就作念到了。

就像 AI 交融幽默、展示心智表面、解语言谜题,都资格了相似的弧线。

另一种可能是,即便 Claude 恒久学不会确切的酌量试吃,仅靠当今的加快趋势,每个东谈主类酌量员能同期结合的责任量依然大了好几倍。

你不需要 AI 十足替代你想考,它只须把所有这个词「施行」的活全干了,你就只需要作念那 5% 的标的摄取。

RSI 的三种昔时

博客收尾,Anthropic 描述了对于此次「自进化」趋势三个可能演化标的。

1、停滞。

尊龙凯时中国官网入口

那些指数弧线其实是 S 弧线。

也许酌量判断力这个东西即是没法靠 scale 解决,需要一种全新的架构冲突。

或者,瓶颈在动力、在芯片、在算力的物理供应链上。

不外,即便 AI 的才智就停滞在今天的水平,也会发生对寰宇带来要紧变化。

前段时刻的 Project Glasswing,Mythos Preview 在上线头几周就发现了相当一万个高危和严重级别的软件谬误,遍布全球最要道的系统。

2、AI 连接加快,但东谈主类仍然把着标的盘。

组织后果会指数级擢升,100 东谈主的公司作念 1 万以至 10 万东谈主的活。知

Anthropic 以为咱们大要率正在走进这个场景。

但他们也发现了一个成心象的征象,即是阿姆达尔定律在组织里的体现 _

Claude 把代码写得飞速了,拆开代码 review 造成了新瓶颈。各式新方针、新用具、新实验爆炸式流露,远超组织的消化才智。

瓶颈不会消失,仅仅升沉到下一个步伐。

3、AI 兑现十足的递归自我擢升,启动我方造下一代我方。

这个场景下,AI 的发展速率十足取决于算力了。东谈主类退到监督、考据、审核的位置。

若是真的发生,这种才智大要率会迁徙到其他科学界限,医学、材料、动力,全线腾飞。

诚然,另一种昔时,是对皆失败。

这种情况下,偏差会在 AI 自我迭代的过程中徐徐蚁集尊龙凯时官方网站,最终—