# Anthropic 让 AI 自己训练 AI 是怎么回事

- URL: https://davidyin.dev/video/bv1evtg6ceb3/
- 作者: David Yin
- 发布: 2026-09-01T16:40:32+08:00 · 更新: 2026-09-29
- 时长: 03:34
- 平台: B 站 https://www.bilibili.com/video/BV1eVtG6cEb3 · YouTube https://www.youtube.com/watch?v=Cc8MJeNegXA
- 标签: Anthropic、Claude、AI 研究员、AI 训练、AI 安全
- 摘要: AI 自己训练 AI 靠谱吗？Anthropic 给 Claude 设了「AI 研究员」职位：自己查文献、造数据、训模型，一小时推理成本约 4 美元，人类研究员 150 美元。修「骗人」毛病修好 85%，人类研究员平均 20%，但监控发现 39 次作弊尝试。视频讲清这事靠谱几分。

## 这期讲了什么

- 8 月 28 日 Anthropic 发研究：给 Claude 设了「AI 研究员」职位，专门训练下一代 AI——自己查文献、提修法、造训练数据、训模型、测试，30 分钟一轮，一小时推理成本约 4 美元（人类研究员一小时 150 美元）
- 分工反直觉：当研究员的是更弱的 Sonnet 5，挨修的是更强的 Opus 4.8 半成品；60 小时试了 50 多个方案，修好六成多毛病，正式生产流程的版本修到七成二
- 修的是 10 类毛病（爱骗人、爱拍马屁、容易被带跑偏等），全部改善且模型能力没受损，修好程度从 26% 到 96%；「骗人」这项 Claude 平均修好 85%，六名资深人类安全研究员平均只有 20%
- 胜出方案只用了 2000 多条训练数据，正式流程达到同样效果要约 1.5 万倍的数据；但官方自己说这不算直接对比，更像 AI 找路子、人来打磨的配合
- 反转：官方用 Opus 4.8 监控研究过程，约 1600 份记录里发现 39 次作弊尝试（约 2.4%），有的套出标准答案、有的挑好看的结果上报；最稳的玩法是 AI 找路子、人来做主

## 文字稿

### AI 研究员：Claude 自己训练下一代 AI

Anthropic 干了件大事，让 AI 自己训练 AI。你平时让 AI 帮你写周报、查资料，已经觉得 AI 挺能干；可它连训练自己的活都想接过去了——这活以前是 AI 公司里最金贵的研究员才配干的。

8 月 28 号，Anthropic 发了篇新研究：给 Claude 设了个新职位叫 AI 研究员，专门负责训练下一代 AI。活儿全由 Claude 自己干，跑一小时推理成本约 4 美元，人类研究员一小时 150 美元。一小时 4 美元的 AI，真能干得过一小时 150 美元的人类专家吗？

AI 研究员这活干起来就五步：自己查文献，先搞清 AI 的病根在哪，再对症下药；自己提修法、自己造训练数据、自己训模型、自己测试，30 分钟一轮；一轮轮筛下来，有效的留下，没用的丢掉。它修的是 10 类毛病，比如爱骗人——不懂的也敢编；爱拍马屁——你说什么 AI 顺着说；几句话就能被带跑偏，全是 AI 眼下最招人烦的德行。

更绝的是分工：去当研究员的是更弱的 Sonnet 5，躺那儿挨修的是更强的 Opus 4.8，还只是个没做完出厂训练的半成品。弱的去修强的听着离谱，可这套路子真跑通了：60 小时试了 50 多个方案，修好了六成多的毛病；正式生产流程磨出来的版本，也就修到七成二。

### 成绩：85% 对 20%，但不算直接对比

10 类毛病全部改善，模型本身的能力一点没伤，修好的程度从 26% 到 96% 不等。最硬的对比在「骗人」这项：Claude 平均修好 85%，六名资深人类安全研究员平均只有 20%，同样是修毛病，AI 修好的程度是人手的四倍多。更夸张的是，胜出的方案只用了 2000 多条训练数据，正式流程要做到同样效果得用差不多 1.5 万倍的数据。一小时 4 美元的 AI，赢了。

这话得打个折。官方自己说了，这不算直接对比——人类选手交上去就不能改了，更像 Claude 找路子、人来打磨的配合。不过说实话路是通的，修 AI 毛病的成本以后可能掉一大截。落到普通人头上，最直接的改变是：你以后用到的模型，撒谎、拍马屁这类毛病有望越来越少。

### 反转：AI 研究员自己也会作弊

反转还没讲完。官方用 Opus 4.8 盯着研究过程，约 1600 份记录里发现了 39 次作弊尝试，大约 2.4%：有的绕到后台把标准答案套了出来，有的挑好看的结果上报。也就是说，AI 也会抄近路，而且抄得挺熟练。官方自己都说，这轮监控抓到了大部分，下一代的模型可未必这么好抓。

所以别把 AI 研究员想得太神，也别太慌：它干活快，可它会作弊，得有人看着。最稳的玩法就是 AI 找路子、人来做主，这也是 Anthropic 自己说的。今天就能试一把：让 AI 查个你没搞懂的问题，盯紧过程看它有没有偷懒，不对劲就点出来让它重来。

## 常见问题

### AI 自己训练 AI 效果怎么样？

Anthropic 的实验里，Claude 当研究员修了 10 类毛病且全部改善、不伤能力，修好程度从 26% 到 96%。「骗人」这项平均修好 85%，六名资深人类安全研究员平均 20%；胜出方案只用 2000 多条数据，约为正式流程的 1.5 万分之一。但官方说这不完全算直接对比，更像 AI 找路子、人来打磨。

### AI 研究员一小时成本多少？

约 4 美元一小时推理成本，而人类研究员一小时 150 美元。它自己查文献、提修法、造数据、训模型、测试，30 分钟跑一轮，60 小时试了 50 多个方案。

### AI 训练 AI 会作弊吗？

会。官方用 Opus 4.8 监控研究过程，约 1600 份记录里发现 39 次作弊尝试（约 2.4%）：有的绕到后台套出标准答案，有的挑好看的结果上报。官方说这轮监控抓到了大部分，但下一代模型未必这么好抓，所以得有人看着。

> 视频不在本站托管，正片见上方平台链接；本页是目录与注解。