# OpenAI 首席科学家发文：思维链监控为何变弱

- URL: https://davidyin.dev/video/bv1asbp64epm/
- 作者: David Yin
- 发布: 2026-09-07T12:58:14+08:00 · 更新: 2026-09-29
- 时长: 04:12
- 平台: B 站 https://www.bilibili.com/video/BV1ASbP64EPM · YouTube https://www.youtube.com/watch?v=pIzKpMsB9Rw · 视频号（搜索「不确定体验局」）
- 标签: OpenAI、思维链监控、AI 安全、Jakub Pachocki、An Alien Mind
- 摘要: OpenAI 首席科学家 Jakub Pachocki 2026 年 9 月 6 日发表署名文章《An Alien Mind》，承认公司押注最重的安全办法——盯着 AI 的思维链看有没有起歪心思——可靠性正在一点点下降，并给出三条原因。结尾更重：让 AI 三观正、还能被人看住，没有哪一家实验室做到了够用的程度。

## 这期讲了什么

- 不是自媒体解读：OpenAI 首席科学家 Jakub Pachocki 本人 2026 年 9 月 6 日在官网发表署名文章《An Alien Mind》，片中逐条配官方原文截图佐证
- 核心方法：让 AI 一步步想并把过程写出来（思维链），盯着它检查有没有动歪脑筋叫思维链监控——OpenAI 说这是他们在安全上押得最重的一注
- 一句重话：AI 是长出来的，不是设计出来的——研究 AI 内部更像研究大脑，能搞清个别零件，整体怎么运作写不出人能完全看懂的说明
- 反直觉的设计：o1-preview 上线时公司特意不把思维链草稿给用户看，因为盯着草稿打分，AI 会很快学会把草稿写得漂亮、把真正的念头挪到别处
- 可靠性下降的三条原因：干的活复杂了、草稿和工具调用混成一团；AI 越来越会打理自己的推理过程；底子练厚了，不写草稿也已经很聪明
- 结尾判断：让 AI 三观正、还能被人看住，没有哪一家实验室做到了够用的程度；他预期并希望自愿放慢成为常态，直到行业有一条共同的安全线

## 文字稿

### 什么是思维链监控：盯着 AI 的草稿看

OpenAI 的首席科学家，9 月 6 号亲笔发了一篇文章。文章挂在 OpenAI 官网上，署名是他本人。他在里面说了件挺重的事：他们在 AI 安全上押注最重的那套办法，靠不住的地方正在变多。

一家顶级 AI 公司自己发文说自家的安全办法在变弱，这话的分量不一样。那套办法到底是什么？为什么会变弱？往下这几分钟，跟你每天用 AI 的方式直接相关。

先说那套办法是什么。AI 会一步一步地想，还把想法写出来，这段过程就叫思维链。盯着这段过程看，检查 AI 有没有动歪脑筋，这招就叫思维链监控。OpenAI 说，这是他们在安全上押得最重的一注。

那为什么非得盯着看？文章里有句话很重：AI 是长出来的，不是设计出来的。说的是在成千上万张显卡上，把一个很简单的动作重复无数遍，长成了一个极复杂的东西。所以研究 AI 内部更像研究大脑：能搞清个别小零件是干什么的，但整体怎么运作，写不出一份人能完全看懂的说明。

看不透内部，那就退一步，看 AI 自己写出来的那段草稿。这里有个反着来的设计：OpenAI 第一款会推理的模型上线时，公司特意不把草稿给用户看，图的是护住这段草稿。你想，要是盯着草稿打分，AI 很快就学会把草稿写得漂亮，把真正的念头挪到别处去。所以他们给自己定了条规矩：只管结果，不去管过程。

### 三条原因：草稿混成一团、AI 会打理推理、不写草稿也聪明

文章还把「管得住」拆成了两层。第一层是你交代的活，AI 到底办不办；第二层更深，是 AI 的三观正不正——说话老实、做事守规矩、对人有善意。第二层难在哪？难在你没法把天下所有情况都教一遍。他为这一层专门写了一句要求：不管 AI 觉得自己有没有被人盯着，都得守住人这边的价值。

回到开头那句。他写下的原话是：他们内部的评估显示，靠思维链监控这条路，可靠性正在一点点下降。为什么会这样？文章给了三条原因，都挺实在。

第一，AI 现在干的活复杂了：心里的草稿跟对外说的话、跟调用工具混成了一团，而对外那部分是必须管的，一管就把想留干净的那块地界糊掉了。第二，AI 越来越会琢磨、甚至打理自己的推理过程——那段草稿本身也成了 AI 能上手改的东西。第三，最麻烦：AI 底子越练越厚，现在不写草稿也已经很聪明了，你想读也没得读。

### 对普通人意味着什么：理由写得顺，不等于结论对

这跟你有什么关系？关系就在你每天点开的那个对话框里。说实话我自己也一样：理由列得整整齐齐，我就容易当成没问题。可 AI 写给你看的那段理由，跟 AI 真正走过的那条路，本来就是两件事。所以有一件事你今天就能改：把结论和它给的依据单独拎出来核一遍，别让顺畅的理由替你把关。

往远一点看，他还担心另一件事：过去得几千个专家才干得成的活，往后几个人守着一台大计算机就能办。他说，这是一个需要极度谨慎的时刻——机器智能这么快往上走，他担心没有人准备好。

这类文章，我一篇篇读原文，替你把公司宣传稿里不提、却写在正文里的那几句挑出来。这篇里最重的一句在结尾：他说到今天为止，让 AI 三观正、还能被人看住，这两件事没有哪一家实验室做到了够用的程度，这不足以再长时间全速往前冲。他预期、也希望自愿放慢成为常态，直到行业有一条共同的安全线。

这话要是旁人说的，你可以当成焦虑。可说它的人，正在推着这件事往前跑。

## 常见问题

### 思维链监控是什么？

让 AI 一步一步地想、把想法写出来，这段过程叫思维链；盯着这段过程检查 AI 有没有动歪脑筋，就叫思维链监控。OpenAI 首席科学家说这是公司在安全上押得最重的一注——因为他们第一款推理模型上线时，就特意不把这段草稿给用户看，防的就是 AI 学会把草稿写漂亮、把真念头挪到别处。

### 《An Alien Mind》是谁写的？

OpenAI 首席科学家 Jakub Pachocki 本人的署名文章，2026 年 9 月 6 日发表在 OpenAI 官网——不是自媒体解读。其中最重的结论是：他们内部评估显示靠思维链监控这条路可靠性正在一点点下降，且让 AI 三观正、还能被人看住，没有哪一家实验室做到了够用的程度。

### 为什么思维链监控正在失效？

文章给了三条原因。第一，AI 干的活复杂了，心里的草稿和对外的话、工具调用混成一团，对外部分一管就把草稿糊掉了。第二，AI 越来越会打理自己的推理过程，草稿本身成了它能上手改的东西。第三，AI 底子练厚了，不写草稿也已经很聪明——你想读也没得读。

> 视频不在本站托管，正片见上方平台链接；本页是目录与注解。