2026 年 7 月 6 日,Anthropic 可解释性(Interpretability)团队发布研究《A global workspace in language models》,给出了一个颇为颠覆性的发现:
这项研究发现了什么
通俗地说,研究者发现 Claude 在生成回答的过程中,内部并非简单"一输入、一输出",而是存在一个独立于最终输出的"工作空间",模型会在这里进行不直接呈现给用户的内部思考。这一发现为理解大语言模型的推理机制提供了新的证据——模型并不是在"背诵答案",而是在一个内部空间中"运算"后给出结论。
对可解释性研究而言,这意义重大:如果模型的"思考过程"可以被定位、被读取,那么对齐(alignment)、安全审计与错误诊断就有了新的抓手——不再只能看输出,还能看"过程"。
一年来的可解释性研究密集输出
把这项研究放回 Anthropic 2026 年的研究时间线,可见其持续投入:
| 日期 | 研究 | |
评论交流
欢迎分享看法。评论审核通过后公开;待审核和已拒绝的评论仅自己可见,邮箱不会公开。