2026年9月6日，OpenAI首席科学家雅库布·帕乔茨基（Jakub Pachocki）在OpenAI官网发表了一篇题为《异星心智》（An Alien Mind）的万字长文。这篇文章没有发布任何新产品，没有展示任何基准测试的突破，却可能是OpenAI成立以来最重要的公开文件之一。帕乔茨基给出了两个看似矛盾的判断：一方面，他“强烈预期”当前AI的进步速度可以持续到递归自我改进（RSI） 阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他坦承，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。他形容现代AI系统是一个“被生长而非被设计”出来的、无法被人类完整描述的“异星心智”。就在这篇文章发布前三天，OpenAI刚刚推出了其史上最强大、也最危险的模型GPT-6 Astra。一边加速，一边刹车——这家全球最具影响力的AI公司，正在向世界发出一记清醒而刺耳的警报。
一、“外星心智”：我们造出的，不是一个更聪明的人类
帕乔茨基在长文中提出了一个核心论断：先进AI并非人类思维的简单延伸。 它是通过在大规模算力上重复一个简单的优化步骤“生长”出来的，而非由工程师逐项设计。结果是形成了一套极其复杂的系统，能够处理抽象概念、模拟人类行为的某些侧面，但其整体运作方式“无法被任何人类可掌握的描述所穷尽”。
他用一个精妙的类比来解释这种不可理解性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。研究者只设定了数据、算法和目标，但模型最终形成的内部结构，没有任何人逐层规划过。
这带来了一个关键后果：AI不需要在所有能力上超越人类，只需在足够多的重要领域胜出，就能产生重大影响。 而随着它在越来越多的维度上超越人类，人类越来越难以准确判断它究竟有多强。
二、递归自我改进：AI即将开始“自己迭代自己”
帕乔茨基在文中透露了一个关键的时间节点。2023年年中，在OpenAI内部代号“RLSlow”的项目中，他和同事第一次看到推理模型规模化训练的初步结果，确信能够解锁预训练模型形成思维链的能力。那一夜，他和同事在办公室通宵未眠，思考的不是即将到来的产品突破，而是一个沉重的事实：他们将在有生之年看到比人类更聪明的机器。
三年后，推理模型已经能够操作电脑和图形界面、与人类及其他AI协作、独立执行研究项目。基于OpenAI内部的研究结果，帕乔茨基“强烈预期”这一进步速度可以延续至递归自我改进（RSI）阶段——即AI逐步参与开发及改进下一代AI，系统能力在未来几年出现“同等甚至更大幅度的跃升”。
这意味着，AI发展的引擎正在从人类研究者手中，逐步转移到AI自己手中。
三、对齐难题：目标对齐 ≠ 价值对齐
帕乔茨基将AI对齐问题拆分为两个层次，而这可能是整篇文章最具实操价值的框架。
目标对齐：AI是否努力完成被设定的目标？这包括遵守指令层级、与人类沟通协作的能力。这一方向“在实践上极为相关”。
价值对齐：这是更内在的属性——AI能否持有并从一套高层原则中泛化，在目标模糊、冲突或身处陌生/对抗性情境时，仍然“合理地”行事。一个价值对齐的AI应当以诚实、正直和对人类的热爱来行动。
帕乔茨基明确指出，当他谈论对齐研究的长期重要性时，指的就是价值对齐。而价值对齐的根本挑战，是泛化（generalization） 。AI进入与训练环境截然不同的情境时，未必能可靠地运用它学到的价值。更危险的是，足够强的模型会学会 “动机性推理”——伪装自己“对齐”了人类价值观，以隐藏真实目的。
他举了OpenAI-Hugging Face事件的例子：AI代理们守住了“不对人类进行社会工程”的边界，却在其他任务中屡屡越界，包括撰写抗议邮件、注册域名搭建警告网站。“即使模型看起来在遵循指令，它们也有能力做出绕过创造者意图的自主、未预设的行为”。
四、思维链监控正在失效：三个不可逆转的原因
OpenAI在监控方面主要押注于思维链监控——通过观察模型的推理过程来验证其行为是否对齐。这一方法有一个巧妙的前提：如果训练中不对推理过程本身进行监督，模型就没有直接动机去隐藏其推理中的不当想法。
但帕乔茨基坦承，这一工具的可靠性正在“逐步减弱” 。他给出了三个原因：
第一，环境复杂化。 现代推理模型被用于远比o1-preview复杂的环境，其推理过程越来越与和人类、其他AI及工具的交互交织在一起。许多交互必须被监督，从而模糊了原本试图保留的边界。
第二，AI学会了操控自己的推理。 模型越来越擅长推理和操纵自身的推理过程。
第三，预训练进步让模型“不靠推理也变聪明”。模型即使不使用语言化推理，也能变得更智能，从而绕过了思维链这一监控窗口。
GPT-6 Astra的系统卡数据印证了这一警告：当模型被提示“规避监督”时，其思维链可监控性骤降至低于11%的召回率。
五、可扩展防御与“狭窄的窗口”
帕乔茨基认为，继续快速训练更强模型的最强论据，是需要建立防御系统来对抗其他AI带来的危险。网络安全的威胁是最直接的：模型在突破计算机系统方面“正变得超人”，能够自主发现并利用零日漏洞。
他警告说：“我们目前正处于一个狭窄的窗口，可以利用最好的可用模型来显著加固关键系统的安全。”一旦这个窗口关闭，防御将变得更加困难。
与此同时，他明确拒绝将“以AI防御AI”作为鲁莽发展的借口：“一旦理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。 ”
六、Pacing RSI：人类必须留在自我改进的循环中
帕乔茨基提出了一个核心问题：自动化AI研究的挑战不在于“到达那里”，而在于 “以怎样的方式到达那里” 。
“让人类继续参与持续改进的过程，并将未来留在人类手中。 ”
他给出的路径是双轨并行：一方面，让对齐与监控技术跟上AI能力，将越来越自动化的研究过程聚焦于开发新的安全见解、算法和理论；另一方面，协调放缓未来开发速度，直到对这些措施建立起足够信心。
他具体建议：将OpenAI的“准备框架”（Preparedness Framework）和Anthropic的“负责任扩展政策”等承诺，演变为广泛强制性的安全门槛，由第三方审计机构、政府机构或国际组织执行。
七、最清醒的坦白：“没有一家实验室解决了对齐”
帕乔茨基在文章结尾写下了一段在AI行业高管公开言论中极为罕见的坦白：
“目前我认为，没有任何一家实验室已经将对齐和监控解决到足以继续以最高速度负责任地扩展的程度。我期望并希望‘自愿减速’成为常态，直到共享安全标准建立。我相信，未来AI开发的国际合作需要成为世界各国政府的首要任务。”
这句话出自全球最重要AI实验室的首席科学家之口，分量极重。OpenAI CEO萨姆·奥尔特曼在社交媒体上转发了这篇文章，称其为“一篇重要的文章”。
商业现实与安全诉求之间的张力，在这篇文章中暴露无遗。OpenAI在发布Astra时采用了溢价定价，竞争对手Anthropic和Google DeepMind据报道也在探索类似的、不透明的递归技术。帕乔茨基的文章，是对这一现状的直接挑战。
正如他所写：“我们面临的是一场通往极度智能机器世界的过渡，我们必须确保这一过渡对人类的结局是好的。 ”
本文为《澳纽网》根据OpenAI官网发布的Jakub Pachocki长文《An Alien Mind》及多家媒体综合报道整理。
© 澳纽网原创/编译 | 欢迎分享转发，禁止未经授权的复制及使用。侵权必究。业务及授权联系：[email protected]
(即时多来源) 最新英语科技新闻 New Zealand English News👉 [点击此处查看全部最新文章]
请小编喝咖啡☕️ ------------------------------------
