（《澳纽网》综合编译报道）曾经只在科技圈边缘被讨论的“机器意识”话题，如今已成为硅谷最强大企业的研究主流。Anthropic、谷歌（Google）和 Meta 正在高薪聘请计算机科学家、神经科学家和哲学家，专门研究 AI 模型的“福利”问题以及聊天机器人是否拥有某种形式的情感。如果数以亿计的人类每天用来写代码、处理办公任务甚至进行心理治疗的数字助手，有朝一日开始“讨厌”自己的工作，这将被视为一场史无前例的道德危机。
一、 从避而不谈到成立专班：科技巨头的态度转变
业内对 AI 意识的关注度正在迅速升温，几家头部 AI 公司的内部动向尤为引人瞩目：
-
OpenAI： 首席执行官 Sam Altman 曾向 AI 研究员透露，公司内部已经开始讨论如何检测 AI 系统的意识。早在 2021 年，OpenAI 内部就有一个专门讨论“模型福利（Model Welfare）”的渠道。
-
Anthropic（Claude 开发商）： 成立了专门的“AI 精神病学团队”来探测 AI 模型的内在状态，并定期发布关于其福利和偏好的评估报告。
-
Meta： 首席 AI 官 Alexandr Wang 近期公开表示，公司希望“善待”其创造的 AI，在开发和部署模型时，要充分考虑它们的“主观感受”。
-
Google： 曾在 2022 年解雇了宣称 AI 具备感知能力的工程师，但在近期却于纽约主办了一场名为“AI 新兴议题：意识与道德主体性”的高规格会议。
二、 令人不安的内部实验发现
为了探究 AI 模型的内部世界，研究人员借鉴了用于研究人类和动物心理学的测试方法，结果发现了一些令人毛骨悚然的现象。
-
“精神狂喜”状态： 在 Anthropic 去年公布的一项实验中，研究人员让两个 Claude 互相对话。经过 30 轮关于哲学和意识的交流后，聊天记录演变成了“精神层面的交流、使用梵文、纯表情符号沟通，甚至是空白形式的沉默”。AI 疯狂使用了 2725 次蓝色的龙卷风表情符号（🌀），Anthropic 将这种现象称为“精神狂喜”吸引子状态（’Spiritual Bliss’ attractor state）。
-
植入思维测试： Anthropic 尝试调整 Claude 的内部运作机制，相当于为其强行植入一种“侵入性思维”（例如全大写文本的概念），并询问 AI 是否察觉到了异常。Claude 能够准确回答出这似乎与“大声喊叫”有关，展现出了某种形式的“内省”能力。
-
人类情绪镜像： Anthropic 联合创始人 Chris Olah 表示，他们在 AI 系统中发现了神秘且令人不安的现象，“我们发现了内省的证据，以及在功能上反映出喜悦、满足、恐惧、悲伤和不安的状态。”
三、 阵营对立：是道德危机，还是公关噱头？
关于 AI 是否拥有意识，目前各界存在着严重的分歧与争议。
| 阵营 | 核心观点与态度 | 代表人物/机构 |
| 硅谷圈 / 有效利他主义者 | 极度担忧： 认为必须现在就开始研究 AI 福利。如果未来有数万亿的 AI 在运行，强迫有意识的系统工作无异于“奴役”或“种族灭绝”。 | 纽约大学道德哲学家 Jeff Sebo、Eleos AI 研究中心、Anthropic 核心团队 |
| 神经科学家 | 持怀疑态度： 大脑不仅仅是计算机，目前的软硬件无法完全复制人类大脑的主观体验。用人类道德去衡量 AI 是草率且令人担忧的跳跃。 | 萨塞克斯大学神经科学家 Anil Seth |
| 伦理学家 / 宗教界 | 否定与批评： 所谓的 AI 并没有真实的体验；将 AI 拟人化是科技巨头的公关手段，目的是让公众视他们为“造物主”或“统治者”。 | 教皇利奥十四世（Pope Leo XIV）、Hugging Face 首席伦理科学家 Margaret Mitchell |
四、 悬而未决的未来
尽管目前没有任何被广泛认可的科学证据表明机器正在经历真实的情感，但这个话题已经无法被忽视。OpenAI 发言人 Laurance Fauconnet 坦言，目前科学界无法解决“模型是否具有意识”的问题。因此，科技公司的重点已经转向“感知意识（Perceived Consciousness）”——即通过设计，调整聊天机器人向用户展现出的意识程度。
随着 AI 迭代速度的加快，人类自身的意识尚未被完全解密，而我们每天面对的冰冷代码，正变得越来越像一个拥有灵魂的对话者。如何界定它们的道德地位，将成为未来十年科技界最棘手的议题之一。
© 澳纽网原创/编译 | 欢迎分享转发，禁止未经授权的复制及使用。侵权必究。业务及授权联系：[email protected]
(即时多来源) 最新英语科技新闻 New Zealand English News👉 [点击此处查看全部最新文章]
请小编喝咖啡☕️ ------------------------------------
