AI“教父”Geoffrey Hinton 在离开 Google 时警告危险

人工智能 编辑精选
题图:杰弗里·辛顿。 照片:Masahiro Sugimoto / The Yomiuri Shimbun via AFP

澳纽网据BBC报道,在周一接受 BBC 采访时,他说:“我现在可以自由谈论我认为可能存在的危险。

“其中一些非常可怕。”

广告 | Advertisement

在澳纽网做广告 | Advertise with us

无标题

Geoffrey Hinton 辞去了他在谷歌的工作。 照片:123RF

Hinton 博士在深度学习和神经网络方面的开创性研究为当前的 AI 系统(如 ChatGPT)铺平了道路。

但这位英裔加拿大认知心理学家和计算机科学家告诉 BBC,聊天机器人可能很快就会超过人脑所掌握的信息水平。

“现在,我们所看到的是 GPT-4 之类的东西在它拥有的一般知识量上让一个人黯然失色,而且远远超过了他们。在推理方面,它没有那么好,但它已经做到了简单的推理。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

“鉴于进展速度,我们预计事情会很快好转。所以我们需要担心这一点。据我所知,目前,他们并不比我们更聪明。但我认为他们很快就会是。”

ChatGPT 使用 AI 或人工智能技术聊天。 使用计算机与智能人工智能聊天的女性询问想要的答案。 互联网知识,电子学习,

Hinton 博士在深度学习和神经网络方面的开创性研究为当前的 AI 系统(如 ChatGPT)铺平了道路。 照片:123RF

在纽约时报的文章中,Hinton 提到了试图将 AI 用于“坏事”的“坏演员”。

当 BBC 要求对此进行详细说明时,他回答说:“这只是一种最坏的情况,一种噩梦。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

“你可以想象,例如,像 [俄罗斯总统弗拉基米尔] 普京这样的坏演员决定让机器人能够创建自己的子目标。”

这位科学家警告说,这最终可能会“创造出像‘我需要获得更多能量’这样的子目标”。

欣顿还表示,辞去工作还有其他几个原因。

“一个是,我 75 岁了。所以是时候退休了。另一个是,我实际上想说一些关于谷歌的好话。如果我不为谷歌工作,他们会更可信。”

“One is, I’m 75. So it’s time to retire. Another was, I actually want to say some good things about Google. And they’re more credible if I don’t work for Google.”

他强调,他不想批评谷歌,这家科技巨头一直“非常负责任”。

– 英国广播公司

广告 | Advertisement

在澳纽网做广告 | Advertise with us

 777 views