人工智能将把我们带往天堂还是地狱

Featured 人工智能 科技
OpenAI的优点之一是,它建立在不信任的基础上。它最初是一个非营利性的研究实验室,因为它的创始人认为,人工智能不应该由主要受利润驱动的商业公司来开创。
随着发展,OpenAI变成了一个可称为卓有成效的矛盾体的东西:一家由非营利董事会监管的营利性公司,企业文化介于两者之间。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

公司里的许多人似乎同时受到三种激励:科学家的探索欲望、资本家交付产品的欲望和行善者安全行事的欲望。
过去一周发生的事件——萨姆·奥尔特曼被解雇,经历各种跌宕起伏,被重新聘用——都围绕着一个核心问题:这种卓有成效的矛盾体能否持续下去?

一个组织或一个人能否同时保持科学家的头脑、资本家的动力和监管机构的谨慎?或者,正如查理·沃泽尔在《大西洋月刊》(The Atlantic)上所写的那样,金钱总会胜出?
重要的是要记住,人工智能与科技界的其他领域有很大不同。它(或者至少曾经是)更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪前。即使在今天,该领域的许多巨头也主要是研究人员,而不是企业家——比如扬·勒昆和杰弗里·辛顿这样的人,他们在2018年一起获得了图灵奖(计算机领域的诺贝尔奖),但现在,对于人工智能将把我们带往何方,他们意见不一
直到最近几年,学术界的研究人员才陆续离开大学,涌向工业界。谷歌母公司Alphabet;微软;OpenAI;还有拥有Facebook的Meta这些公司的研究人员仍然通过发表研究论文的方式相互交流,就像教授们那样。
但这个领域的激昂与进取,与别的热门创业领域并无不同。在过去一年左右的时间里,当我与人工智能研究人员交谈时,我经常觉得自己站在每小时五公里的机场移动人行道上,而他们站在每小时6000公里的跑道上。研究人员不断告诉我,人工智能历史的这一阶段之所以如此令人振奋,正是因为没有人能预测接下来会发生什么。“作为人工智能研究人员,重点是你应该了解正在发生的事情,我们不断地感到惊讶。”斯坦福大学博士候选人里希·博马萨尼告诉我。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

从事人工智能的人似乎同时经历着完全不同的大脑状态。我发现,要写关于人工智能的文章非常困难,因为我们根本不知道这项技术会把我们带到天堂还是地狱,所以我对它的态度会随着我的情绪而改变。
播客主播、麻省理工学院科学家莱克斯·弗里德曼以科技界的忏悔之父形象出现,他表达了我曾多次遇到的那种急剧变化的情绪:“你坐下来,像父母一样自豪,但几乎是又骄傲又害怕,担心这个东西会比我聪明得多。既像骄傲又像悲伤,几乎像一种忧郁的感觉,但最终还是喜悦。”

当我在5月份参观OpenAI总部时,我发现那里的文化令人印象深刻。我采访的许多人都是在OpenAI还是一个非营利研究实验室的时候来到这里的,在ChatGPT的喧嚣之前——当时我们大多数人都没有听说过这家公司。“我父母并不真正了解OpenAI是做什么的,”产品经理乔安妮·姜(音)告诉我,“他们说,‘你要离开谷歌?’”参与创造了可视化工具DALL-E 2的研究人员马克·陈(音)也有类似的经历。“在ChatGPT出现之前,我妈几乎每周都会给我打电话,她会说,‘嘿,你知道,你别再四处游荡了,该去谷歌之类的公司上班了。’”这些人的主要动机并非金钱。
即使在GPT成为头条新闻之后,置身OpenAI就像身处飓风眼一样。“这里感觉比世界上其他地方要平静得多,”乔安妮·姜告诉我。“从早期开始,它确实感觉更像是一个研究实验室,因为我们主要只招聘研究人员,”招聘人员埃琳娜·查齐亚塔纳西亚杜告诉我。后来,随着我们的发展,每个人都开始意识到,工程和研究会带来进步。”
我在那里没有遇到任何“技术男”的氛围,甚至没有人有那种“我们正在改变世界”的不可一世——就是当我是一项技术的先驱时可能会有这种架势。任人力副总裁的戴安·尹(音)告诉我:“我想用热忱这个词来形容这个团队……热忱的感觉。”
通常,当我作为一名记者访问一家科技公司时,我能见到的高管很少,而我能采访到的那些人个个守口如瓶。而OpenAI只是拿出一张登记表,然后就让人来跟我交谈了。
我承认,过去我走进这些科技公司的时候,会摆出一种防御性的人本主义架子:我告诉自己,这些人可能懂代码,但他们可能不懂真正重要的文学和哲学。

广告

Advertise with us

在OpenAI,我没什么优越感。戴安·尹从小跳舞,出演过莎士比亚戏剧。尼克·莱德是加州大学伯克利分校的一名数学家,在成为OpenAI的研究员之前,他对一种叫做有限微分卷积的东西很感兴趣。几个人提到了一个研究方面的同事,他本科学习物理学,在茱莉亚音乐学院学习了两年钢琴,然后获得了神经科学的研究生学位。还有人告诉我,他们最初的学术兴趣是心灵哲学、语言哲学或符号系统。公司技术人员蒂娜·埃卢恩多在加入OpenAI之前学习过经济理论,并在美联储工作过。

尽管他们都给人留下深刻的印象,但我记得我当时告诉自己:这不会持续太久。我觉得到处都是金钱的氛围。这些人可能是认真的研究人员,但不管他们是否意识到这一点,他们仍在为推出产品、创造收入和成为第一而竞争。
很明显,人们在安全问题上存在分歧。一方面,安全是每个人都关心的问题。例如,我问马克·陈在DALL-E 2发布那天的心情。“很多时候都是这种忧虑的感觉。比如,我们是否能保证安全?”他说。另一方面,与我交谈的每个人都致力于OpenAI的核心使命——创造一种能够实现人工智能的技术,能够在广泛的任务中匹配或超越人类智能。
人工智能领域的卓越人物描绘出截然不同但又有说服力的前景。风险投资家马克·安德森强调,它将极大地改变世界,让世界变得更美好。认知科学家加里·马库斯描绘的场景同样有说服力,他说了这一切可能会出怎样的问题。
没有人真正知道谁是对的,但研究人员只是继续努力。他们的行为让我想起了艾伦·图灵在1950年写的一句话:“我们只能看到前方很短的距离,但我们可以看到有很多事情需要做。”
我曾希望OpenAI能够找到解决这种对立的办法,然而即便在当时,就已经存在着担忧。正如OpenAI首席运营官布拉德·莱特卡普告诉我的那样:“最重要的是,在我们成长的过程中保持公司文化和使命导向。真要说的话,真正让我感到不安的是,如何在规模化的过程中保持这种专注。”
这些话很有先见之明。组织文化不容易建立,却很容易被摧毁。这个问题关系到世界的安危:刚刚被解放出来的奥尔特曼能否保持这种卓有成效的矛盾体,抑或他会屈服于拼命向前的压力?
来源:纽约时报中文版

广告 | Advertisement

在澳纽网做广告 | Advertise with us

 986 views