英伟达又爆重磅产品:含256个GPU的AI超级计算机

人工智能 科技
澳纽网广告特价招租

①英伟达周一(5月29日)宣布推出搭载256颗GH200超级芯片的新型DGX GH200人工智能超级计算机;

②GH200拥有更大的内存容量,是目前DGX A100系统的近500倍;

③一台DGX GH200将有256个GPU,是DGX A100的32倍。

计算能力方面的突破,将使得生成式人工智能(AIGC)应用再次获得巨大提升。周一(5月29日),英伟达宣布推出搭载256颗GH200 Grace Hopper超级芯片的新型DGX GH200人工智能超级计算机。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

英伟达一位高管上周五(26日)在视频采访中称,新的DGX系统拥有更大的内存容量和更大规模的模型能力,将支持下一代生成式人工智能应用。

据悉,DGX GH200的内存储量将是英伟达目前DGX A100系统的近500倍。

英伟达CEO黄仁勋在COMPUTEX 2023的主题演讲中表示,“DGX GH200人工智能超级计算机,集成了英伟达最先进的加速计算和网络技术,以拓展人工智能的前沿。”

有海外知名媒体对此评价道,英伟达的新人工智能超级计算机将改变“游戏规则”。

超强算力

自去年年底OpenAI发布ChatGPT以来,生成式人工智能就成为热度居高不下的新趋势。该项技术需要通过超强算力来创建文本、图像、视频等内容;而芯片巨头英伟达所生产的人工智能芯片对该领域至关重要。

英伟达预计,其新型超级计算机将允许开发人员为人工智能聊天机器人以及复杂的算法构建更好的语言模型,并创建更有效的欺诈检测和数据分析。

DGX GH200集成了256个GH200超级芯片,该超级芯片使用英伟达的NVLink连接技术将Grace CPU和Hopper GPU连接在一起。中央处理单元(CPU)是作为服务器的主要计算大脑;而图形处理单元(GPU)则用于游戏和人工智能计算。

也就是说,每个GH200超级芯片有一个GPU,意味着一台DGX GH200将有256个GPU,而之前的型号(DGX A100)只有8个GPU。

英伟达还透露,谷歌云、Meta和微软将会是首批使用DGX GH200的公司,以探索其生成式人工智能的能力。该系统预计将于2023年底投入使用,目前英伟达没有提供价格。

此外,英伟达还宣布GH200 Grace Hopper超级芯片已经进入全面生产。

上周四(25日),英伟达公布了明显高于华尔街预期的季度营收预测,此后该公司股价在一天内飙升24%。季度报告表明,营收的上涨主要受惠于云计算平台和大型科技公司对GPU芯片的需求。

演讲秒变卡拉OK,黄仁勋演示AI音乐创作!英伟达放大招,算力“杀器”来了,还“拉踩”了一波CPU

当地时间5月29日,COMPUTEX 2023上,英伟达(NVDA)掌门人黄仁勋向传统CPU服务器集群发起“挑战”,“CPU扩展的时代已结束,新计算时代引爆点已到来。”当日,黄仁勋在大会上宣布,“我们已到达生成式AI引爆点。从此,全世界的每个角落,都会有计算需求。”

如今英伟达掌握着全球多家科技公司“算力命脉”,而在这场大会上,黄仁勋激情演讲2个小时,甩出了多项重磅新发布,包括算力“杀器”DGX GH200超级计算机、针对游戏的ACE代工服务、MGX服务器规范等内容。

图片来源:NVIDIA主题演讲视频截图


据澎湃新闻5月29日报道,在当天的大会上,黄仁勋现场演示AI音乐创作,随机输入歌词一键生成一首歌。他还带领现场观众跟着节拍演唱。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

图片来源:NVIDIA主题演讲视频截图


上周,由于对处理AI任务的数据中心芯片的强烈需求,英伟达大幅提高了对本季度的业绩指引,比分析师的估计高出近40亿美元。业绩指引的提高使该股创下历史新高,并使英伟达的估值接近1万亿美元,这还是芯片业中首次有公司市值达到这一高度。



黄仁勋演讲的主要内容来了1、英伟达面向游戏玩家的GForce RTX 4080 Ti GPU现已全面投产,并已经开始量产。

2、黄仁勋宣布推出适用于游戏的英伟达Avatar Cloud Engine(ACE),这是一种可定制的AI模型代工服务,为游戏开发人员提供预训练模型。它将通过AI支持的语言交互赋予非玩家角色更多个性。

3、英伟达Cuda计算模型现在服务于400万开发者和超过3000个应用程序。Cuda的下载量达到了4000万次,其中仅去年一年就达到了2500万次。

广告

Advertise with us

4、GPU服务器HGX H100的全面量产已经开始,他补充说,这是世界上第一台装有变压器引擎的计算机。

图片来源:NVIDIA主题演讲视频截图

5、黄仁勋将英伟达2019年以69亿美元收购超级计算机芯片制造商Mellanox称为其有史以来做出的“最伟大的战略决策之一”。

6、下一代Hopper GPU的生产将于2024年8月开始,也就是第一代开始生产两年后。

7、英伟达的GH200 Grace Hopper现已全面投产。超级芯片提升了4 PetaFIOPS TE、72个通过芯片到芯片链路连接的Arm CPU、96GB HBM3和576 GPU内存。黄仁勋将其描述为世界上第一个具有巨大内存的加速计算处理器:“这是一台计算机,而不是芯片。”它专为高弹性数据中心应用而设计。

8、如果Grace Hopper的内存不够用,英伟达有解决方案——DGX GH200。它是通过首先将8个Grace Hoppers与3个NVLINK交换机以900GB传输速度的Pod连接在一起,再将32个这样的组件连接在一起,再加上一层开关,连接总共256个Grace Hopper芯片。由此产生的ExaFLOPS Transformer Engine具有144 TB的GPU内存,可用作巨型GPU。黄仁勋说Grace Hopper速度非常快,可以在软件中运行5G堆栈。谷歌云、Meta和微软将是第一批获得DGX GH200访问权限的公司,并将对其功能进行研究。

9、英伟达和软银已建立合作伙伴关系,将Grace Hopper超级芯片引入软银在日本的新分布式数据中心。这些将能够在多租户通用服务器平台中托管生成式人工智能和无线应用程序,从而降低成本和能源。

10、软银和英伟达的合作伙伴关系将基于英伟达MGX参考架构,该架构目前正在与一些公司合作使用。它为系统制造商提供了一个模块化的参考架构,帮助他们构建100多个用于AI、加速计算和全方位用途的服务器变体。合作的公司包括ASRock Rack、Asus、Gigabyte、Pegatron、QCT和Supermicro。

11、黄仁勋发布了Spectrum-X加速网络平台,以提高基于以太网的云的速度。它包括Spectrum 4交换机,它有128个端口,每秒400GB和每秒51.2TB的传输速度。黄仁勋说,该交换机旨在实现新型以太网,并设计为端到端以进行自适应路由、隔离性能和进行结构内计算。它还包括Bluefield 3 Smart Nic,它连接到Spectrum 4交换机以执行拥塞控制。

12、世界上最大的广告公司WPP已与英伟达Nvidia合作开发基于英伟达Omniverse的内容引擎。它将能够制作用于广告的照片和视频内容。

广告 | Advertisement

在澳纽网做广告 | Advertise with us

13、机器人平台英伟达Isaac ARM现在可供任何想要构建机器人的人使用,并且是全栈的,从芯片到传感器。Isaac ARM从名为Nova Orin的芯片开始,是第一个机器人全参考堆栈,Huang说。

图片来源:NVIDIA主题演讲视频截图


在本次大会上,黄仁勋还“拉踩”了一波CPU。他从功耗、处理数据量等方面,指出使用GPU胜过CPU。“买越多,省越多。”黄仁勋再次表示。

同时,他也列出了数据中心成本公式:数据中心总持有成本=f[成本(芯片、系统、硬件生态系统)、吞吐量(GPU、Algo软件、网络、系统软件、软件生态系统)、使用率(Algo Lib,软件生态系统)、采购运营、生命周期最佳化、电力]。

黄仁勋台大演讲:我曾经历三次失败在5月27日的台湾大学发表了毕业典礼演讲上,黄仁勋再次强调了掌握AI技术的重要性:很多人担心,AI会抢走自己的工作。但真正会抢走你饭碗的,是掌握了AI技术的人。他表示,从各方面来看,AI的兴盛是计算机产业的再生契机。在下个十年,我们的产业将使用新型AI电脑,取代价值万亿美元的传统电脑。

据证券时报5月29日报道,5月27日,黄仁勋在台湾大学的演讲刷屏科技圈。AI,无疑是黄仁勋演讲的主题之一。他指出,所有人即将进入一个巨大变革的世界,就像个人电脑、晶片革命一样,当前正处于AI的起跑线上,每个行业都将被革命。AI为所有人带来了巨大的机遇,反应敏捷的企业将利用AI技术提升竞争力,而未能善用AI的企业将面临衰退。

黄仁勋表示,AI将改变每一份工作,大幅提升工程师、设计师、艺术家等的工作表现。他预计,每家公司和大家都必须学会善用AI,尽管有些人担心AI可能会夺走他们的工作。现阶段正处于AI技术时代的开端,AI将从根本上重塑电脑,是电脑科技产业的再一次重生,也是中国台湾厂商的黄金机遇。“请借助人工智能,完成难以想象和不可思议的事情。”

有些人担心AI可能会抢走工作机会,有些人担心AI发展出自我意志。对此,黄仁勋回应到,“我们正处于一个新领域的开始,就像个人电脑、网络、移动设备与云端技术一样。但是AI的影响更为根本,每个运算层面都会被重新改写。它改变了我们撰写软件的方式、执行软件的方式。从各方面来看,这是电脑产业的再生契机,对于企业而言更是一个黄金机遇。你们正是这个产业的重要基石。”

据界面新闻28日报道,在演讲中,黄仁勋提及了英伟达创业时期的三个“失败故事”,公司一路磕磕绊绊,险些濒临倒闭。他说,“在英伟达,我经历了失败,极大的失败,所有的失败都令人羞愧和尴尬,几乎使我们走向了灭亡。”

他以这3个“失败故事”勉励毕业生们认清错误,坚持意志,知时而变。黄仁勋总结称,撤退对所有人而言并不容易。然而,战略性撤退、牺牲、决定放弃什么才是成功的核心,并且非常关键。

黄仁勋强调,以谦逊之心面对错误,并寻求帮助,拯救了英伟达。这些特质对聪明又成功的人来说,特别困难,一如在场的毕业生。

来源: 财联社/每日经济新闻

分类: 科技新闻

(即时多来源) 最新英语科技新闻 New Zealand English News

广告 | Advertisement

在澳纽网做广告 | Advertise with us

 630 views