博智信息资讯,更全更新信息实报!
首页 > 社会热点 > 正文

一个B200顶五个H100:黄仁勋真正打破了摩尔定律

来源:思娟 发布时间:2024-03-20 15:49
浏览:0

那个爱穿皮衣的黄姓男人又带着他的“家伙事”来炸场了。

昨天凌晨, NVIDIA GTC 大会正式拉开帷幕, NVIDIA 创始人兼 CEO 黄仁勋现场两个小时的演讲,让能容纳两万人的 SAP 体育中心直接被塞爆了。

有网友把黄仁勋比作是新的乔布斯,还问 NVIDIA 会不会成为新的苹果。

就连马斯克也称赞“现在没什么硬件能比 NVIDIA 的更适合 AI 。”

反正这次大会,老黄和 NVIDIA 是又被捧到了新高度。

那这次开发者大会,到底都讲了些啥?大会演讲全程两个小时,没有耐心看完演讲的友友们,直接看我的总结就行。

之前,有网友调侃过老黄是科技圈的泰勒·斯威夫特,所以这次一开场,老黄就先水了一波观众:注意注意,这不是演唱会,这是开发者大会。

接着又甩出一张图,跟大家伙儿唠了半小时计算机和 NVIDIA 的发展史,还 cue 到了当年把第一台 DGX-1 超级计算机送给 OpenAI 的事儿。

不过这些,都只是些餐前小甜点,真正的大菜在后面呢。因为这次演讲的主题叫做《见证 AI 的变革时刻》,估计大伙儿也能猜出个七七八八,大会内容基本跟 AI 脱不了关系。

首先就是,全新的GPU架构Blackwell,和新芯片 B200。

大会现场,黄仁勋先是掏出了一块 H100,还夸它“changed the world”。

但下一秒 Blackwell 架构的 B200出现以后,大伙儿的注意力就被老黄口中这个“ NVIDIA 史上最成功的产品”给吸引住了。

肉眼上看, B200和 H100最大的区别就是,前者要更大。

根据介绍, B200由两个 Die( 裸片 )封装组合而成的,包含了 2080亿个晶体管( H100是 800亿个),可以支持参数量多达 10万亿的 AI 模型搞训练推理。

并且,B200的算力性能是 20PFlops ,而上一代 H100只有 4PFlops 。

实际,在芯片制程上 B200其实是没什么创新的,毕竟 4nm 工艺已经是目前这颗星球上的芯片极限了,所以 B200另辟蹊径,两个芯片之间的数据传输速度足够快。

这样,两块芯片就来了一波超级合体,约等于是一块芯片,但威力却加倍了。

大会上老黄还装了个 X :他说当他们被告知 Blackwell 的野心超出了物理极限时, NVIDIA 的工程师回了一句:那又怎样?

另外,芯片还能继续像搭积木一样合体,把两块B200组合到一起,再跟 NVIDIA 的Grace CPU配对之后,又能整出一个超级芯片GB200。

这个 GB200,直接把计算性能拉满了。

按照老黄的说法,在 1750亿组参数的 GPT-3 模型基准测试中, GB200的性能是 H100的7 倍.

以前要 90天内训练一个 1.8 万亿参数的 MoE 架构 GPT 模型,需要 8000个 H100,但现在,有 2000个 GB200就够了。

老黄在这,也算是非官方的透露了一下 GPT-4 的参数量,1.8 万亿参数的 MoE,和之前网友猜测的其实也大差不差。

更夸张的是,还有把 36 个 GB200放一起的 GB200 NVL72 服务器,还有结合了 8 个 GB200 NVL72 的 DGX SuperPOD ,这些由 Blackwell GPU 垒起来的计算平台,一个比一个炸裂。

甚至于,老黄也直接说“ DGX SuperPOD 就是 AI 的革命工厂!”

之前科技公司不是老嚷嚷着搞大模型算力不够不够,这次老黄直接就整了个算力怪兽出来。

我只想说,友商连 H100还没赶上呢,这 B200怎么又遥遥领先了?

而且,操心底层算力还不算完, NVIDIA 这次连 AI 应用的落地也要掺和一脚。就说这个 NVIDIA 要推出的 NIM 推理服务吧,它可以提供预训练好的 AI 模型并开放 API ,再让客户自己来开发应用。

举个例子, NVIDIA 这次推了 25 个医疗场景的微服务,这些微服务包括了一系列模型,比如预测蛋白质结构的 ESMFold 、生成化学的 MolMIM 等等等等,医疗公司就可以基于这些微服务,开发相关的应用出来。

按照老黄的说法,现在的 NVIDIA 就是一个 AI 代工厂,里面有模型、有模型开发工具,还有一系列基础设施。

这就相当于扩展了自己的 AI 生态链条, NVIDIA 一下子路就走宽了。

另外,这次大会还有个重头戏,那就是人形机器人基础模型 GROOT。

简单来理解,用 GROOT 驱动的人形机器人可以理解自然语言、模仿人类的行为,从而实现跟物理世界的交互,也就是咱们经常提到的具身智能。

为了配合人形机器人, NVIDIA 还专门发布了个人形机器人芯片 Jetson Thor 。这又是 GROOT 又是 Thor ,难不成老黄是要致敬漫威?

总的来说,这次 NVIDIA 的开发者大会干货还是挺多的。

反正新架构出来之后, NVIDIA 车载计算平台“ NVIDIA DRIVE Thor ”要升级的消息一传开,比亚迪以后也要把 NVIDIA DRIVE Thor 芯片用在自家车上了,还要用 NVIDIA 的基础设施来开发自动驾驶大模型。

NVIDIA 的 Omniverse 平台也跟苹果来了波联动,让设计师可以戴着 Vision Pro 来设计汽车;台积电和新思科也要引入 NVIDIA 的光刻计算平台 cuLitho ,给芯片制造提一波速。

还有什么 AI 游戏数字人技术,地球气候数字孪生, NVIDIA 这次掏出来的东西基本上就没有水货。

AI 军火商果然名不虚传,反正从我的观察来看,今年以来 NVIDIA 的股价已经涨了超过 80%,财报也是一片欣欣向荣。

但即便如此,不少人还是觉得 NVIDIA 的帝国背后,危机重重,有人觉得 NVIDIA 的生意太依赖谷歌、微软这些巨头了,不太具有持续性。

也有人把 NVIDIA 比作是我们这个时代的思科,因为在上个世纪末,一堆人觉得思科的交换机和路由器,就是互联网时代的黄金,只要互联网在,思科的股价永远涨,可最后,思科的股价在互联网泡沫的破裂中,蒸发大半。

但不论如何,如今的 NVIDIA 依旧是 AI 芯片领域的最强话事人。

正如 NVIDIA 官网上说的那样,是他们发明了 GPU ,也是他们让 GPU 从专用的图形处理设备,变成了通用计算平台,从而推动了如今 AI 的发展。

所以在我的眼里, NVIDIA 不单单只是 AI “战争”中的军火商,因为如今 AI 这个火热的场子,一定程度上都是 NVIDIA 搭起来的。

在新一代的“军火”亮相之后,我已经来不及想看下一阶段的 AI 大战,有多激烈和壮观了。

本文转载于快科技,文中观点仅代表作者个人看法,本站只做信息存储

热门文章

  • suv销量排行榜前十口碑最好,值得购买
    suv销量排行榜前十口碑最好,值得购买

    suv销量排行榜前十口碑最好,值得购买

    随着国内经济的发展和消费者购买能力的提高,车市整体呈现逐月环比持续上涨的良好态势,不同车型的销售表现也是异彩纷呈。SUV作为市场上最受欢迎的车型之一,其销售情况自然备受关注。Model Y月销破五万上...

  • 家庭养什么狗最干净(家庭养什么狗最好排行榜)
    家庭养什么狗最干净(家庭养什么狗最好排行榜)

    家庭养什么狗最干净(家庭养什么狗最好排行榜)

    很多朋友对于最好的宠物狗排名和最好的宠物狗排名第一不太懂,今天就由小编来为大家分享,希望可以帮助到大家,下面一起来看看家庭养什么狗最干净!宠物狗好养排名1、NO.1:泰迪 泰迪(又称贵宾犬)...

  • 武汉大学樱花即将进入盛花期 本周为今年赏樱的最佳观赏时段
    武汉大学樱花即将进入盛花期 本周为今年赏樱的最佳观赏时段

    武汉大学樱花即将进入盛花期 本周为今年赏樱的最佳观赏时段

    根据湖北省气象服务中心发布的消息,武汉大学主要观赏品种中樱染井吉野已于3月15日正式进入初花期,目前已开放五成以上,将逐渐进入最佳观赏期。根据最新气象资料分析,预计19-22日武汉天气晴好,气温上升,...

  • 两大学生合买彩票中奖一人不认账 法院:双方均分奖金
    两大学生合买彩票中奖一人不认账 法院:双方均分奖金

    两大学生合买彩票中奖一人不认账 法院:双方均分奖金

    国内媒体报道了一则关于小刘和小许两位发小因彩票奖金问题反目成仇的事件,最终不得不将此事提交至法院进行裁决。据了解,去年7月20日,小许和小刘这两位好友在山东某市的体育彩票店中,共同商量并选择了彩票号码...

  • 单亲妈妈陷入热恋 14岁儿子报警:遭遇了“杀猪盘”诈骗
    单亲妈妈陷入热恋 14岁儿子报警:遭遇了“杀猪盘”诈骗

    单亲妈妈陷入热恋 14岁儿子报警:遭遇了“杀猪盘”诈骗

    余杭单亲妈妈罗女士在网上找了一位心仪的男友,可14岁儿子知道后却果断报警,得知事情真相后,民警不仅夸赞男孩“人间清醒”,还给他颁了奖。这是怎么回事呢?3月9日下午,余杭良渚新城派出所接到了一名男孩打来...

生活常识

更多 >
  • 画荻教子的故事(欧母画荻是什么典故)
    画荻教子的故事(欧母画荻是什么典故)

    摘要:“画荻教子”的故事,是中国古代教育的一个缩影。它展示了中国古代教育的特点:注重道德教育,强调家庭教育的重要性,以及尊重个体差异,鼓励创新。这些特点在今天的教育中仍然具有重要的参考价值。自古以来,...

  • 清真寺是干嘛的(清真寺的清真是什么意思)
    清真寺是干嘛的(清真寺的清真是什么意思)

    摘要:清真寺,是伊斯兰教信徒进行宗教活动的重要场所,也是伊斯兰教文化和历史的重要载体。它不仅是信徒们进行祷告、学习、交流的地方,更是他们精神寄托和生活的重要组成部分。清真寺,是伊斯兰教信徒进行宗教活...

生活常识汉献帝怎么死的(汉献帝之死真相大白)
生活常识柔道是哪个国家的(柔道是哪个国家的运动项目)
生活常识昌珠寺的镇寺之宝(昌珠寺的镇寺之宝珍珠唐卡年代)
生活常识拐枣是哪里的特产(拐枣是哪里的特产湖南那里有)

创业路子

更多 >