老男人
首页 时尚 玩车 保健 情感
更多
腕表 饮食 视频 美女 百科
0
老男人 > 科技 > 正文

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

2023-11-17 10:39:22 发布人:hao333 阅读( 4247)

老黄又来掀桌了啦!在今天凌晨的 2023 年全球超算大会上,英伟达推出了全新GPU H200 。作为前代 H100 的升级款,老黄直接不装了,在官网上单方面将 ...

老黄又来掀桌了啦!

在今天凌晨的 2023 年全球超算大会上,英伟达推出了全新GPU H200 。

作为前代 H100 的升级款,老黄直接不装了,在官网上单方面将 H200 称为 “ 当世最强 ” 。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

但更秀的是,没人会因此质疑他们违反广告法,因为在 AI 时代,对手们真只能眼巴巴地看着英伟达的车尾灯。

从英伟达官方透露的数据来看, H200 最强的就是在大模型推理表现上。

以 700 亿参数的 LLama2 大模型为例, H200 推理速度几乎比前代的 H100 快了一倍,而且能耗还降低了一半。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

能取得这么强的成绩,自然是 H200 的硬件给力。

从参数方面看, H200 的主要提升就是把上一代 “ G 皇 ”H100 的显存,从 80GB 拉到了 141GB ,带宽从 3.35TB/s 增加到了 4.8 TB/s 。

而这些进步则主要要归功于HBM3e 内存技术。

今年 8 月的时候, SK 海力士推出 HBM3e 之后,据宣称单颗带宽可以达到 1.15TB/s ,相当于在 1 秒钟内传输了 230 部 FHD 高清电影。

在 SK 海力士官宣 HBM3e 之后不久,包括三星、美光在内的内存厂商们,都陆续跟进了这一技术。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

这个 HBM3e ,其实就是之前大家都在用的 HBM3 的升级版。

说白了就是有更高的性能、更高的带宽,好处就是芯片能用更快的速度传输数据,同时还降低功耗。

非常适合眼下的AI 和大数据运用。

于是英伟达第一时间就找到 SK 海力士进行了合作。

所以我们能看到这才没多久, H200 就已经用上了这一新技术。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

比起技术升级更方便的是, H200 和 H100 都是基于英伟达 Hopper 架构打造的。

所以两款芯片可以互相兼容,那些装满了 H100 的企业不需要调整,可以直接更换。

不过,乍一看好像是王炸,但实际上H200 可能只是 H100 的一个 “ 中期改款 ” 。

因为我们发现, H100 和 H200 单论峰值算力的话,其实是一模一样的。

真正提升的参数只有显存、带宽。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

而在此前,大家常用来评判 AI 芯片性能的重要参数:训练能力。

H200 相较 H100 的提升也并不明显。

从英伟达给出的数据来看,在 GPT-3 175B 大模型的训练中, H200 只比 H100 强了 10% 。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

在世超看来,这种操作大概率是有意为之。

之前各个大厂忙着打造自家的大模型,对 GPU 最大的需求毫无疑问就是训练,所以当时大家的需求是提升训练能力。

而如今,随着 AI 大语言模型不断落地应用,训练模型在厂商眼中可能已经是牛夫人了,大家反而全去卷推理速度。

所以这次 H200 很可能是故意忽略 “ 算力 ” 升级,转而进行推理方面的发力。

不得不说,老黄的刀法依旧精准。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

当然了,这也是英伟达工程师们给老黄挤牙膏的本事,谁让人家显卡真就遥遥领先呢。

哪怕只是做了个小提升, H200 还真就能当得起 “ 当世最强 ” 的名号。

而且根据瑞杰金融集团估计, H100 芯片售价在 2 万 5-4 万美金之间,那加量后的 H200 只会比这高。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

而如今像亚马逊、谷歌、微软和甲骨文等大厂的云部门,已经付完钱排排站,就等着明年 H200 交货了。

毕竟,哪家大模型随便升个级不要几千个 GPU ?

只能说这波老黄又又又赚麻了。

但问题就是,加价对于 AI 芯片永远不是问题。

今年初创公司、大厂、政府机构等等为了抢一张 H100 挤破脑袋的样子还在上演,所以明年H200 的销量根本不用愁。

“ 是人是狗都在买显卡 ” ,去年说完这句话的马斯克也不得不转头就加入 “ 抢卡大军 ” 。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

更夸张的是,英伟达方面还说了,推出 H200 不会影响 H100 的扩产计划。

也就是明年英伟达还是打算卖 200 万颗 H100 芯片,也能侧面看出, AI 芯片是多么不愁卖。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

但面对全球嗷嗷待哺的市场,英伟达其实也有点力不从心。。

像 OpenAI 作为打响 AI 革命第一枪的人,结果因为没有足够的 GPU 痛苦得不行。

比如因为算力不够用,自家 GPT 们被各种吐槽 API 又卡又慢;

因为算力不够用, GPT 更强的上下文能力始终没法全员推广;

因为算力不够用, GPT 们没法卖给客户更多专有定制模型。。。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

光连 OpenAI 创始人奥特曼,就已经出来好几次炮轰过算力短缺。

而为了解决这个问题, OpenAI 也想了不少办法。

比如自研 AI 芯片、与英伟达等制造商展开更紧密合作、实现供应商多元化等等。

上个月初就有消息说 OpenAI 已经在找收购目标了。

更进一步的是特斯拉,他们就在 7 月推出了由定制 AI 芯片 D1 打造的 Dojo 超级计算机,用来训练自动驾驶系统。

当时摩根士丹利直接吹了一篇研报说:特斯拉这波下来,比用英伟达的 A100 足足省下了 65 亿美元。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

当然,这也不是说马斯克的这个自研的 AI 芯片就比 A100 强了。

而只是因为自研芯片只需要干自家的活,更符合自己需要、也没有算力浪费。

就好比英伟达的芯片是一锅大杂烩,谁来了吃都能吃饱饱;而自研芯片虽然只是小碗菜,但它可以按照个人口味做,虽然做得少、但更合胃口。

其他大厂也没闲着,比如微软要自研 “ 雅典娜 ” 、谷歌在年初就在自研芯片上取得突破进展。。

但就像我们前面说的,这次 H200 其实只是一个 “ 中期改款 ” ,还不足以打消其他厂商们的小心思。

按照英伟达自己放出的消息,大的还是明年会来的 B100 ,从图里看它至少是有指数级的提升。

英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?

所以世超觉得,大家伙忙活半天,在硬实力面前,黄老爷的位置恐怕还是会越来越稳。

你看像是即使强如 Meta 早在 2021 年就意识到,自己怎么干都比不上英伟达的GPU 性能,转头就从老黄那下了几十亿订单。

还记得老黄刚宣布英伟达是 “ AI 时代的台积电 ” 的时候,有不少人冷嘲热讽。

结果现在才发现,这句话居然是老黄的谦辞。

毕竟 2022 年台积电 “ 只 ” 占了全球晶圆代工产能的 60% ,而英伟达如今已经占据了可用于机器学习的图形处理器市场 80% 以上的份额。

总感觉,等老黄的大招真来了,这些大厂们的芯片自研项目恐怕又得死一片吧。。。

撰文:八戒 编辑:江江 & 面线 封面:焕妍

          
  • 上一篇:终于等到!这就是年轻人第一辆小米汽车

相关阅读

RelatedReading
  • 英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗? 英伟达又出新显卡,老黄是想毁了大厂们的自研梦吗?
  • 终于等到!这就是年轻人第一辆小米汽车 终于等到!这就是年轻人第一辆小米汽车
  • “灾难三小时”背后:大考的吴泳铭 动荡的阿里云|新视界 “灾难三小时”背后:大考的吴泳铭 动荡的阿里云|新视界
  • 双11十五年,电商创业还是不是好生意? 双11十五年,电商创业还是不是好生意?
  • 科学家成功合成酵母所有染色体,人造生命真要来了? 科学家成功合成酵母所有染色体,人造生命真要来了?
  • 供不应求,特斯拉确认中国市场Model 3/Y还将继续涨价 供不应求,特斯拉确认中国市场Model 3/Y还将继续涨价

猜你喜欢

Guessyoulike
科学家成功合成酵母所有染色体,人造生命真要来了?

科学家成功合成酵母所有染色体,人造生命真要来了?

hao333 4110次阅读2023-11-17 10:38
供不应求,特斯拉确认中国市场Model 3/Y还将继续涨价

供不应求,特斯拉确认中国市场Model 3/Y还将继续涨价

hao333 6468次阅读2023-11-17 10:38
澜沧古茶有望成

澜沧古茶有望成"普洱茶第一股" 净利上半年降去年降

hao333 6843次阅读2023-11-17 10:38
几千人排队申请马斯克的脑机设备!但试验动物基本都死了

几千人排队申请马斯克的脑机设备!但试验动物基本都死了

hao333 9879次阅读2023-11-17 10:38
专题页

HOT榜单

  • 气象预测的“Alpha Go”时刻来临 谷歌新论文称AI中期预测更准确

  • 白酒概念板块跌0.87% 流金科技涨1.75%居首

  • 中国霸总短剧收割外国人:排名超TikTok,价格超奈飞

  • “霸总的爱”2分钟1美元!中文在线短剧App突降海外畅销榜 社媒评论寥寥被疑“买榜做局”

  • Reelshort冲上美iOS娱乐榜第一,中文在线半个月股价翻倍

  • 狂吃AI红利 英伟达股价10连涨市值暴涨1.6万亿|AI前哨

  • 沃尔沃CEO谈通用汽车放弃CarPlay:要让车主自由选择3种车机

  • Nothing Chat聊天应用公布,安卓手机可与苹果iMessage用户聊天

  • 问界倒车撞上比亚迪,AEB功能边界何在?记者走访华为线下门店

  • 傅盛朋友圈评价王自如

换一组看看

频道最IN
>工业品电商,新的隐形冠军藏不住了?

工业品电商,新的隐形冠军藏不住了?

>聊聊01万物大模型和李开复老师

聊聊01万物大模型和李开复老师

>跳转的苦,苹果来解?

跳转的苦,苹果来解?

关于我们 法律声明 联系我们 广告服务 隐私条款
@老男人网 版权所有/信息产业部备案号:蜀ICP备13015099号-1