加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    • H100利润率达1000%
    • 价格炒到4.5万美元
    • 石油大国也加入抢芯
    • 英伟达真的“不可替代”吗?
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

赚翻了!这款芯片利润率近1000%

2023/08/22
4600
阅读需 7 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

半导体寒冬中依靠AI突围的英伟达芯片成为全球科技大厂疯抢的对象,旗下的H100近期更被投行分析师曝出,利润率接近1000%!在这款芯片已经缺货到明年的情况下,其给英伟达带来的盈利更是惊人。

H100利润率达1000%

近日,据《巴伦周刊》资深撰稿人Tae Kim最近在社交媒体上发布的帖子估计,其援引投行Raymond James数据称,英伟达制造一颗H100 GPU的成本为3320美元,但向客户给出的售价为2.5万至3万美元。并且,Raymond估计的物料清单(BOM)也涵盖高带宽内存(HBM)。

Tom`s Hardware随后报导,这份报告意味着对英伟达来说,H100芯片的成本利润率接近1,000%。然而,目前尚不清楚BoM(物料清单)成本分析有多深入:如果这是纯粹的制造成本问题(在考虑良率的情况下平均每片晶圆和其他组件的价格),那么英伟达仍然需要支付相当大的销售费用。

图源:Tom's Hardware

举例来说,产品开发需要时间和资源,考虑到H100等产品的产品开发生命周期中的工程师和其他参与者,在计算每款平均产品开发成本之前也必须考虑到英伟达的研发成本。据Glassdoor称,英伟达电子硬件工程师的平均年薪约为20.2万美元,这还只是单个人,开发像H100这样的芯片很可能需要多名专业工作者的数千小时的投入。所有这些也必须被考虑进去。

H100是目前训练大语言模型最需要的图形处理器(GPU),因为它对于大模型的推理和训练都是速度最快的,通常也是推理方面性价比最高的。它可以应用于各种AI场景,如AI聊天机器人、推荐引擎、视觉AI、数据分析、高性能计算等。

价格炒到4.5万美元

此外,值得注意的是,虽然H100给到客户的报价是2.5万至3万美元,但在其它渠道,价格也被持续炒到新高。例如,8月初eBay网站上H100的售价已经高达4.5万美元,这较今年4月份4万美元的价格涨幅超过10%,而且货源较上半年也显著减少。

近日还有消息称,下一代GPT大模型GPT5需要5万张英伟达最高配置的H100芯片,全球市场对H100芯片的需求量达到43万张,英伟达的产能可能难以满足如此大的算力需求。

但研究机构Gartner芯片分析师盛陵海表示:“目前GPU的缺口多大不好预估,需求是被炒起来的,越是缺,市场就越是要。”

对于供应受限的原因,花旗分析师Atif Malik表示,部分涉及先进封装及HBM。其中台积电 CoWoS先进封装产能明显供不应求,但明年CoWoS产能有望倍增。

CoreWeave共同创办人Brian Venturo也表示,英伟达H100在2023年或都会缺货。对物流、资源有合理规划的客户,目前预测的到货时间点落在明年第1~2季。

石油大国也加入抢芯

目前除了谷歌、Meta、亚马逊为首的互联网大厂在疯抢H100,连石油大国也不例外。

谷歌资料显示,目前已经建成包含26000个H100的A3服务器,还部署了数十台TPU V4超级计算机,每台拥有4096个TPU芯片;亚马逊官方资料显示,它们即将推出的EC2超级集群可以扩展至20000个互联的H100;Meta资料显示,亚马逊云已经拥有2000个DGX A100服务器,配备了超过16000个A100 GPU,亚马逊专家表示未来他们还会采购3万片H100

沙特阿拉伯最近以4万美元单价购入了至少3000块英伟达H100 GPU芯片。此外阿联酋也同样购买数千颗英伟达芯片,并将它们部署在阿布扎比马斯达尔市的国有技术创新研究所内,用于创建了名为“Falcon”的大型语言模型上。

英伟达真的“不可替代”吗?

AI芯片极度供不应求的背景下,市场也在关注有望与英伟达一争高下的AMD。

AMD公司先前已经宣布,预计将在年底前推出英伟达GPU的替代解决方案——MI300 AI芯片。AMD首席执行官苏姿丰(Lisa Su)在公司财报电话会议上表示:“客户对我们的人工智能解决方案表现出了浓厚的兴趣,我们已经取得了重大进展。”

但由于业内对于AMD的芯片是否能够真正替代英伟达的产品仍持怀疑态度,AMD财报公布后股价暴跌约6%。

“AMD的人工智能芯片值得期待,但是到底有多少客户会用现在还是未知数,而从行业角度来看,多一种选择总是好的。”一位芯片领域资深人士表示。

在全球范围内,其他新兴的人工智能芯片初创公司近期也宣布了不少融资消息。由芯片行业资深人士凯勒(Jim Keller)领导的加拿大初创公司Tenstorrent正在开发对标英伟达的人工智能芯片,该公司近期从现代汽车集团和三星投资基金等公司方面筹集了1亿美元资金,估值达10亿美元。

人工智能初创公司d-Matrix创始人兼CEO谢思(Sid Sheth)认为,芯片的短缺可能还会迫使企业寻求其他创造性的方法来解决问题,比如开发能够提高芯片生产效率的新技术。

注:部分信息参考科创板日报、钜亨网、MoneyDJ等, 文章仅供学习和交流之用,不构成任何建议,不代表本号立场,如有任何问题,敬请联系我们,谢谢。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
STM32F103C8T6 1 STMicroelectronics Mainstream Performance line, Arm Cortex-M3 MCU with 64 Kbytes of Flash memory, 72 MHz CPU, motor control, USB and CAN
$9.34 查看
ATTINY85-20SU 1 Microchip Technology Inc IC MCU 8BIT 8KB FLASH 8SOIC

ECAD模型

下载ECAD模型
$1.83 查看
DS3231SN# 1 Maxim Integrated Products Real Time Clock, Non-Volatile, 1 Timer(s), CMOS, PDSO16, 0.300 INCH, SOIC-16
$11.21 查看
英伟达

英伟达

为这个时代的达芬奇和爱因斯坦们提供超强计算性能。我们开创性地开发出一种超强计算形式,深受全世界对计算机有超高要求的用户的青睐,包括科学家、设计师、艺术家和游戏玩家。对于他们而言,我们的创造几乎可媲美时间机器。基于对更优质 3D 图形永无止境的需求以及当下庞大的游戏市场,NVIDIA 已在这个虚拟现实、高性能计算和人工智能的交叉口,将 GPU 发展为计算机大脑。

为这个时代的达芬奇和爱因斯坦们提供超强计算性能。我们开创性地开发出一种超强计算形式,深受全世界对计算机有超高要求的用户的青睐,包括科学家、设计师、艺术家和游戏玩家。对于他们而言,我们的创造几乎可媲美时间机器。基于对更优质 3D 图形永无止境的需求以及当下庞大的游戏市场,NVIDIA 已在这个虚拟现实、高性能计算和人工智能的交叉口,将 GPU 发展为计算机大脑。收起

查看更多

相关推荐

电子产业图谱

猎芯网旗下新媒体公众号——芯三板,新三板,创业板,主板,海外板,越来越多的板爷!需要一个传话筒吧?需要来一点解密吧?需要来一点心跳吧?麻辣新鲜,陈年往事,说出来是故事,看透了就是人生!