英伟达又赚了!斥资超180亿元 马斯克用了10万块H100芯片磨练最新大模子
7月1日,特斯拉CEO埃隆·马斯克(Elon Musk)正在为其行将推出的AI聊天机器东说念主Grok的新版块造势。马斯克在酬酢媒体上文书,其东说念主工智能初创公司xAI的大谈话模子Grok-2将于8月精采推出,将带来更先进的AI功能。马斯克败露,xAI的Grok-3用了10万块英伟达H100芯片进行磨练,瞻望将于年底发布,信服它会“很是杰出”。
图片来源:X
H100是英伟达开采的图形处理单位,是由英伟达公司制造的一种超等巨大的打算芯片,是现时世界上开首进的打算芯片之一,特意用来处理复杂的东说念主工智能(AI)和机器学习(ML)任务。你不错把它瞎想成打算机的大脑,但它比普通电脑的处理器要巨大得多,杰出相宜那些需要多数打算和数据处理的职责,跟着科技公司竞相开采更智能的AI产物,这些芯片成了硅谷的热点商品。
据英伟达官网先容,相较于上一代产物,H100可使大型谈话模子的速率擢升30倍。H100 GPU配备第四代Tensor Core和Transformer引擎,可使大型谈话模子的磨练速率擢升高达9倍,推理速率擢升30倍。
图片来源:英伟达官网
英伟达H100的价钱现在仍是飙升至2.5万到3万好意思元(约合18.1万到21.8万元东说念主民币)。即使按照最低售价2.5万好意思元来打算,马斯克这10万块H100的成本也高达约25亿好意思元(约合181亿元东说念主民币)。
据英伟达最新财报,端原本年4月28日的2025财年第一财季,终了营收260亿好意思元(约合1880亿元东说念主民币),较第四季度增长18%,较客岁同期增长262%。
图片来源:英伟达官网
客岁7月,马斯克创立了东说念主工智能公司xAI,专注于东说念主工智能业务,旨在行使AI探索世界的内容。xAI的投资者包括安德森·霍洛维茨(Andreessen Horowitz)、红杉成本和富达措置与连系公司。
客岁11月,xAI推出首款AI大模子聊天机器东说念主Grok,径直对标ChatGPT。据先容,Grok通过X平台及时了解世界,以致是其他AI用具尽可能侧目标机敏问题。xAI团队强调,短线炒股Grok是一款有点机灵、又有点抵御的聊天机器东说念主,“漠视那些敌视幽默的东说念主千万不要使用”。
图片来源:X
xAI团队暗意,Grok的定位是向科幻演义《星河便车指南》(The Hitchhiker's Guide to the Galaxy)看皆。书中有一部名为“深念念”(Deep Thought)的超等打算机,它会回复世上通盘的问题,其主要任务是找出“人命、世界及万事万物的终极谜底”。这正与xAI的建筑方案:“了解世界的真原内容”,险些十足一致。
自本年3月以来,xAI又持续发布了具有处理128k荆棘文智商的Grok-1.5以及具有图像相识智商的Grok-1.5V,并允许X(原Twitter)上的高等用户拜谒聊天机器东说念主。
Grok-1.5不错处理128k token的荆棘文窗口,容量增多到之前荆棘文长度的16倍,并在处理编程和数学干系任务方面发达出色。该模子不错处理更长、更复杂的教导词,同期在荆棘文窗口推广时仍然能保抓其指示追踪智商。
Grok-1.5V则是马斯克的第一代多模态模子,于2024年4月发布。除了文本功能,Grok-1.5V还简略处理文档、图标、屏幕截图和像片之类的各式视觉信息,不仅不错将手画图表调度成Python代码,还能看一眼食物标签就打算出卡路里,以致还不错看懂梗图。
本年5月,马斯克暗意,xAI是一家新公司,因此Grok仍有多数准备职责要作念,本事与谷歌Deepmind和OpenAI相抗衡。
据外媒报说念,此前,马斯克就向其投资者败露,他创办的AI公司xAI策动建造一个“超等算力工场”(Gigafactory of Compute),为下一代AI聊天机器东说念主Grok提供算力支柱。这个超等打算机策动联贯10万块英伟达H100 GPU。
马斯克其时暗意,他但愿在2025年秋季之前让超等打算机启动起来,并补充说xAI不错与甲骨文谐和开采这台大型打算机。xAI是甲骨文最大的H100芯片作事器的租出客户,仍是使用了率先1.5万块H100芯片。
xAI官方博客暗意:“关于构建简略相识世界的AGI(通用东说念主工智能)来说,提高咱们的多模态相识和生成智商是贫寒风光。将来几个月,咱们瞻望在图像、音频和视频等多模态中对这两种功能进行要紧阅兵。”