![]() |
英伟达:尽管建,用的还是我的芯片……
——题记
最近几年,随着大语言模型的飞速发展与迭代,科技巨头们都竞相投入巨额财力打造超级计算机(或大规模 GPU 集群)。他们认为,更强大的计算能力是实现更强大 AI 的关键。
早在 2022 年,Meta 即宣布与英伟达共同打造大型 AI 研究超级计算机“AI Research SuperCluster”(RSC),它由 760 个英伟达 DGX A100 系统组成,共有 6080 块 GPU,性能非常强大。
据外媒 The Information 报道,最近马斯克向投资者透露,xAI 计划建造超级算力工厂“Gigafactory of Compute”,为 AI 聊天机器人 Grok 的下一个版本提供算力支持。
据悉,xAI 计划将 10 万块 H100 专用 GPU 串联一台超级计算机,其规模至少是当前最大 AI 集群的四倍。如果 xAI 的计划能够顺利完成,这台超级计算机将耗费数十亿美元和大量电力。
不过,马斯克似乎很有信心,他的目标是在 2025 年秋季之前让这台超级计算机“跑”起来,并亲自负责按时交付。
当然,xAI 不想单打独斗, 其有望与甲骨文公司(Oracle)合作建造超级计算机。我们知道,xAI 是 Oracle 最大的 H100 服务器芯片租赁客户,已经使用了后者超过 1.5 万块 H100 芯片。
届时,xAI 超级算力工厂建成之后,10 万块 GPU 芯片集群将加速 Grok 聊天机器人的开发,减少语音限制。目前,Grok 的最新版本为 Grok 1.5,该版本实现了长上下文理解和高级推理能力,可以处理 128K token 的长上下文窗口。
而据马斯克此前透露,xAI 正在训练的 Grok 2 已经耗费了约 2 万块 H100 GPU,未来进阶版本 Grok 3 可能需要高达 10 万块 H100 GPU。看来,马斯克已经在为 Grok 3 未雨绸缪了。
最后,对于超级算力工厂而言,最关键的找到一个电力充沛(可能需要 100MW)的位置。因此,AI 数据中心位置的选择非常重要。
至于建成的意义是什么?这个规模庞大的超级算力工厂将帮助 xAI 追赶 OpenAI、微软等资金更为雄厚的竞争对手。
此前同样据 The Information 报道,微软和 OpenAI 拟投入超 1000 亿美元打造一个数据中心项目,其中包括一台“星际之门”(Stargate)的 AI 超级计算机,配备了数百万个专用服务器芯片,旨在为 OpenAI 实现 AGI 提供动力。
其实,这也不是马斯克第一次投入超算项目。此前,特斯拉就被曝出到 2024 年底,投入远超 10 亿美元打造一台“Dojo 项目”的内部超级计算机,用于处理数据和视频,提高自动驾驶能力并最终实现完全自动驾驶。
此次, 马斯克又在大语言模型领域斥巨资建造超级计算机。有人表示,如果消息属实的话,这将成为游戏改变者。当然,英伟达是最大的赢家。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦![]() |
24小时新闻排行榜 | 更多>> |
1 | 对俄态度转弯!川普发文大变脸 |
2 | 两会上强撑病体?习脸色奇差 统一脚本给他 |
3 | 中国著名专家、知名医院院长在美病逝 引热 |
4 | 突如其来一刀,北京遭莫斯科暗算 |
5 | 中国基层公务员薪资曝光 台湾网友吓坏 |
48小时新闻排行榜 | 更多>> |
1 | 女面试官问:什么东西硬着进去 软着出来 |
2 | 这次跑得很彻底!李嘉诚又看到了什么 |
3 | 对俄态度转弯!川普发文大变脸 |
4 | 新闻周刊:川普这次大错特错了 |
5 | 李强宣布“喜讯” 让习难堪 |
6 | 白色石油问世 可满足全球数千年需求 |
7 | 两会上强撑病体?习脸色奇差 统一脚本给他 |
8 | 中国著名专家、知名医院院长在美病逝 引热 |
9 | 突如其来一刀,北京遭莫斯科暗算 |
10 | 俄媒称“白帝”空天机是假货!中媒反应令人 |
一周博客排行 | 更多>> |
1 | 赵晓:史无前例!白左+红左携 | 万维网友来 |
2 | 小泽被正义带歪了 | 施化 |
3 | 赵晓:茨威格的自杀与对川普的 | 万维网友来 |
4 | 川普超前布局 与俄联手应对未 | 胡亥 |
5 | 美国还需要盟友吗? | 阿妞不牛 |
6 | 高瞻:默茨的讲话和“欧洲政治 | 万维网友来 |
7 | 白宫闹剧撕脸大战剧透的剧梗 | 阿妞不牛 |
8 | 白宫川泽会是个局 | 马黑 |
9 | 高瞻:欧洲编织了个谎言,却愚 | 万维网友来 |
10 | 上海医院的天塌了/中国只有八 | 体育老师 |
一周博文回复排行榜 | 更多>> |
1 | 人民支持川总的每项政策.美国 | 木秀于林 |
2 | 白宫闹剧撕脸大战剧透的剧梗 | 阿妞不牛 |
3 | 一醉解千愁,一架解乱麻 | 倩影 |
4 | 美国还需要盟友吗? | 阿妞不牛 |
5 | 不知为何打起来,俄乌战争如何 | 不合群 |
6 | 答gugeren 兄的数学题 | Laober |
7 | 白宫川泽会是个局 | 马黑 |
8 | 川普 泽连斯基 -- 马戏团? | 远方的孤独 |
9 | 小泽被正义带歪了 | 施化 |
10 | 川普店大欺人没诚意 泽连斯基 | 体育老师 |