马斯克 xAI 训练 Grok3 大模型用了 10 万块英伟达 H100 芯片

马斯克已宣布其人工智能初创公司xAI即将推出的大型语言模型Grok-2，将在即将到来的8月为我们带来更加先进的AI体验。尽管Grok-2尚未露面，但马斯克已经开始为新一代的Grok-3大张旗鼓。

他明确表示，训练AI聊天机器人需要大量的数据集，而清除现有数据以用于大型语言模型（LMM）的工作极为繁重。他还深入探讨了OpenAI模型在训练输出方面所面临的挑战。

值得一提的是，xAI的Grok-3模型采用了英伟达的H100芯片进行训练，数量高达10万块。这种芯片是英伟达专门为了处理大型语言模型（LLMs）数据而开发的AI芯片。据估计，每块英伟达H100芯片的价格大约在3-4万美元（约合人民币21.9万元至29.2万元）。若以批量购买计算，这10万块芯片的总价值将达到惊人的30-40亿美元（约合人民币218.68亿元至291.57亿元）。

值得注意的是，马斯克曾透露特斯拉今年从英伟达采购的芯片金额估计也在30-40亿美元之间。我们有理由推测，xAI使用的正是特斯拉从英伟达采购的这些芯片进行模型训练。这一巨大的投入无疑预示着Grok-3模型将拥有令人瞩目的性能和突破性的技术革新。让我们拭目以待，期待这一人工智能里程碑的来临。