马斯克披露 Grok 4 参数量为3T

2025年11月，马斯克接受采访时表示，Grok 3和Grok 4参数量为3T（3万亿）。

马斯克表示，下一代的Grok 5将有6T总参数，相比于Grok 4每GB容量将会有更高的智能密度。马斯克称，这将是他所知道最大的模型。Grok 5将使用原生多模态，包括图片、视频、语音纳入训练数据，将有更强的工具调用能力。

xAI的Grok模型采用了隔代开源策略。例如Grok 3和Grok 4完全发布后，就将Grok 2开源。

Grok 1模型开源版本，显示其参数量为314B；Grok 2开源后显示其总参数为270B。马斯克披露的Grok 3和Grok 4拥有3T总参数，意味着字面意义上比前面两代模型放大了10倍。

AI前哨的模型知识截止日期数据库显示，Grok 3和Grok 4有着相同的知识截止时间，均为2024年11月。这表明Grok 3和Grok 4很有可能基于同一个预训练模型基底，而Grok 4进行了更多的后训练RL。