标签

模型参数量

把 Llama-2-7B、Mistral-7B、Llama-3-8B、Mixtral 8x7B、Qwen3-30B-A3B 五台机器的账摊在一张表上，手算 vs 官方标称，含那个差 0.8B 的坑。

绕了一圈，把视觉 Transformer 参数量收紧成一行：12·L·d²。附三个手推对账，以及它在哪儿会失灵。