Mistral 開源 1.05 兆參數旗艦,但桌面上跑不動
Mistral 於 10 月 29 日在 Hugging Face 公開旗艦模型 Mistral Large 4(代號 Le Chonk)的完整權重,FP8 與 NVFP4 兩個版本都不設申請門檻,匿名客戶端也能拉取檔案。模型是原生多模態 MoE,總參數約 1.05 兆,每個 token 激活約 49–52B,上下文 1M,支援低/中/高三檔推理模式。
它主打的是 token 效率而非絕對分數:在 Artificial Analysis 的 Coding Agent Index 取得 48%,官方稱與 GLM-5.3 基本持平,但每個任務平均少用 47% token;Terminal-Bench 4.0 由預覽版的 28% 升至 41%,輸出 token 同時少了約三成。不過同一個 Artificial Analysis 的 Intelligence Index v5 只給它 26 分,在開源權重中排第五,落後 DeepSeek V4.1 Flash 與 GLM-5.3。
體積才是最硬的門檻:官方 FP8 權重約 1,061GB、NVFP4 約 610GB,社群 ggml 量化由 Q8_0 的 1,115GB 到 IQ2_XXS 的 298GB。授權也換了 —— 由 Large 3 的 Apache 2.0 改為「Mistral Ecosystem Open-Weight License」,名義上是改良 MIT,但任何把它當付費推理服務轉售的業務,需另談商業授權。
- 總參數
- 1.05T
- 每 token 激活
- 約 52B
- 最低量化體積
- 298 GB
- 授權
- 改良 MIT,託管轉售需另授權
對本地部署的意義:298GB 是壓到 IQ2_XXS 之後的數字,兩台 128GB 合併 256GB 仍然放不下。這不是桌面級方案,短期內也不該被描述成桌面級方案。真正值得留意的是授權趨勢 —— 「開源權重」正在和「開源」分家,分界線正好劃在推理服務商身上,GLM-5.3 與 MiniMax M3.1 Flash 走的是同一條路。