Mistral 发布 24B 开源模型 Mistral Small 3,Apache 2.0 协议下性能对标 Llama 3.3 70B
Mistral 发布 24B 参数的 Mistral Small 3,以 Apache 2.0 协议开放预训练和指令微调两种权重。官方称其在 MMLU 上超 81% 准确率、延迟 150 tokens/s,与 Llama 3.3 70B instruct 相当且同硬件快 3 倍以上,量化后可在单张 RTX 4090 或 32GB 内存的 Mac 上本地运行。
推荐理由:官方完整说明了模型规格、性能数字和开放部署渠道,读者可据此评估本地部署与开源基座的可行性。