微软推出Phi3 Mini型号小到足以在手机上运行

虽然大型语言模型 (LLM) 带来了理解和执行复杂任务的能力，但较小的模型也同样重要，因为它们可以在智能手机和 PC上本地使用。微软似乎正在开发令人印象深刻的小语言模型。最新的 Phi-3 Mini 模型已经推出，并在 3.8B 参数上进行训练。

Phi-3 系列还有另外两个型号：Phi-3 Small (7B) 和Phi-3 Medium (14B)，但尚未发布。至于最小的Phi-3 Mini模型，它在MMLU基准测试中的表现优于Meta的Llama 3 8B模型、Google的Gemma 7B模型和Mistral 7B模型。事实上，尽管它的尺寸很小，但它的性能与 Mixtral 8x7b 相当，非常出色。

在 HumanEval 中，最小的 Phi-3 Mini 模型的性能远优于 Gemma 7B和 Mistral 7B。微软似乎投入了大量精力来创建一个强大的小型模型，可以在本地智能手机和个人电脑上运行。最棒的是，即将推出的 Phi-3 Small 和 Phi-3 Medium 模型击败了 OpenAI 的 GPT-3.5 模型、Mixtral 8x7b 和 Llama 3 8B。如果你问我的话，那真是令人印象深刻。