微软推出Phi-3.5系列开源AI模型

微软发布了Phi-3.5系列的三款新开源AI模型：Phi-3.5-mini-instruct、Phi-3.5-MoE-instruct和Phi-3.5-vision-instruct。这些模型采用宽松的MIT许可证，为开发者提供了多种任务的工具，包括推理、多语言处理以及图像和视频分析。

Phi-3.5-mini-instruct模型

Phi-3.5-mini-instruct模型拥有38.2亿参数，专为基本且快速的推理任务优化。它适用于内存和计算资源受限的环境，能够胜任代码生成、数学问题解决和逻辑推理等任务。尽管体积较小，该模型在长上下文代码理解基准测试（如RepoQA）中表现优于Meta的Llama-3.1-8B-instruct和Mistral-7B-instruct等更大模型。

Phi-3.5-MoE-instruct模型

Phi-3.5-MoE-instruct模型拥有419亿参数，采用混合专家（MoE）架构。该架构允许模型根据输入激活不同的参数，从而处理更复杂的推理任务。在多项基准测试中，该模型表现优于Google的Gemini 1.5 Flash等更大模型，展示了其强大的推理能力，特别适用于需要深度上下文理解和决策的应用。

Phi-3.5-vision-instruct模型

Phi-3.5-vision-instruct模型拥有41.5亿参数，集成了文本和图像处理能力。这种多模态方法使其能够处理图像理解、光学字符识别和视频摘要等任务。得益于支持128K token的上下文长度，该模型特别擅长处理复杂的多帧视觉任务。该模型在TextVQA和ScienceQA等任务中表现出色，提供高质量的视觉分析。

训练背景

Phi-3.5系列模型具有强大的训练背景：

• Phi-3.5-mini-instruct模型使用512个H100-80G GPU在10天内训练了3.4万亿token。
• Phi-3.5-MoE-instruct模型使用相同数量的GPU在23天内训练了4.9万亿token。
• Phi-3.5-vision-instruct模型使用256个A100-80G GPU在6天内训练了5000亿token。

这些广泛的训练过程使Phi-3.5模型在多项基准测试中表现优异，甚至在某些场景中超过了OpenAI的GPT-4o等领先AI模型。

社区反应

AI社区对Phi-3.5系列的技术能力表示赞赏，特别是在多语言和视觉任务方面。社交媒体上，用户对模型在基准测试中的表现表示关注，并对其潜在应用表示兴趣。例如，Turan Jafarzade博士在LinkedIn上评论称，Phi-3.5 SLM（小型语言模型）在企业应用中具有竞争力，特别是在效率和可扩展性方面。Danny Penrose则提到，将Phi-3.5转换为Llama架构而不损失性能，为模型优化开辟了令人兴奋的可能性。

开源许可

Phi-3.5模型采用MIT许可证发布，允许开发者自由使用、修改和分发软件，适用于商业和非商业用途。该许可证旨在促进AI功能在各种应用和项目中的集成，支持不同行业的广泛用例。