通义千问开源Qwen2-Math，成为最先进的数学专项模型

8月9日消息，阿里通义团队开源新一代数学模型qwen2-math，包含1.5b、7b、72b三个参数的基础模型和指令微调模型。qwen2-math基于通义千问开源大语言模型qwen2研发，旗舰模型 qwen2-math-72b-instruct在权威测评集math上的得分超越gpt-4o、claude-3.5-sonnet、gemini-1.5-pro、llama-3.1-405b等，以84%的准确率处理了代数、几何、计数与概率、数论等多种数学问题，成为最先进的数学专项模型。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

Qwen2-Math基础模型使用Qwen2大语言模型进行初始化，并在精心设计的数学专用语料库上进行预训练，训练数据包含大规模高质量的数学网络文本、书籍、代码、考试题目，以及由Qwen2模型合成的数学预训练数据。所有预训练和微调数据集都进行了去污染处理。

随后，研发团队训练了指令微调版本模型：首先，基于Qwen2-Math-72B训练一个数学专用的奖励模型；接着，将密集的奖励信号与指示模型是否正确回答问题的二元信号结合，用作学习标签，再通过拒绝采样构建监督微调（SFT）数据；最后在SFT模型基础上使用GRPO方法优化模型。

据悉，Qwen2-Math系列模型目前主要支持英文，通义团队很快就将推出中英双语版本，多语言版本也在开发中。

通义团队在多个中英文数学基准测评集对指令微调模型作了性能评估，除了GSM8K和MATH等常见的测评基准，还引入了更具挑战性的考试竞赛类测试，如奥林匹克级别的基准测评OlympiadBench、大学数学级别的基准测评CollegeMath、高考（GaoKao）、美国数学邀请赛（AIME）2024赛题、美国数学竞赛（AMC）2023赛题，中文测评则有CMATH测评集、2024年中国高考和中考数学题。最终，Qwen2-Math-72B-Instruct表现优异，在十大测评中都获得了远超其他开源数学模型的成绩。

通义万相

通义万相，一个不断进化的AI艺术创作大模型

596

查看详情

“大模型能不能做数学题”，不仅是社交平台的热门话题，也是业界非常关注的研究课题。处理高级数学问题，需要模型具备复杂多步逻辑推理能力。通义团队在技术博客中表示，希望通过开源“为科学界解决高级数学问题做出贡献”，未来将持续增强模型数学能力。

附：Qwen2-Math解题示例

以上就是通义千问开源Qwen2-Math，成为最先进的数学专项模型的详细内容，更多请关注php中文网其它相关文章！