法国人工智能公司 mistral ai 发布了其 magistral 系列的最新开源推理模型——magistral small 1.2。这款新模型具备 240 亿参数,基于 apache 2.0 许可协议开放使用,支持长达 128k 的上下文长度,涵盖多语言处理能力,并首次集成视觉输入功能。
与前一版本 1.1 相比,此次更新引入了视觉编码器模块,并新增了独特的 [THINK]...[/THINK] 特殊标记机制,用于明确标识模型内部的推理路径。该设计使得用户能够更清晰地追踪和理解模型决策过程。系统提示中已预置推理模板,兼容主流推理框架如 vLLM、Transformers 和 llama.cpp,开箱即用。此外,官方还发布了 GGUF 量化版本以及基于 Unsloth 的微调示例,便于开发者在不同环境中高效部署与优化。
与此同时,企业级版本 Magistral Medium 1.2 也完成同步升级,继续通过 Le Chat 提供流畅的对话体验,其 API 接口现已正式登陆 La Plateforme 平台,供商业用户调用。
以上就是法国 AI 公司 Mistral 开源推理模型 Magistral Small 1.2的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号