最真实大模型编程评估!字节开源FullStack Bench,首次全覆盖超11类现实编程场景

碧海醫心
发布: 2024-12-05 19:09:10
原创
594人浏览过

字节跳动开源全新代码大模型评估基准fullstack bench,全面升级ai编程能力评测标准!该基准涵盖11大类真实应用场景、16种编程语言和3374个问题,远超现有基准,更精准地评估大模型的实际代码开发能力。

现有代码评估基准如HumanEval、MBPP、DS-1000和xCodeEval等,在应用场景和编程语言覆盖方面存在局限性,难以全面反映真实开发环境的复杂性。 FullStack Bench则突破了这一瓶颈。

最真实大模型编程评估!字节开源FullStack Bench,首次全覆盖超11类现实编程场景

FullStack Bench数据覆盖范围显著领先现有基准

FullStack Bench 基准数据集由字节跳动豆包大模型团队与M-A-P开源社区合作打造。研究团队分析了Stack Overflow上的50万个问题,从中筛选出涵盖真实全栈开发的11个主要应用领域,并对每个领域的样本进行了调整,确保基准的稳健性。

立即进入豆包AI人工智官网入口”;

立即学习豆包AI人工智能在线问答入口”;

最真实大模型编程评估!字节开源FullStack Bench,首次全覆盖超11类现实编程场景

FullStack Bench数据集构成

该基准包含3374个问题,每个问题都配有详细描述、参考解决方案和单元测试用例(共15168个)。所有问题均由专家设计,并经过严格的AI和人工审核,确保数据质量。

为方便开发者测试,团队还同步开源了高效的代码沙盒执行工具SandboxFusion,支持FullStack Bench及其他10多个数据集,兼容23种编程语言。开发者可轻松部署和使用SandboxFusion,进行大模型代码能力的系统性评估。

最真实大模型编程评估!字节开源FullStack Bench,首次全覆盖超11类现实编程场景

此外,字节跳动还首次公开其自研代码大模型Doubao-Coder的评测结果,并将其与其他20余款代码大模型进行了对比分析(详见论文)。 值得一提的是,字节跳动自研的AI编程助手豆包MarsCode,每月已为用户提供百万量级代码支持。

以上就是最真实大模型编程评估!字节开源FullStack Bench,首次全覆盖超11类现实编程场景的详细内容,更多请关注php中文网其它相关文章!

豆包AI编程
豆包AI编程

智能代码生成与优化,高效提升开发速度与质量!

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号