清华大学联合中国软件评测中心正式发布《2025 大模型服务性能排行榜》，ppio 在 deepseek-r1-0528 的吞吐测试中斩获榜首。
该榜单聚焦延迟、吞吐、可靠性等核心指标，由专业团队开展长周期、高频次、多时段的数据采集与分析，全面展现各 MaaS（Model as a Service）平台的实际服务能力。测评过程中，平台采用匿名用户身份对各类 MaaS 服务进行端到端性能评估，在评测主体和流程设计上确保了高度的客观性与公正性。
本次评测涵盖了多个主流大模型，包括 DeepSeek-R1-0528、DeepSeek-V3.1、Kimi-K2-Instruct 等代表性模型。在参与测试的20余家 MaaS 服务商中，PPIO 整体表现亮眼。
尤其在 DeepSeek-R1-0528 模型的吞吐能力测试中，PPIO 以 45.17 tokens/s 的优异成绩荣登第一。此外，在 DeepSeek V3.1 和 Kimi-K2-Instruct 等模型的测评中，PPIO 同样表现出色，其吞吐与延迟指标均跻身前五。
吞吐量（Throughput） 与 响应延迟（Latency） 是衡量大模型服务性能的关键维度。吞吐量反映单位时间内系统可处理的 Token 数量，高吞吐意味着更强的并发支持能力，适用于大规模应用场景；而延迟则指从用户输入到接收到首个输出的时间间隔，低延迟带来更迅捷的响应体验，直接影响交互流畅度。
PPIO 在这两项关键指标上均展现出卓越性能，既能保障实时交互的顺畅体验，也能在高并发、重负载场景下维持稳定高效的服务输出。
以上就是2025 大模型服务性能排行榜：PPIO 吞吐测试排名第一的详细内容，更多请关注php中文网其它相关文章！
广告
收藏
收藏
收藏
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
192
