杭州开发者看过来:DeepSeek R1 API性能测试结果出炉
2025-02-20 15:12:14 来源: 实况网
随着DeepSeek的爆火,官方服务器的算力资源、存储资源和网络带宽等很快被占满,处理能力达到极限,无法及时响应所有请求,导致频繁报错。
基于这一背景,大量厂商陆续上线 DeepSeek-R1 服务,为用户提供更多选择。但不同的厂商在提供DeepSeek R1 API服务时,其表现也不尽相同,给开发者和企业用户的选择带来困扰。
近期,可观测与应用安全厂商基调听云对多家提供 DeepSeek-R1 API 服务的厂商,在北京、上海、成都、苏州、深圳、广州、杭州等地开展了深度全面评测,并发布了《大模型服务性能评测 DeepSeek-R1 API版》第一期,为服务商的决策提供了依据。
本次测试,基调听云采用了专门的拨测平台,测试采集指标则包括平均速度(tokens/s)、首 Token 时间(s)、推理速度(tokens/s)、生成速度(tokens/s)等通过API返回的数据计算出来的指标,以及DNS 时间(s)、建连时间(s)、握手时间(s)、发出请求时间(s)、首包时间(s)、剩余包时间(s)、性能(s) 和可用性(%)等通过听云拨测客户端计算的指标。
在杭州本地的测试中,火山引擎表现突出,不仅可用性达到了100%,且生成速度达到了71.836 tokens/s,相比之下,DeepSeek官方在生成速度方面排名第二,却仅有38.336 tokens/s,可用性则更是只达到了41.43%。
DeepSeek R1评测结果(图片来自基调听云公众号)
参与本次测试的其他三家厂商硅基流动、腾讯云、阿里云百炼,尽管都达到了较高的可用性(分别为98.57%、72.86%、84.29%),但生成速度都未达到很理想的状态,分别只有18.389 tokens/s、12.838 tokens/s以及12.821 tokens/s。
基调听云官方表示,此次测评提供的数据,可以帮助开发者和企业用户更科学地甄别适配自身需求的技术方案,有效提升调用效率,全方位增强整体服务质量。(作者:吕彩)
[责任编辑:]
猜你喜欢
- (2023-09-09)南工大2022录取分数二本线?
- (2023-09-09)夫妻“清仓式”减持后承诺尽快回购超额部分,我乐家居投资者喊话:别让股价跌了
- (2023-09-09)联合国教科文组织颁发2023年度国际扫盲奖
- (2023-09-09)橡胶手套暗藏黄金溶液
- (2023-09-09)华为Mate60 Pro+售罄 麒麟芯片太火爆了
- (2023-09-09)英国诺丁汉郡警方准备全面调查1700起婴儿死亡事件
- (2023-09-09)陈奕迅首与AGA江海迦合唱,MV晒演技扮上班族多内心戏