Dynamo的核心优势在于其对大规模AI推理的优化能力。通过智能分配GPU资源,Dynamo能够显著提升模型的推理效率。例如,在Llama模型上,Dynamo使推理性能翻倍;在Blackwell系统中,性能提升更是达到了惊人的30倍。这一技术突破意味 ...
在Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper可实现 25 倍的性能提升 。
十轮网科技资讯 on MSN10 天
Nvidia开源全新推论软件Dynamo
Nvidia周二(3/17)开源了全新的推论软件Dynamo,它可大幅提高推论性能,令Llama模型的推论性能及营收提高一倍,也能在执行DeepSeek-R1模型时,让每个GPU产生的Token数量增加超过30倍。