GTC大会:Nvidia推Dynamo软件提升DeepSeek处理速度30倍

AI快讯1个月前发布 niko
5 0
AiPPT - 一键生成ppt

3月18日的GTC大会上,Nvidia首席执行官黄仁勋公布重要计划,新软件Dynamo登场,旨在把DeepSeek的人工智能处理速度提升30倍。这一举措,是Nvidia针对DeepSeek公司R1人工智能程序引发的市场波动所做出的回应。DeepSeek技术可大幅降低每个查询所需计算量,致使投资者对Nvidia未来前景心存担忧。

Dynamo软件实力非凡,它能将AI推理任务分配到多达1000个GPU上并行处理,显著提升查询吞吐量。黄仁勋称,借助新的Blackwell芯片,Dynamo在相同架构下可提供30倍处理能力。这种能力提升,让AI数据中心每秒能处理更多tokens,进而增加整体收入。

Dynamo软件以每百万个tokens$1的价格提升每秒处理量。这使服务提供商能选择同时处理更多客户查询,或为单一用户提供更强大服务并收取更高费用,Nvidia将这种高性能AI服务称作“AI工厂”。

为进一步增强DeepSeek性能,Nvidia在HuggingFace上发布调整后的DeepSeek R1版本。此版本采用更少计算位数“FP4”,在不明显降低模型准确性的情况下大幅提升性能。

除Dynamo外,Nvidia推出最新版Blackwell芯片 “Ultra”,提升内存容量与整体性能。同时,正式发布供ai开发者使用的小型个人计算机DGXSpark,并更新DGX Station桌面计算机配置。

此次大会上,Nvidia还展示众多新产品与合作项目,如改进的网络交换机、适用于医疗机器人的软件模型等,彰显其在AI和计算领域的持续创新能力。

© 版权声明
Trea - 国内首个原生AI IDE