您的位置:首页精文荟萃软件行情 → 英伟达:DeepSeek R1 现可在 NVIDIA NIM 平台上使用

英伟达:DeepSeek R1 现可在 NVIDIA NIM 平台上使用

时间:2025/1/31 13:49:35来源:www.pc6.com作者:路西蓝我要评论(0)

1月31日消息:英伟达网站发布的博客文章,DeepSeek R1 671b 已作为英伟达的 NIM 微服务预览版本在 build.nvidia.com 上发布。

1737959259-7169.png

据博客文章介绍,DeepSeek-R1 是一款拥有最先进推理能力的开放模型。与传统模型直接给出答案不同,像 DeepSeek-R1 这样的推理模型会对查询进行多轮推理处理,通过链式思考、共识方法和搜索策略生成最佳答案。

这一系列推理过程——即利用推理得出最佳答案——被称为「推理时扩展」(test-time scaling)。DeepSeek-R1 是这一扩展法则的完美示例,展示了为何加速计算对于代理 AI 推理的需求至关重要。

当模型允许逐步「思考」问题时,它们会生成更多的输出 token 和更长的生成周期,因此模型质量持续提升。显著的推理时计算对实现实时推理和高质量响应至关重要,推理模型如 DeepSeek-R1 需要更大的推理部署来支持这一过程。

R1 在需要逻辑推理、思维推导、数学计算、编程和语言理解等任务中,提供了领先的准确性,同时具备高效的推理能力。

为了帮助开发者安全地测试这些功能并构建专用智能体,拥有 6710 亿参数的 DeepSeek-R1 模型现已作为 NVIDIA NIM 微服务预览版在 build.nvidia.com 上发布。DeepSeek-R1 NIM 微服务能够在单个 NVIDIA HGX H200 系统上每秒处理最多 3,872 个 token。

开发者可以测试并实验即将推出的应用程序接口(API),该接口预计将很快作为可下载的 NIM 微服务发布,成为 NVIDIA AI 企业软件平台的一部分。

DeepSeek-R1 NIM 微服务简化了部署,支持行业标准的 API。企业可通过在其首选加速计算基础设施上运行 NIM 微服务,最大程度保障安全性和数据隐私。使用 NVIDIA AI Foundry 和 NVIDIA NeMo 软件,企业还可以为特定的 AI 智能体创建定制化的 DeepSeek-R1 NIM 微服务。


相关视频

    没有数据

相关阅读 丧心病狂!针对DeepSeek网络攻击暴增上百倍:职业打手开始下场攻被指控盗窃知识产权后:DeepSeek遭华人背刺 在美商标被校友抢注DeepSeek绕开CUDA垄断,V3论文细节再挖出!英伟达护城河不存在了硅谷掀桌!DeepSeek遭OpenAI和Anthropic围剿,美国网友都看不下去微软CEO称DeepSeek:有一些真的创新DeepSeek回应崩了:与大规模恶意攻击及服务维护有关特斯拉:Model Y成2024年全球最畅销车型 焕新Model Y更强Google 推出新功能,Gemini 将编写 Python 代码以帮助 Sheets 用

文章评论
发表评论

热门文章 OpenAI 即将发布更智能身体皮肤变身“充电宝Friend推迟首批 AI 项真我GT7 Pro参数公布:

最新文章 英伟达:DeepSeek R1 Google 的「Ask for M 全球最赚钱AI产品公布:百度文库位列第二 是曝iOS 18.4 4月上线:万众期待的中文版ApplDeepSeek创始人梁文锋:中国AI不可能永远跟OpenAI 即将发布更智能的 GPT-3 模型及首批

人气排行 用乐鱼影音盒找到高清影视大片大作缤纷!一周软件销售排行榜暴风影音称2010年上市三大件争奇斗艳 CPU内存硬盘价格同时飘红VeryCD流量下跌50%,卖网游救命腾讯Q币10月15日涨价 由8.9折上调至9.3折迷你快车皮肤黑暗三部曲之-耀斑!金山毒霸和可牛合并金山毒霸宣布永久免费