虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

英伟达发布DeepSeek R1推理模型,搭载NIM微服务引领AI新潮流

2025-01-31来源:ITBEAR编辑:瑞雪

英伟达近日宣布,其最新推出的DeepSeek-R1模型,在AI推理领域树立了新的标杆。这款开放模型以其卓越的推理能力,为用户提供了前所未有的智能体验。

与传统的AI模型不同,DeepSeek-R1并不直接给出答案,而是通过一系列复杂的推理过程,包括思路链、共识和搜索方法,来生成最佳答案。这一过程被称为测试时间扩展,而DeepSeek-R1正是这一扩展定律的杰出代表。它充分展示了加速计算在AI推理中的关键作用。

由于能够反复思考问题,DeepSeek-R1模型在推理过程中会产生更多的输出标记,并延长生成周期。这种特性使得模型的质量不断提高,为用户提供了更高质量的响应。然而,要实现实时推理和更高质量的响应,需要大量的测试时计算,这也对推理部署的规模提出了更高的要求。

DeepSeek-R1在逻辑推理、数学、编码和语言理解等任务中表现出色,其准确性遥遥领先。同时,它还具备高推理效率,能够在短时间内完成复杂的推理任务。

为了让开发人员能够安全地试验这些功能,并构建自己的专用代理,英伟达将6710亿参数的DeepSeek-R1模型作为NVIDIA NIM微服务预览版在build.nvidia.com上提供。这一举措将极大地促进AI推理技术的发展和应用。

据悉,DeepSeek-R1 NIM微服务在单个NVIDIA HGX H200系统上每秒可处理多达3,872个令牌,性能强劲。开发人员可以通过应用程序编程接口(API)进行测试和试验,这一接口预计很快将作为可下载的NIM微服务提供,成为NVIDIA AI Enterprise软件平台的一部分。

DeepSeek-R1 NIM微服务还支持行业标准API,简化了部署过程。企业可以在其首选的加速计算基础设施上运行NIM微服务,以最大限度地提高安全性和数据隐私。通过使用NVIDIA AI Foundry和NVIDIA NeMo软件,企业还可以为专门的AI代理创建定制的DeepSeek-R1 NIM微服务。

这一创新不仅推动了AI推理技术的发展,也为开发人员和企业提供了更加便捷、高效的AI解决方案。随着DeepSeek-R1的广泛应用,我们有理由相信,未来的AI世界将更加智能、更加美好。

华为Mate 80系列发布:智感握姿功能让通话按键随握姿智能调整
IT之家 11 月 25 日消息,在今天下午的发布会上,华为 Mate 80 系列手机正式发布,新机首发鸿蒙 HarmonyOS 6.0系统、麒麟 9030 / 麒麟 9030 Pro 处理器(标准版搭载麒…

2025-11-26

iOS 27前瞻:聚焦软件优化与性能提升,AI健康及搜索功能再升级
IT之家 11 月 26 日消息,科技媒体 9to5Mac 昨日(11 月 25 日)发布博文,汇总和梳理了现有相关信息,认为在 iOS 27 系统上,苹果公司的开发重心并非大规模引入新功能,而是提升软件质量…

2025-11-26

革新二合一平板新标杆!HUAWEI MatePad Edge鸿蒙平板深度评测
与半年前相比,现在的HarmonyOS 5不仅可以实现PC级办公,还完全复刻了 Windows PC上的中望CAD和剪映专业版,也就是说HUAWEI MatePad Edge拿来CAD制图或者视频剪辑是完…

2025-11-26

华为Mate80 Pro Max强势登场,麒麟芯+大电池,iPhone17 Pro Max遇劲敌
华为Mate80系列这次比较有意思的是新增了ProMax版本。护眼层面,它支持1440Hz高频PWM调光技术,可以降低用户长时间使用手机时的眼睛疲劳。在麒麟9030Pro处理器的加持下,华为Mate80 …

2025-11-26

华为Mate 80标准版来袭:麒麟9020配鸿蒙6,4699元起性价比凸显
其实随着技术成熟,供应链的成本也会降下来,今年的pura 80系列、mate80系列对比上代都降价了,当然你要是还觉得有点贵,等等后面肯定还会降价,但估计要过完年后,到时候mate 80系列和pura 8…

2025-11-26