“真香”警告!仅需2070元,英伟达助你玩转生成式AI
2024-12-18
15:32:50
来源: 杜芹
点击
NVIDIA近日推出了一款全新手掌大小的生成式AI超级计算机——Jetson Orin Nano Super开发者套件。该开发者套件包含一个Jetson Orin Nano 8GB 系统级模组(SoM)和一个参考载板,为边缘 AI 应用的原型开发工作提供了理想的平台。
这款产品不仅在性能和性价比上实现突破,同时通过软件升级即可提升性能,为商业AI开发者、科技爱好者和学生等不同用户群体带来更强大的生成式AI功能。目前,这款开发者套件的建议零售价为2070元人民币,即日起正式上市。
小巧尺寸释放强大算力
Jetson Orin Nano Super开发者套件延续了NVIDIA一贯的小型化设计风格,却在性能上实现了显著提升:
1)与上一代产品相比,生成式AI推理性能提升1.7倍,INT8推理算力达到67 TOPS。
2)性能总体提升70%,达到 67 INT8 TOPS,带来更流畅的开发体验。
3)内存带宽提高50%,达到102GB/s,进一步支持复杂任务的运行。
无论是创建基于检索增强生成的 LLM 聊天机器人、构建视觉 AI 智能体、还是部署基于 AI 的机器人,Jetson Orin Nano Super 都是理想的解决方案。
Jetson Orin Nano Super的一大亮点是,通过软件升级,即可为现有用户带来性能提升。这一特性不仅适用于全新推出的产品,也支持已有Jetson Orin Nano开发者套件用户,只需升级JetPack SDK即可显著提高生成式AI性能。
此外,Jetson Orin NX和Orin Nano系列的所有模组同样支持这一“Super Mode”升级,提升性能多达1.7倍。这种灵活性为开发者提供了更长的产品生命周期和持续优化的算力支持。
系统级模组:为边缘AI应用提供全能平台
Jetson Orin Nano Super开发者套件配备了Jetson Orin Nano 8GB系统级模组(SoM),包括以下硬件特点:1)NVIDIA Ampere GPU 和 6核 ARM CPU,支持多个并发AI应用和高性能推理。2)支持最多4通道摄像头模块,能够实现更高分辨率和帧率的视频处理能力。3)参考载板设计为边缘AI应用的原型开发提供了一个完美平台,特别适合对性能和功耗有严格要求的场景。
这些特性使Jetson Orin Nano Super成为主流生成式AI模型和基于Transformer的计算机视觉任务的理想选择。
软件支持:NVIDIA为生成式AI铺路
Jetson Orin Nano Super的发布,不仅提供了领先的硬件性能,还配备了强大的软件生态和开发者支持。
首先,NVIDIA AI软件生态全面支持Isaac机器人平台、Metropolis视觉AI平台、Holoscan传感器处理平台,提供多场景的应用开发支持。其次,NVIDIA Omniverse Replicator能够实现合成数据生成(SDG),帮助开发者大幅缩短模型训练时间。再者,NGC目录支持通过NVIDIA TAO开发者套件对预训练AI模型进行精细调整,进一步提升项目开发效率。
NVIDIA Jetson AI 实验室还为来自开源社区的前沿模型提供即时支持,并为开发者提供易于使用的教程。开发者还可以从庞大的 Jetson 社区获得广泛支持,并从开发者创建的项目中获得灵感。
Jetson的生态系统还为开发者提供开源社区支持、丰富的教程和案例,并拥有强大的合作伙伴网络,涵盖摄像头、传感器、载板和产品设计服务,为用户带来全面的开发支持。
Jetson Orin Nano Super在性能提升上的表现,特别适合生成式AI应用、机器人技术、计算机视觉等应用场景。通过Jetson Orin Nano Super,NVIDIA进一步降低了生成式AI开发的门槛,为更多开发者提供了进入AI创新世界的机会。
结语
Jetson Orin Nano Super不仅是一款开发者套件,更是NVIDIA在生成式AI领域的一次重要技术布局。其手掌大小的设备背后,是NVIDIA持续推进AI创新和普及的雄心。通过硬件性能提升、软件生态支持和社区资源整合,Jetson Orin Nano Super正在为AI开发者提供一个从创意到落地的完整解决方案。
责任编辑:sophie
相关文章
- 半导体行业观察
- 摩尔芯闻
最新新闻
热门文章 本日 七天 本月
- 1 国产EDA突破,关键一步
- 2 在这个平台上,硬件创新跑出了“中国速度”
- 3 汽车大芯片,走向Chiplet:芯原扮演重要角色
- 4 思尔芯第八代原型验证S8-100全系已获客户部署,双倍容量加速创新