英伟达推249美元AI超级电脑 性能提高1.7倍

2024-12-17 15:25:17 · chineseheadlinenews.com · 来源: 硬AI


英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超级计算机。英伟达CEO黄仁勋表示,这款开发者套件通过软件升级实现了更高性能和更低价格,仅售249美元,尺寸小巧,可放在手掌中,可将生成式AI性能提高高达1.7倍。




该公司表示,这款产品适合商业AI开发者、爱好者和学生,与其前代产品相比,其生成式AI推理性能提升了1.7倍,性能提高了70%,每秒可以执行高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也提升了50%,达到了102GB/s。

黄仁勋还特意为这款产品录制了一段视频,如同2021年发布Hopper H100时一样,展现英伟达对这款产品的重视。在视频中,黄仁勋表示,从Xavier开始,英伟达就创造了一种新的处理器,也就是机器人处理器,当时没人知道他们在做什么。

新的Jetson Orin Nano Super拥有将近70兆次的运算能力,功率25瓦,价格249美元,可以执行HGX的所有功能,甚至是执行大语言模型。




他表示,无论是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型语言模型(LLM)聊天机器人,构建视觉AI代理,还是部署基于AI的机器人,Jetson Orin Nano Super都是理想的选择,这款套件都能以更低的成本提供强大的运算效能,主要由于产品支持低功耗设计,能以7瓦到25瓦的功耗运行,适合各种边缘设备云算场景,无论是智能城市、智能农业还是机器人开发。

持续提升的性能和体验

通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano开发者套件的用户提升生成式AI性能。

黄仁勋表示,Jetson Orin Nano Super非常适合那些希望在生成式AI、机器人技术或计算机视觉领域发展技能的人士。在AI领域从任务专用模型向基础模型转变的趋势下,它也为开发者提供了一个将创意变为现实的易用平台。

为生成式AI提供强劲性能

Jetson Orin Nano Super性能增强,为所有流行的生成式AI模型,例如Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的计算机视觉模型带来了显著提升,进一步提升效能表现。



该公司表示,开发者套件包括一个Jetson Orin Nano 8GB 系统模块(SoM)和一个参考载板,为边缘设备AI应用的原型设计提供了理想平台。

系统模块采用NVIDIA Ampere架构GPU,配备张量计算核心(Tensor Cores)和6核 Arm CPU,能够处理多个并行AI应用管道,并提供高性能推理能力。此外,它还支持最多四个摄像头,分辨率和帧率均高于前代版本。

英伟达强调,随着AI技术逐渐从云端走向终端,实体AI将是下一波发展重点,Jetson Orin Nano Super不仅可以用于开发聊天机器人,也适合简历视觉AI代理或部署AI机器人等应用。

广泛的生成式AI软件生态系统与社区


此外,英伟达Jetson AI实验室提供对最新开源社区模型的支持,以及易于使用的教程。开发者还可以从更广泛的Jetson社区获得支持,并从其他开发者的项目中获得灵感。

Jetson支持英伟达的AI软件,包括用于机器人技术的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO工具包微调来自NGC目录的预训练AI模型,开发时间可以大幅缩短。

Jetson生态系统合作伙伴提供额外的AI和系统软件、开发工具以及定制软件开发服务。他们还提供与摄像头及其他传感器相关的支持,以及载板和产品解决方案的设计服务。

为所有Jetson Orin用户解锁性能提升:Super模式


英伟达也宣布将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super模式的性能提升,最高可达70%。这些更新将通过Jetpack SDK管理器发布在英伟达网站和GitHub上。




Jetson Orin Nano Super Developer Kit预计很快就会通过全球经销商开始供货。对于想要入门AI开发的学生、工程师或创客来说,这款开发套件提供了一个经济实惠且功能强大的平台选择。

英伟达将Jetson Orin Nano Super Developer Kit定位为推动生成式AI技术普及化的关键产品,希望在智能交通、零售管理以及物联网(IoT)应用中大放异彩。


    24小时新闻排行榜更多>>
  1. 消息传来!已在鱼塘找到,特警开枪击毙
  2. 美军是如何把38辆坦克送进台湾岛的?
  3. 丁胖子广场附近家庭旅馆有人深夜自杀,疑走线客
  4. 中国新女性退休样本:56岁一头白发出国留学
  5. 拜登政府敲定新规:全面改革H-1B
  6. 多伦多男子带“救命药”在机场被捕!或终身监禁
  7. 解放军刚走 巴军最精锐部队遭伏击 多军官惨死
  8. 新西兰老人床前立遗嘱 给华人女子50万 结果…
  9. 李强开会研究“振兴足球” 网民直呼浪费钱
  10. 中国经济形势严峻 北京为艰难时期做准备
  11. 刘晓庆现身:身材发福大妈感十足 衣品被吐槽
  12. 日女星遭前男友跟踪割喉 死后还被泄愤PO裸照
  13. 朝鲜敢死队三三制冲锋 遭到绞杀 33人阵亡
  14. 中共一口气对54国放宽过境免签 网民:真急了
  15. 潜水圣地发现中国游客遗体:“背包内有三砖头”
  16. 偷特斯拉机密在华建厂 中国居民纽约获刑24个月
  17. TikTok执行长周受资在海湖庄园会见川普
  18. 美国公司是如何对抗政府禁令向中国出售先进技术
  19. 普京狠下心解决乌克兰 俄10年后或与北约开战
  20. 巴黎华裔女生失踪十一个月 真相触目惊心
  21. 飞机运一个人能赚多少钱?其实不到50元
  22. 这些简单的任务可以降低患痴呆症的风险
  23. 瓦努阿图发生7.4级强震 引发海啸 美使馆受损
  24. 钢琴家郎朗侄女在澳坑人诈骗?数十人联合曝光
  25. 2025加州数十项新法上路 如何影响民众生活
  26. 欧洲6国摊牌 乌克兰加入北约不可逆!
  27. 世界领先华人癌症科学家孙少聪离开美国
  28. 深度:尹锡悦被国会弹劾,美韩同盟或成为牺牲品
  29. 网传山东一高校男子出轨 按女友在地上亲 挽留
  30. 和谐社会,又救了烂人一命
  31. 日本现龄差60岁“奶孙恋”:90岁奶奶热恋小鲜肉
  32. 李强开会研究“振兴足球” 网民嘲讽“太闲了”
  33. 一中共空间科学专家在北京遭遇车祸死亡
  34. 浙大教师伪造剑桥邀请函 多名学生被英拒签10年
  35. 科技巨头软银为什么要在美国投资千亿美元?
  36. 涉贪逾30亿元 内蒙古巨贪李建平被执行死刑
  37. 终结俄乌战争 川普允与泽连斯基和普京通话
  38. 纽约市长亚当斯涉竞选弊案 遭拒发400万匹配资金
  39. 朱丽蒨陪刘德华拜佛 华仔护妻不断提示歌迷安静
  40. 又一“身边女人”被约谈 柯文哲牢饭吃到2032后?
  41. 刚从ABC新闻获赔1600万 川普又提起新诉讼…
  42. 2025年起 加拿大将对中国产品征更多关税
  43. 俄方首次公开证实正研发新型洲际弹道导弹
  44. 王友群:中共“自我革命” 革谁的命?
  45. 朝鲜12军徒步进攻 被乌军暴打
  46. 法国迷奸案事主抹去丈夫所有痕迹
  47. 被美国通缉的中国黑客 竟和公司闹劳资纠纷
  48. 被指为中共间谍的女子提诉MI5后败诉
  49. 中国企业负责人窃取特斯拉商业机密,被判刑24个月
  50. 叙利亚发现乱葬岗 埋10万尸 虐死后用推土机压扁
  51. 美国男子斐济度蜜月期间杀妻 警方通报
  52. 乌方否认参与暗杀俄军中将:他死于自己人之手
  53. 李强被习边缘化 国务院开会研究足球
  54. 胡锡进:我对未来四年中美关系走向并不悲观
  55. 小心!加航行李托运费收两遍 已有多人“被宰”
  56. 暗网经营大型毒品市集 23岁台男纽约认罪
  57. 美财政部官员会见香港多家银行 警告勿与俄交易
  58. 重庆市原党组成员、副市长熊雪受贿案一审宣判
  59. 新华社山西分社副社长汪振望落马
  60. 中商务部:美方提高301关税的做法是错上加错