麻仓优作品 英伟达推出仅249好意思元的AI超等电脑 生成式AI性能提高达1.7倍
作家：赵雨荷麻仓优作品
起原：硬AI
聚色阁英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超等计较机。英伟达CEO暗意，这款设备者套件通过软件升级杀青了更高性能和更廉价钱，仅售249好意思元，尺寸工整，可放在手掌中，可将生成式AI性能提高高达1.7倍。
该公司暗意，这款居品相宜交易AI设备者、爱好者和学生，与其前代居品比较，其生成式AI推感性能晋升了1.7倍，性能提高了70%，每秒不错实践高达67万亿次的INT8运算（67 INT8 TOPS），内存带宽也晋升了50%，达到了102GB/s。
黄仁勋还挑升为这款居品录制了一段视频，如同2021年发布Hopper H100时相通，展现对这款居品的爱重。在视频中，黄仁勋暗意，从Xavier初始，英伟达就创造了一种新的处理器，也便是机器东说念主处理器，那时没东说念主知说念他们在作念什么。
新的Jetson Orin Nano Super领有快要70兆次的运算才智，功率25瓦，价钱249好意思元，不错实践HGX的通盘功能，甚而是实践大讲话模子。
他暗意，不管是创建基于检索增强生成（Retrieval-Augmented Generation， RAG）的大型讲话模子（LLM）聊天机器东说念主，构建视觉AI代理，仍是部署基于AI的机器东说念主，Jetson Orin Nano Super皆是理思的取舍，这款套件皆能以更低的老本提供雄伟的运算服从，主要由于居品救援低功耗盘算，能以7瓦到25瓦的功耗运行，相宜多样边际设立云算场景，不管是智能城市、智能农业仍是机器东说念主设备。
抓续晋升的性能和体验
通过软件更新，Jetson Orin Nano Super也将为已有Jetson Orin Nano设备者套件的用户晋升生成式AI性能。
黄仁勋暗意，Jetson Orin Nano Super极度相宜那些但愿在生成式AI、机器东说念主本领或计较机视觉限制发展手段的东说念主士。在AI限制从任务专用模子向基础模子滚动的趋势下，它也为设备者提供了一个将创意变为执行的易用平台。
为生成式AI提供强盛性能
Jetson Orin Nano Super性能增强，为通盘流行的生成式AI模子，举例Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的计较机视觉模子带来了显贵晋升，进一步晋升服从进展。
该公司暗意，设备者套件包括一个Jetson Orin Nano 8GB 系统模块（SoM）和一个参考载板，为边际设立AI专揽的原型盘算提供了理思平台。
系统模块聘用NVIDIA Ampere架构GPU，配备张量计较中枢（Tensor Cores）和6核 Arm CPU，粗略处理多个并行AI专揽管说念，并提供高性能推理才智。此外，它还救援最多四个录像头，辩认率和帧率均高于前代版块。
英伟达强调，跟着AI本领迟缓从云表走向结尾，实体AI将是下一波发展要点，Jetson Orin Nano Super不仅不错用于设备聊天机器东说念主，也相宜简历视觉AI代理或部署AI机器东说念主等专揽。
庸碌的生成式AI软件生态系统与社区
此外，英伟达Jetson AI实验室提供对最新开源社区模子的救援，以及易于使用的教程。设备者还不错从更庸碌的Jetson社区赢得救援，并从其他设备者的技俩中赢得灵感。
Jetson救援英伟达的AI软件，包括用于机器东说念主本领的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据，以及使用NVIDIA TAO器具包微调来自NGC目次的预锻练AI模子，设备时间不错大幅镌汰。
Jetson生态系统互助伙伴提供尽头的AI和系统软件、设备器具以及定制软件设备作事。他们还提供与录像头过甚他传感器掂量的救援，以及载板和居品贬责决策的盘当作事。
为通盘Jetson Orin用户解锁性能晋升：Super相貌
英伟达也书记将为Jetson Orin NX和Nano系列的系统模块提供软件更新，让它们也能享受到Super相貌的性能晋升，最高可达70%。这些更新将通过Jetpack SDK不休器发布在英伟达网站和GitHub上。
Jetson Orin Nano Super Developer Kit展望很快就默契过大家经销商初始供货。关于思要初学AI设备的学生、工程师或创客来说，这款设备套件提供了一个经济实惠且功能雄伟的平台取舍。
英伟达将Jetson Orin Nano Super Developer Kit定位为鼓动生成式AI本领普及化的要津居品，但愿在智能交通、零卖不休以及物联网（IoT）专揽中大放异彩。
本文来自微信公众号“硬AI”，见谅更多AI前沿资讯请移步这里
