NVIDIA 宣布推出全球尺寸最小的边缘 AI 超级电脑 Jetson Xavier NX,主要针对机器人和边缘嵌入式电脑设备。这款新品拥有比信用卡还小的外形,节能型 Jetson Xavier NX 模组执行 AI 工作负载时,可提供最高 21TOPS 的服务器级性能,售价 399 美元,将在 2020 年 3 月出货。
NVIDIA 推出更具竞争力的边缘 AI 芯片产品,让 AI 新创公司面临更大的竞争压力。
NVIDIA 边缘 AI 芯片已有四个系列
Jetson Xavier NX 最大亮点在于,与 Jetson Nano 尺寸相同(70×45mm)的情况下,能在功耗 10W 的模式下提供最高 14TOPS、功耗 15W 模式下最高 21TOPS 的性能。另外,Jetson Xavier NX 能并行执行多个神经网络,也能同时处理多个高分辨率感测器的数据。
Jetson Xavier NX 模组规格如下:
- GPU:配备 384 个 NVIDIA CUDA core 和 48 个 Tensor core 的 NVIDIA Volta,外加 2 个 NVDLA。
- CPU:6-core Carmel Arm 64 位 CPU,6MB L2+4MB L3。
- 影像:2x 4K30 编码和 2x 4K60 解码。
- 摄影镜头:最多 6 个 CSI 摄影镜头(透过虚拟通道最多 36 个),12 路(3×4 或 6×2)MIPI CSI-2。
- 内存:8GB 128 位元 LPDDR4x;51.2GB/秒。
- 连接:千兆以太网。
- OS 支持:基于 Ubuntu 的 Linux。
- 尺寸:70×45mm。
Jetson Xavier NX 对性能需求高,但是受到尺寸、重量、功耗及预算限制的嵌入式边缘电脑设备,比如小型商用机器人、无人机、智慧高分辨率感测器(用于工厂物流和生产线)、光学检测、网络录影机,便携式医疗设备及其他工业物联网(IoT)系统。
为了满足这些场景,除硬件外,软件支援也非常重要。NVIDIA 表示,对于已经开始打造嵌入式电脑的公司,Jetson Xavier NX 与 所有 Jetson 系列产品一样都可在相同 CUDA-X AI 软件架构执行。同时,身为 NVIDIA 软件架构方法的一部分,Jetson Xavier NX 由 NVIDIA JetPack SDK 提供支援。
NVIDIA JetPack SDK 是完整的 AI 软件堆叠,可执行复杂的 AI 网络,并用于深度学习的加速库及电脑视觉、电脑图形、多媒体等。
Jetson Xavier NX 的上一款产品是在今年 3 月 GTC 发表,创始人兼 CEO 黄仁勋宣布推出售价仅 99 美元的 Jetson Nano。根据官方说法,借助 CUDA-X,Jetson Nano 提供 472GFLOPS 的 AI 性能,功率低至 5W。这款售价不高,能执行于所有 AI 模型的边缘电脑平台,发表后获得极大关注。
Jetson Nano 上一款产品在 2018 年发表。2018 年 9 月日本 GTC,黄仁勋公布 AGX 阵容,包括 Drive Xavier 和新推出的 Drive Pegasus,还有 Jetson AGX Xavier。Jetson AGX Xavier 的大规模计算性能可处理机器人至关重要的测距、定位、测绘、视觉和感知及路径规划。
Jetson 家族更早的产品 Jetson TX2 在 2017 年推出,提供两种执行模态:一种是 MAX Q,能效比可达最高,是 TX1 的 2 倍,功耗在 7.5W 以下;另一种是 MAX P,性能做到最高,能效比同样可到前一代的 2 倍,功耗则在 15W 以下。
虽然推出时间不同,但都有有别于其他边缘 SoC 的特点,并行运行多个神经网络。
边缘端实力增强,新创公司面临更大生存压力
NVIDIA 在云端 AI 芯片市场获益颇丰,非常重要的原因就是擅长并行计算的 GPU 能在数据中心的各种模型训练时体现出性能优势。虽然凭借云端 AI 芯片成为众多 AI 芯片新创公司想超越的目标,但 NVIDIA 也有自己的困扰。首先,为 AI 优化和设计的高性能 GPU 价格昂贵,让不少开发者望而却步。
其次,随着 AI 算法逐步成熟,云端 AI 训练芯片市场的增速将放缓,NVIDIA 想保持业绩增长及 AI 市场的领导力,就需要向边缘 AI 市场拓展,同时,用云端加边缘一体化的解决方案吸引更多客户。
从针对终端和边缘装置的 Jetson 系列芯片布局来看,NVIDIA 早已明白该怎么做。如今,Jetson 系列芯片演算力从 0.5TFlops 到 32TOPS,应用涵盖小型嵌入式装置、智慧汽车、工业设备等多种应用。今天高性能、小尺寸 Jetson Xavier NX 发表,让 Jetson 家族提供性能和功耗更多样的边缘芯片,背后就是为了满足 AIoT 市场的需求。
不过,NVIDIA 如今不仅能提供云端和终端 AI 芯片硬件,成功背后还有强大的软件生态支持。据了解,Jetson 系列已吸引 40 万开发者,拥有 3,000 用户。
这对 AI 芯片新创公司显然不是好消息,由于云端 AI 芯片更依赖生态,设计难度也更大,所以大部分 AI 芯片新创公司都选择边缘端市场,并大都主要提供 AI 加速器。AI 芯片新创公司希望凭借独特的架构设计,以及领先的性能指标芯片,获得市场认可。
然而,开发者进行 AI 算法迁移时往往需要使用 AI 芯片公司提供的编译器等工具,这不仅增加软件开发者的使用门槛,还可能达不到预期的效果。因此,新创公司的 AI 芯片大部分都没有非常有价值的应用。
这就意味着,AI 芯片新创公司产品设计完成并流片之后,如何找到合适的市场及模式商业化,变得非常关键,特别是在资本寒冬及 AI 芯片进入落地战的当下。
显然,AI 芯片新创公司面临更严峻的生存挑战,无论 NVIDIA 还是英特尔,在云端和边缘端都有竞争力很强的产品。在边缘端,凭借软件生态及通路优势,巨头的芯片更容易获得客户,甚至连擅长软件的 Google 都推出针对边缘市场的 Google Edge TPU。另一方面,AI 芯片新创公司想推出有竞争力的产品就必须不断更新和投入,这就需要资金持续支持,但融资环境及更激烈的市场竞争又增加融资难度。
AI 芯片的战火已蔓延至边缘端,Jetson Xavier NX 不仅是 NVIDIA 边缘端 AI 芯片布局完善和实力增强,更是边缘端芯片市场竞争更激烈的标志。
AI 芯片市场更激烈的竞争有助于推动 AI 向前发展,但对实力较弱的 AI 芯片新创公司而言,随着芯片巨头推出更有竞争力的产品,以及像 NVIDIA 这样的公司更愿意称自己为系统公司,而非单纯的芯片公司,这让 AI 芯片新创公司面临更严峻的生存挑战。
(本文由 雷锋网 授权转载;首图来源:NVIDIA)
延伸阅读:
- Nvidia 和 Google 的 AI 芯片战火蔓延至边缘端,低价开发板会“压死”AI 新创?
- Nvidia 黄仁勋:资料中心将成为巨无霸,但 AI 加速计算才是未来