NVIDIA 发表全球最小边缘 AI 超级电脑，Jetson 家族让新创公司面临更大压力

NVIDIA 宣布推出全球尺寸最小的边缘 AI 超级电脑 Jetson Xavier NX，主要针对机器人和边缘嵌入式电脑设备。这款新品拥有比信用卡还小的外形，节能型 Jetson Xavier NX 模组执行 AI 工作负载时，可提供最高 21TOPS 的伺服器级性能，售价 399 美元，将在 2020 年 3 月出货。

NVIDIA 推出更具竞争力的边缘 AI 晶片产品，让 AI 新创公司面临更大的竞争压力。

NVIDIA 边缘 AI 晶片已有四个系列

Jetson Xavier NX 最大亮点在​​于，与 Jetson Nano 尺寸相同（70×45mm）的情况下，能在功耗 10W 的模式下提供最高 14TOPS、功耗 15W 模式下最高 21TOPS 的性能。另外，Jetson Xavier NX 能并行执行多个神经网路，也能同时处理多个高解析度感测器的数据。

Jetson Xavier NX 模组规格如下：

GPU：配备 384 个 NVIDIA CUDA core 和 48 个 Tensor core 的 NVIDIA Volta，外加 2 个 NVDLA。CPU：6-core Carmel Arm 64 位 CPU，6MB L2＋4MB L3。影像：2x 4K30 编码和 2x 4K60 解码。摄影镜头：最多 6 个 CSI 摄影镜头（透过虚拟通道最多 36 个），12 路（3×4 或 6×2）MIPI CSI-2。内存：8GB 128 位元 LPDDR4x；51.2GB／秒。连接：千兆以太网。OS 支持：基于 Ubuntu 的 Linux。尺寸：70×45mm。

Jetson Xavier NX 对性能需求高，但是受到尺寸、重量、功耗及预算限制的嵌入式边缘电脑设备，比如小型商用机器人、无人机、智慧高解析度感测器（用于工厂物流和生产线）、光学检测、网路录影机，便携式医疗设备及其他工业物联网（IoT）系统。

为了满足这些场景，除硬体外，软体支援也非常重要。NVIDIA 表示，对于已经开始打造嵌入式电脑的公司，Jetson Xavier NX 与 所有 Jetson 系列产品一样都可在相同 CUDA-X AI 软体架构执行。同时，身为 NVIDIA 软体架构方法的一部分，Jetson Xavier NX 由 NVIDIA JetPack SDK 提供支援。

NVIDIA JetPack SDK 是完整的 AI 软体堆叠，可执行複杂的 AI 网路，并用于深度学习的加速库及电脑视觉、电脑图形、多媒体等。

Jetson Xavier NX 的上一款产品是在今年 3 月 GTC 发表，创始人兼 CEO 黄仁勋宣布推出售价仅 99 美元的 Jetson Nano。根据官方说法，借助 CUDA-X，Jetson Nano 提供 472GFLOPS 的 AI 性能，功率低至 5W。这款售价不高，能执行于所有 AI 模型的边缘电脑平台，发表后获得极大关注。

Jetson Nano 上一款产品在 2018 年发表。2018 年 9 月日本 GTC，黄仁勋公布 AGX 阵容，包括 Drive Xavier 和新推出的 Drive Pegasus，还有 Jetson AGX Xavier。Jetson AGX Xavier 的大规模计算性能可处理机器人至关重要的测距、定位、测绘、视觉和感知及路径规划。

Jetson 家族更早的产品 Jetson TX2 在 2017 年推出，提供两种执行模态：一种是 MAX Q，能效比可达最高，是 TX1 的 2 倍，功耗在 7.5W 以下；另一种是 MAX P，性能做到最高，能效比同样可到前一代的 2 倍，功耗则在 15W 以下。

虽然推出时间不同，但都有有别于其他边缘 SoC 的特点，并行运行多个神经网路。

边缘端实力增强，新创公司面临更大生存压力

NVIDIA 在云端 AI 晶片市场获益颇丰，非常重要的原因就是擅长并行计算的 GPU 能在数据中心的各种模型训练时体现出性能优势。虽然凭藉云端 AI 晶片成为众多 AI 晶片新创公司想超越的目标，但 NVIDIA 也有自己的困扰。首先，为 AI 优化和设计的高性能 GPU 价格昂贵，让不少开发者望而却步。

其次，随着 AI 演算法逐步成熟，云端 AI 训练晶片市场的增速将放缓，NVIDIA 想保持业绩增长及 AI 市场的领导力，就需要向边缘 AI 市场拓展，同时，用云端加边缘一体化的解决方案吸引更多客户。

从针对终端和边缘装置的 Jetson 系列晶片布局来看，NVIDIA 早已明白该怎么做。如今，Jetson 系列晶片演算力从 0.5TFlops 到 32TOPS，应用涵盖小型嵌入式装置、智慧汽车、工业设备等多种应用。今天高性能、小尺寸 Jetson Xavier NX 发表，让 Jetson 家族提供性能和功耗更多样的边缘晶片，背后就是为了满足 AIoT 市场的需求。

不过，NVIDIA 如今不仅能提供云端和终端 AI 晶片硬体，成功背后还有强大的软体生态支持。据了解，Jetson 系列已吸引 40 万开发者，拥有 3,000 用户。

这对 AI 晶片新创公司显然不是好消息，由于云端 AI 晶片更依赖生态，设计难度也更大，所以大部分 AI 晶片新创公司都选择边缘端市场，并大都主要提供 AI 加速器。AI 晶片新创公司希望凭藉独特的架构设计，以及领先的性能指标晶片，获得市场认可。

然而，开发者进行 AI 演算法迁移时往往需要使用 AI 晶片公司提供的编译器等工具，这不仅增加软体开发者的使用门槛，还可能达不到预期的效果。因此，新创公司的 AI 晶片大部分都没有非常有价值的应用。

这就意味着，AI 晶片新创公司产品设计完成并流片之后，如何找到合适的市场及模式商业化，变得非常关键，特别是在资本寒冬及 AI 晶片进入落地战的当下。

显然，AI 晶片新创公司面临更严峻的生存挑战，无论 NVIDIA 还是英特尔，在云端和边缘端都有竞争力很强的产品。在边缘端，凭藉软体生态及通路优势，巨头的晶片更容易获得客户，甚至连擅长软体的 Google 都推出针对边缘市场的 Google Edge TPU。另一方面，AI 晶片新创公司想推出有竞争力的产品就必须不断更新和投入，这就需要资金持续支持，但融资环境及更激烈的市场竞争又增加融资难度。

AI 晶片的战火已蔓延至边缘端，Jetson Xavier NX 不仅是 NVIDIA 边缘端 AI 晶片布局完善和实力增强，更是边缘端晶片市场竞争更激烈的标誌。

AI 晶片市场更激烈的竞争有助于推动 AI 向前发展，但对实力较弱的 AI 晶片新创公司而言，随着晶片巨头推出更有竞争力的产品，以及像 NVIDIA 这样的公司更愿意称自己为系统公司，而非单纯的晶片公司，这让 AI 晶片新创公司面临更严峻的生存挑战。