NVIDIA Jetson AGX Orin 64GB

边缘端的数据中心级 AI 计算能力

NVIDIA Jetson AGX Orin 64GB 是 Jetson 产品线的旗舰计算模块，以紧凑的外形封装了高达 275 TOPS（稀疏 INT8 峰值算力，密集吞吐量约为该数值的一半）的 AI 推理能力，相较上一代提升约 8 倍。其核心设计目标是：将原本依赖数据中心服务器完成的 AI 推理任务，直接迁移到终端设备本地执行，从而消除网络延迟、降低带宽依赖，并满足数据不出本地的隐私与合规需求。

硬件架构

组件	规格
GPU	2048 核 NVIDIA Ampere 架构，含 64 个 Tensor 核心
CPU	12 核 Arm
AI 加速器	双深度学习加速器（DLA）
内存	64 GB LPDDR5
功耗范围	15–60 W（可配置）

Ampere GPU 的 Tensor 核心专为矩阵运算加速而设计，是运行卷积神经网络、Transformer 等现代 AI 模型的关键硬件单元。双 DLA 则是独立于 GPU 的固定功能加速器，可承担推理任务的一部分，进一步释放 GPU 算力或降低整体功耗。15–60 W 的可配置功耗范围，使开发者可根据散热条件和应用负载在性能与能耗之间灵活权衡。

软件生态与开发工具链

AGX Orin 原生支持完整的 NVIDIA 软件栈：

• JetPack SDK：面向 Jetson 平台的一体化开发套件
• CUDA：并行计算编程框架
• TensorRT：深度学习推理优化引擎，可对模型进行量化与图优化
• DeepStream：多路视频流分析框架
• Isaac：机器人开发平台

该工具链与 NVIDIA 数据中心 GPU 保持一致，意味着在数据中心训练和验证的模型及推理流水线，可以直接部署到 AGX Orin 上，无需重写代码。

典型应用场景

• 多摄像头感知系统：同时处理多路高分辨率视频流，执行目标检测、分割、跟踪等任务
• 自主移动机器人（AMR）：实时融合激光雷达、摄像头等多传感器数据，完成定位与路径规划
• 工业视觉与质检：在生产线末端本地运行缺陷检测模型，避免图像数据上传云端
• 医学影像分析：在医疗设备或院内服务器上本地执行影像 AI 推理，满足数据合规要求
• 边缘服务器：作为区域性 AI 推理节点，汇聚并处理来自多个终端设备的数据

注：275 TOPS 为稀疏 INT8 条件下的峰值算力；密集 INT8 实际吞吐量约为该数值的一半。开发者套件价格由 NVIDIA 公开发布；量产模块的定价通常需通过授权分销渠道获取。