跳到正文
原文
NVIDIA dev blog robotics· Lin Chai·· 2026-01-09AI 评分50

NVIDIA TensorRT Edge-LLM 加速汽车与机器人 LLM/VLM 推理

Accelerating LLM and VLM Inference for Automotive and Robotics with NVIDIA TensorRT Edge-LLM

AI 导读

NVIDIA 推出 TensorRT Edge-LLM,用于在车端和机器人端本地加速 LLM 与 VLM 推理。该方案面向汽车与机器人开发者,支持在车辆或机器人上直接运行对话式 AI 智能体、多模态感知与高层规划,以应对延迟、可靠性和离线运行需求。

来源:NVIDIA dev blog robotics · developer.nvidia.com