Triton

簡化多 GPU 模型部署：NVIDIA Dynamo-Triton 推出 TensorRT 多裝置整合技術

Simplifying Multi-GPU Serving: NVIDIA Dynamo-Triton Integrates TensorRT Multi-Device Inference

NVIDIA Dynamo-Triton 26.07 整合了 TensorRT 11.0 的多裝置推論功能，讓開發者只需透過單一 gRPC 端點，即可跨多張 GPU 執行分散式推論，大幅降低開發難度。