来源摘要 · AI 辅助整理

以下为来源内容的摘要,涉及性能、价格或效果的表述归属于原作者,不表示本站独立实测。

信源摘要
AWS 介绍使用 NVIDIA Dynamo 和 vLLM,在 EKS、EKS Auto Mode 与 SageMaker HyperPod EKS 上部署 Nemotron 3.5 Super VL 等模型的方法,并提供延迟和吞吐量测量参考。示例使用 B200、H200 GPU 实例,实际性能取决于硬件、负载与部署配置。