NVIDIA NIM 是 NVIDIA AI Enterprise 的一部分,提供易于使用的推理微服务,支持各类开源模型托管。
NVIDIA奖励模型
上下文: 4,096
NVIDIA视觉语言模型
上下文: 8,192
NVIDIA Nemotron-4 340B 大语言模型
NVIDIA NIM Llama 3.1 托管服务