NVIDIA 提供了一系列高性能语言模型,专为高级 NLP 任务进行了优化。 这些模型是 NeMo 框架的一部分,该框架提供了高效训练、微调和部署最先进模型的工具。NVIDIA 的语言模型旨在使用 GPU 加速处理大规模工作负载,从而实现更快的推理和训练。 我们建议尝试 NVIDIA 的模型,以找到最适合您应用的模型。

在此处探索 NVIDIA 的模型。

认证

设置您的 NVIDIA_API_KEY 环境变量。在此从 Nvidia 获取您的密钥。

export NVIDIA_API_KEY=***

示例

Agent 中使用 Nvidia

from agno.agent import Agent, RunResponse
from agno.models.nvidia import Nvidia

agent = Agent(model=Nvidia(), markdown=True)

# 在终端中打印响应
agent.print_response("分享一个两句话的恐怖故事")

此处查看更多示例。

参数

Nvidia 还支持 OpenAI 的参数。