Nvidia

在 Agno 中使用 Nvidia 模型。

NVIDIA 提供了一系列高性能语言模型，专为高级 NLP 任务进行了优化。 这些模型是 NeMo 框架的一部分，该框架提供了高效训练、微调和部署最先进模型的工具。NVIDIA 的语言模型旨在使用 GPU 加速处理大规模工作负载，从而实现更快的推理和训练。 我们建议尝试 NVIDIA 的模型，以找到最适合您应用的模型。

在此处探索 NVIDIA 的模型。

认证

设置您的 NVIDIA_API_KEY 环境变量。在此从 Nvidia 获取您的密钥。

Mac

export NVIDIA_API_KEY=***

示例

在 Agent 中使用 Nvidia：

agent.py

from agno.agent import Agent, RunResponse
from agno.models.nvidia import Nvidia

agent = Agent(model=Nvidia(), markdown=True)

# 在终端中打印响应
agent.print_response("分享一个两句话的恐怖故事")

在此处查看更多示例。

参数

Nvidia 还支持 OpenAI 的参数。