Fireworks

了解如何在 Agno 中使用 Fireworks 模型。

Fireworks 是一个为大型语言模型提供端点的平台。

身份验证

设置您的 FIREWORKS_API_KEY 环境变量。从此处获取您的密钥。

Mac

export FIREWORKS_API_KEY=***

提示缓存

提示缓存将使用我们的 Fireworks 模型自动进行。您可以在他们的文档中了解更多关于 Fireworks 如何处理缓存的信息。

示例

将 Fireworks 与您的 Agent 一起使用：

agent.py

from agno.agent import Agent, RunResponse
from agno.models.fireworks import Fireworks

agent = Agent(
    model=Fireworks(id="accounts/fireworks/models/firefunction-v2"),
    markdown=True
)

# 在终端打印响应
agent.print_response("写一个两句话的恐怖故事。")

在此处查看更多示例。

参数

参数	类型	默认值	描述
id	str	"accounts/fireworks/models/llama-v3p1-405b-instruct"	用于生成响应的具体模型 ID。
name	str	"Fireworks: {id}"	代理的名称标识符。默认值为“Fireworks: ”后跟模型 ID。
provider	str	"Fireworks"	模型提供商。
api_key	Optional[str]	-	用于向服务进行身份验证请求的 API 密钥。从环境变量 FIREWORKS_API_KEY 检索。
base_url	str	"https://api.fireworks.ai/inference/v1"	向 Fireworks 服务发出 API 请求的基础 URL。

Fireworks 也支持 OpenAI 的参数。