Fireworks 是一个为大型语言模型提供端点的平台。

​
身份验证

设置您的 FIREWORKS_API_KEY 环境变量。从此处获取您的密钥。

export FIREWORKS_API_KEY=***

​
提示缓存

提示缓存将使用我们的 Fireworks 模型自动进行。您可以在他们的文档中了解更多关于 Fireworks 如何处理缓存的信息。

​
示例

将 Fireworks 与您的 Agent 一起使用：

from agno.agent import Agent, RunResponse
from agno.models.fireworks import Fireworks

agent = Agent(
    model=Fireworks(id="accounts/fireworks/models/firefunction-v2"),
    markdown=True
)

# 在终端打印响应
agent.print_response("写一个两句话的恐怖故事。")
在此处查看更多示例。

​
参数

参数类型默认值描述
idstr"accounts/fireworks/models/llama-v3p1-405b-instruct"用于生成响应的具体模型 ID。
namestr"Fireworks: {id}"代理的名称标识符。默认值为“Fireworks: ”后跟模型 ID。
providerstr"Fireworks"模型提供商。
api_keyOptional[str]-用于向服务进行身份验证请求的 API 密钥。从环境变量 FIREWORKS_API_KEY 检索。
base_urlstr"https://api.fireworks.ai/inference/v1"向 Fireworks 服务发出 API 请求的基础 URL。

Fireworks 也支持 OpenAI 的参数。