使用 AWS Bedrock 访问 AWS 上的各种基础模型。在 门户网站 上管理模型访问权限。

查看所有 AWS Bedrock 基础模型。并非所有 Bedrock 模型都支持所有功能。请参阅 各模型支持的功能

我们建议通过实验找到最适合您用例的模型。以下是一些通用建议:

  • 对于性能总体良好的 Mistral 模型,请选择 mistral.mistral-large-2402-v1:0
  • 您可以尝试 Amazon Nova 模型。对于通用任务,请使用 amazon.nova-pro-v1:0
  • 对于 Claude 模型,请参阅我们的 Claude 集成

目前不支持 AWS Bedrock 的异步使用。当将 AwsBedrockAgent 一起使用时,您只能使用 agent.runagent.print_response

身份验证

设置您的 AWS_ACCESS_KEY_IDAWS_SECRET_ACCESS_KEYAWS_REGION 环境变量。

在此获取您的密钥。

export AWS_ACCESS_KEY_ID=***
export AWS_SECRET_ACCESS_KEY=***
export AWS_REGION=***

示例

AwsBedrock 与您的 Agent 一起使用:

from agno.agent import Agent
from agno.models.aws import AwsBedrock

agent = Agent(
    model=AwsBedrock(id="mistral.mistral-large-2402-v1:0"),
    markdown=True
)

# 在终端上打印响应
agent.print_response("编写一个两句话的恐怖故事。")
在此处查看更多示例:/examples/models/aws/bedrock

参数

参数类型默认值描述
idstr"mistral.mistral-large-2402-v1:0"用于生成响应的特定模型 ID。
namestr"AwsBedrock"AWS Bedrock 代理的名称标识符。
providerstr"AwsBedrock"模型提供商。
max_tokensint4096生成响应的最大 token 数。
temperatureOptional[float]"None"要使用的采样温度,介于 0 和 2 之间。较高的值(如 0.8)使输出更随机,而较低的值(如 0.2)使其更集中和确定性。
top_pOptional[float]"None"核心采样参数。模型会考虑具有 top_p 概率质量的 token 的结果。
stop_sequencesOptional[List[str]]"None"API 将停止生成更多 token 的序列列表。
request_paramsOptional[Dict[str, Any]]"None"请求的附加参数,以字典形式提供。
client_paramsOptional[Dict[str, Any]]"None"初始化 AwsBedrock 客户端的附加客户端参数,以字典形式提供。

AwsBedrockModel 类的一个子类,并且可以访问相同的参数。