了解如何将 AWS Bedrock 与 Agno 结合使用。
使用 AWS Bedrock 访问 AWS 上的各种基础模型。在 门户网站 上管理模型访问权限。
查看所有 AWS Bedrock 基础模型。并非所有 Bedrock 模型都支持所有功能。请参阅 各模型支持的功能。
我们建议通过实验找到最适合您用例的模型。以下是一些通用建议:
mistral.mistral-large-2402-v1:0
。amazon.nova-pro-v1:0
。目前不支持 AWS Bedrock 的异步使用。当将 AwsBedrock
与 Agent
一起使用时,您只能使用 agent.run
和 agent.print_response
。
设置您的 AWS_ACCESS_KEY_ID
、AWS_SECRET_ACCESS_KEY
和 AWS_REGION
环境变量。
在此处获取您的密钥。
将 AwsBedrock
与您的 Agent
一起使用:
参数 | 类型 | 默认值 | 描述 |
---|---|---|---|
id | str | "mistral.mistral-large-2402-v1:0" | 用于生成响应的特定模型 ID。 |
name | str | "AwsBedrock" | AWS Bedrock 代理的名称标识符。 |
provider | str | "AwsBedrock" | 模型提供商。 |
max_tokens | int | 4096 | 生成响应的最大 token 数。 |
temperature | Optional[float] | "None" | 要使用的采样温度,介于 0 和 2 之间。较高的值(如 0.8)使输出更随机,而较低的值(如 0.2)使其更集中和确定性。 |
top_p | Optional[float] | "None" | 核心采样参数。模型会考虑具有 top_p 概率质量的 token 的结果。 |
stop_sequences | Optional[List[str]] | "None" | API 将停止生成更多 token 的序列列表。 |
request_params | Optional[Dict[str, Any]] | "None" | 请求的附加参数,以字典形式提供。 |
client_params | Optional[Dict[str, Any]] | "None" | 初始化 AwsBedrock 客户端的附加客户端参数,以字典形式提供。 |
AwsBedrock
是 Model 类的一个子类,并且可以访问相同的参数。