AWS Bedrock 模型提供对托管在 AWS Bedrock 上的模型的访问。

参数类型默认值描述
idstr"mistral.mistral-large-2402-v1:0"用于生成响应的特定模型 ID。
namestr"AwsBedrock"AWS Bedrock 代理的名称标识符。
providerstr"AwsBedrock"模型提供商。
max_tokensint4096生成响应的最大 token 数。
temperatureOptional[float]"None"要使用的采样温度,介于 0 和 2 之间。较高的值(如 0.8)使输出更随机,而较低的值(如 0.2)使其更集中和确定性。
top_pOptional[float]"None"核心采样参数。模型会考虑具有 top_p 概率质量的 token 的结果。
stop_sequencesOptional[List[str]]"None"API 将停止生成更多 token 的序列列表。
request_paramsOptional[Dict[str, Any]]"None"请求的附加参数,以字典形式提供。
client_paramsOptional[Dict[str, Any]]"None"初始化 AwsBedrock 客户端的附加客户端参数,以字典形式提供。