Azure AI Foundry 模型提供对 Azure 托管的 AI Foundry 模型的访问。
参数 | 类型 | 默认值 | 说明 |
---|---|---|---|
id | str | - | 用于生成响应的具体模型 ID。此字段为必填项。 |
name | str | "AzureOpenAI" | 代理的名称标识符。 |
provider | str | "Azure" | 模型提供商。 |
api_key | Optional[str] | "None" | 用于验证 Azure OpenAI 服务请求的 API 密钥。 |
api_version | str | "2024-10-21" | 要使用的 Azure OpenAI API 版本。 |
azure_endpoint | Optional[str] | "None" | Azure OpenAI 服务的端点 URL。 |
client | Optional[ChatCompletionsClient] | None | 用于向 Azure OpenAI 服务发出请求的客户端。 |
async_client | Optional[AsyncChatCompletionsClient] | None | 用于向 Azure OpenAI 服务发出异步请求的客户端。 |
temperature | Optional[float] | None | 控制模型输出的随机性。值越高,输出越随机。 |
max_tokens | Optional[int] | None | 响应中要生成的最大令牌数。 |
frequency_penalty | Optional[float] | None | 通过根据令牌的频率进行惩罚来减少重复。 |
presence_penalty | Optional[float] | None | 通过对所有出现过的令牌进行惩罚来减少重复。 |
top_p | Optional[float] | None | 通过限制考虑的令牌的累积概率来控制多样性。 |
stop | Optional[Union[str, List[str]]] | None | 模型将停止生成后续令牌的序列。 |
seed | Optional[int] | None | 用于确定性输出的随机种子。 |
model_extras | Optional[Dict[str, Any]] | None | 额外的模型特定参数。 |
request_params | Optional[Dict[str, Any]] | None | 要与请求一起传递的额外参数。 |
timeout | Optional[float] | None | API 请求的超时(秒)。 |
max_retries | Optional[int] | None | 失败请求的最大重试次数。 |
http_client | Optional[httpx.Client] | None | 用于发出请求的自定义 HTTP 客户端。 |
client_params | Optional[Dict[str, Any]] | None | 客户端配置的额外参数。 |