Azure AI Foundry 模型提供对 Azure 托管的 AI Foundry 模型的访问。

参数类型默认值说明
idstr-用于生成响应的具体模型 ID。此字段为必填项。
namestr"AzureOpenAI"代理的名称标识符。
providerstr"Azure"模型提供商。
api_keyOptional[str]"None"用于验证 Azure OpenAI 服务请求的 API 密钥。
api_versionstr"2024-10-21"要使用的 Azure OpenAI API 版本。
azure_endpointOptional[str]"None"Azure OpenAI 服务的端点 URL。
clientOptional[ChatCompletionsClient]None用于向 Azure OpenAI 服务发出请求的客户端。
async_clientOptional[AsyncChatCompletionsClient]None用于向 Azure OpenAI 服务发出异步请求的客户端。
temperatureOptional[float]None控制模型输出的随机性。值越高,输出越随机。
max_tokensOptional[int]None响应中要生成的最大令牌数。
frequency_penaltyOptional[float]None通过根据令牌的频率进行惩罚来减少重复。
presence_penaltyOptional[float]None通过对所有出现过的令牌进行惩罚来减少重复。
top_pOptional[float]None通过限制考虑的令牌的累积概率来控制多样性。
stopOptional[Union[str, List[str]]]None模型将停止生成后续令牌的序列。
seedOptional[int]None用于确定性输出的随机种子。
model_extrasOptional[Dict[str, Any]]None额外的模型特定参数。
request_paramsOptional[Dict[str, Any]]None要与请求一起传递的额外参数。
timeoutOptional[float]NoneAPI 请求的超时(秒)。
max_retriesOptional[int]None失败请求的最大重试次数。
http_clientOptional[httpx.Client]None用于发出请求的自定义 HTTP 客户端。
client_paramsOptional[Dict[str, Any]]None客户端配置的额外参数。