Ollama 模型提供了对本地托管的开源模型的访问。

参数 (Parameter)类型 (Type)默认值 (Default)描述 (Description)
idstr"llama3.1"要使用的模型的 ID。
namestr"Ollama"模型的名称。
providerstr"Ollama"模型的提供商。
formatOptional[Any]None响应的格式。
optionsOptional[Any]None要传递给模型的附加选项。
keep_aliveOptional[Union[float, str]]None模型的保持活动时间。
request_paramsOptional[Dict[str, Any]]None要传递给请求的附加参数。
hostOptional[str]None要连接的主机。
timeoutOptional[Any]None连接的超时时间。
client_paramsOptional[Dict[str, Any]]None要传递给客户端的附加参数。
clientOptional[OllamaClient]None预先配置的 Ollama 客户端实例。
async_clientOptional[AsyncOllamaClient]None预先配置的异步 Ollama 客户端实例。
structured_outputsboolFalse是否为此模型使用结构化输出。
supports_structured_outputsboolTrue模型是否支持结构化输出。