Meta 模型提供了访问 Meta 语言模型的功能。
参数 | 类型 | 描述 | 默认值 |
---|---|---|---|
max_completion_tokens | Optional[int] | 完成的最大 Tokens 数 | None |
repetition_penalty | Optional[float] | Token 重复的惩罚值 | None |
temperature | Optional[float] | 采样温度 | None |
top_p | Optional[float] | 核心采样参数 | None |
top_k | Optional[int] | Top-k 采样参数 | None |
extra_headers | Optional[Any] | 在 API 请求中包含的额外 HTTP 头部 | None |
extra_query | Optional[Any] | 在 API 请求中包含的额外查询参数 | None |
extra_body | Optional[Any] | 在 API 请求中包含的额外请求体参数 | None |
request_params | Optional[Dict[str, Any]> | 自定义请求参数字典,将合并到 API 请求中 | None |
api_key | Optional[str] | Llama API 密钥(将覆盖 LLAMA_API_KEY 环境变量) | None |
base_url | Optional[Union[str, httpx.URL]] | Llama API 的基础 URL | None |
timeout | Optional[float] | API 请求超时时间(秒) | None |
max_retries | Optional[int] | API 调用最大重试次数 | None |
default_headers | Optional[Any] | API 客户端的默认 HTTP 头部 | None |
default_query | Optional[Any] | API 客户端的默认查询参数 | None |
http_client | Optional[httpx.Client] | 自定义同步 HTTP 客户端实例 | None |
client_params | Optional[Dict[str, Any]> | HTTP 客户端构造函数的额外参数 | None |