Cohere 模型提供对 Cohere 语言模型的访问。
参数 | 类型 | 默认值 | 描述 |
---|---|---|---|
id | str | "command-r-plus" | 用于生成回复的特定模型 ID。 |
name | str | "cohere" | 代理的名称标识符。 |
provider | str | "Cohere" | 模型提供商。 |
temperature | Optional[float] | None | 要使用的采样温度,范围在 0 到 2 之间。较高的值(如 0.8)会使输出更随机,而较低的值(如 0.2)会使其更集中和确定性。 |
max_tokens | Optional[int] | None | 在响应中生成的最大 token 数。 |
top_k | Optional[int] | None | 为 top-k 过滤保留的最高概率词汇 token 的数量。 |
top_p | Optional[float] | None | Nucleus 采样参数。模型会考虑具有 top_p 概率质量的 token 的结果集。 |
frequency_penalty | Optional[float] | None | -2.0 到 2.0 之间的数字。正值根据现有文本中词语的频率对新词语进行惩罚,降低模型逐字重复相同行的可能性。 |
presence_penalty | Optional[float] | None | -2.0 到 2.0 之间的数字。正值根据词语是否出现在现有文本中对其进行惩罚,增加模型谈论新主题的可能性。 |
request_params | Optional[Dict[str, Any]] | None | 要包含在请求中的附加参数。 |
add_chat_history | bool | False | 是将聊天记录添加到 Cohere 消息中,还是使用 conversation_id。 |
api_key | Optional[str] | None | 用于对 Cohere 服务请求进行身份验证的 API 密钥。 |
client_params | Optional[Dict[str, Any]] | None | 客户端配置的附加参数。 |
cohere_client | Optional[CohereClient] | None | 预先配置好的 Cohere 客户端实例。 |
structured_outputs | bool | False | 是否在此模型中使用结构化输出。 |
supports_structured_outputs | bool | True | 该模型是否支持结构化输出。 |
add_images_to_message_content | bool | True | 是否将图片添加到消息内容中。 |
override_system_role | bool | True | 是否覆盖系统角色。 |
system_message_role | str | "system" | 要映射系统消息的角色。 |