Cohere 模型提供对 Cohere 语言模型的访问。

参数类型默认值描述
idstr"command-r-plus"用于生成回复的特定模型 ID。
namestr"cohere"代理的名称标识符。
providerstr"Cohere"模型提供商。
temperatureOptional[float]None要使用的采样温度,范围在 0 到 2 之间。较高的值(如 0.8)会使输出更随机,而较低的值(如 0.2)会使其更集中和确定性。
max_tokensOptional[int]None在响应中生成的最大 token 数。
top_kOptional[int]None为 top-k 过滤保留的最高概率词汇 token 的数量。
top_pOptional[float]NoneNucleus 采样参数。模型会考虑具有 top_p 概率质量的 token 的结果集。
frequency_penaltyOptional[float]None-2.0 到 2.0 之间的数字。正值根据现有文本中词语的频率对新词语进行惩罚,降低模型逐字重复相同行的可能性。
presence_penaltyOptional[float]None-2.0 到 2.0 之间的数字。正值根据词语是否出现在现有文本中对其进行惩罚,增加模型谈论新主题的可能性。
request_paramsOptional[Dict[str, Any]]None要包含在请求中的附加参数。
add_chat_historyboolFalse是将聊天记录添加到 Cohere 消息中,还是使用 conversation_id。
api_keyOptional[str]None用于对 Cohere 服务请求进行身份验证的 API 密钥。
client_paramsOptional[Dict[str, Any]]None客户端配置的附加参数。
cohere_clientOptional[CohereClient]None预先配置好的 Cohere 客户端实例。
structured_outputsboolFalse是否在此模型中使用结构化输出。
supports_structured_outputsboolTrue该模型是否支持结构化输出。
add_images_to_message_contentboolTrue是否将图片添加到消息内容中。
override_system_roleboolTrue是否覆盖系统角色。
system_message_rolestr"system"要映射系统消息的角色。