Cohere

了解如何在 Agno 中使用 Cohere 模型。

利用 Cohere 强大的 command 模型等。

Cohere 拥有广泛的模型，并且非常适合进行微调。在此处查看其模型库：here。

我们建议进行实验以找到最适合您用例的模型。以下是一些通用建议：

• command 模型适用于大多数基本用例。
• command-light 模型适用于小型任务和更快的推理。
• command-r7b-12-2024 模型适用于 RAG 任务、复杂推理和多步任务。

Cohere 还支持模型微调。这是如何操作的指南：guide。

Cohere 具有基于层级的速率限制。有关更多信息，请参阅文档。

身份验证

设置您的 CO_API_KEY 环境变量。在此处获取您的密钥：here。

Mac

export CO_API_KEY=***

示例

在您的 Agent 中使用 Cohere：

agent.py

from agno.agent import Agent, RunResponse
from agno.models.cohere import Cohere

agent = Agent(
    model=Cohere(id="command-r-08-2024"),
    markdown=True
)

# 在终端中打印响应
agent.print_response("Share a 2 sentence horror story.")

在此处查看更多示例：here。

参数

参数	类型	默认值	描述
id	str	"command-r-plus"	用于生成回复的特定模型 ID。
name	str	"cohere"	代理的名称标识符。
provider	str	"Cohere"	模型提供商。
temperature	Optional[float]	None	要使用的采样温度，范围在 0 到 2 之间。较高的值（如 0.8）会使输出更随机，而较低的值（如 0.2）会使其更集中和确定性。
max_tokens	Optional[int]	None	在响应中生成的最大 token 数。
top_k	Optional[int]	None	为 top-k 过滤保留的最高概率词汇 token 的数量。
top_p	Optional[float]	None	Nucleus 采样参数。模型会考虑具有 top_p 概率质量的 token 的结果集。
frequency_penalty	Optional[float]	None	-2.0 到 2.0 之间的数字。正值根据现有文本中词语的频率对新词语进行惩罚，降低模型逐字重复相同行的可能性。
presence_penalty	Optional[float]	None	-2.0 到 2.0 之间的数字。正值根据词语是否出现在现有文本中对其进行惩罚，增加模型谈论新主题的可能性。
request_params	Optional[Dict[str, Any]]	None	要包含在请求中的附加参数。
add_chat_history	bool	False	是将聊天记录添加到 Cohere 消息中，还是使用 conversation_id。
api_key	Optional[str]	None	用于对 Cohere 服务请求进行身份验证的 API 密钥。
client_params	Optional[Dict[str, Any]]	None	客户端配置的附加参数。
cohere_client	Optional[CohereClient]	None	预先配置好的 Cohere 客户端实例。
structured_outputs	bool	False	是否在此模型中使用结构化输出。
supports_structured_outputs	bool	True	该模型是否支持结构化输出。
add_images_to_message_content	bool	True	是否将图片添加到消息内容中。
override_system_role	bool	True	是否覆盖系统角色。
system_message_role	str	"system"	要映射系统消息的角色。

Cohere 是 Model 类的一个子类，可以访问相同的参数。