IBM WatsonX 通过 IBM 的云平台提供强大的基础模型访问。

在此处查看所有 IBM WatsonX 支持的模型:https://www.ibm.com/products/watsonx-ai/foundation-models

  • 我们建议将 meta-llama/llama-3-3-70b-instruct 用于通用任务
  • 我们建议将 ibm/granite-20b-code-instruct 用于代码相关任务
  • 我们建议将 meta-llama/llama-3-2-11b-vision-instruct 用于图像理解

多模态支持

通过 WatsonX,我们支持 Image(图像)作为输入

身份验证

设置您的 IBM_WATSONX_API_KEYIBM_WATSONX_PROJECT_ID 环境变量。从 IBM Cloud 获取您的凭据。 您也可以设置 IBM_WATSONX_URL 环境变量为要使用的 WatsonX API 的 URL。它默认为 https://eu-de.ml.cloud.ibm.com

export IBM_WATSONX_API_KEY=***
export IBM_WATSONX_PROJECT_ID=***

示例

在您的 Agent 中使用 WatsonX

from agno.agent import Agent, RunResponse
from agno.models.ibm import WatsonX

agent = Agent(
    model=WatsonX(id="meta-llama/llama-3-3-70b-instruct"),
    markdown=True
)

# 在终端中打印响应
agent.print_response("写一个两句话的恐怖故事。")

在此处查看更多示例:../examples/models/ibm

参数

参数

参数类型默认值描述
idstr"ibm/granite-20b-code-instruct"要使用的模型 ID
frequency_penaltyfloatNone对频繁使用的 token 的惩罚。较高的值会抑制重复
presence_penaltyfloatNone对文本中已存在的 token 的惩罚。较高的值会鼓励新话题
max_tokensintNone响应中要生成的最大 token 数
temperaturefloatNone控制响应的随机性。较高的值使输出更随机
top_pfloatNone通过核心采样控制响应的多样性
logprobsintNone要返回的对数概率的数量
top_logprobsintNone要为之返回对数概率的最有可能的 token 数量
response_formatAnyNone响应的格式规范
api_keystrNoneIBM WatsonX API 密钥
project_idstrNoneIBM WatsonX 项目 ID
urlstr"https://eu-de.ml.cloud.ibm.com"IBM WatsonX API 端点 URL
verifyboolTrue是否验证 SSL 证书
client_paramsDict[str, Any]None要传递给客户端的其他参数

WatsonXModel 的子类,可以访问相同的参数。