认证
设置您的TOGETHER_API_KEY
环境变量。在此处从 Together 获取您的密钥:from Together here。
示例
在您的Agent
中使用 Together
:
在此处查看更多示例:here。
参数
参数 | 类型 | 默认值 | 描述 |
---|---|---|---|
id | str | "mistralai/Mixtral-8x7B-Instruct-v0.1" | 要使用的 Together 模型 ID。 |
name | str | "Together" | 此聊天模型实例的名称。 |
provider | str | "Together " + id | 模型的提供者。 |
api_key | Optional[str] | None | 授权 Together 请求的 API 密钥。默认为环境变量 TOGETHER_API_KEY 。 |
base_url | str | "https://api.together.xyz/v1" | API 请求的基础 URL。 |
monkey_patch | bool | False | 是否应用 monkey patching。 |
Together
还支持 OpenAI 的参数。