​
集成 Agno 与 Langfuse

Langfuse 是一个强大的平台，用于追踪和监控 AI 模型调用。通过集成 Agno 与 Langfuse，您可以利用 OpenInference 和 OpenLIT 发送 trace，并深入了解您的 agent 性能。

​
先决条件

  1. 安装依赖项

    确保已安装必要的包：

    pip install agno openai langfuse opentelemetry-sdk opentelemetry-exporter-otlp openinference-instrumentation-agno

  2. 设置 Langfuse 账户

    • 自行托管或在 Langfuse 注册一个账户。
    • 从 Langfuse 控制面板获取您的公共 API 密钥和私有 API 密钥。

  3. 设置环境变量

    使用 Langfuse API 密钥配置您的环境：

    export LANGFUSE_PUBLIC_KEY=<your-public-key>
export LANGFUSE_SECRET_KEY=<your-secret-key>

​
发送 Trace 到 Langfuse

  • ​
    示例：将 Langfuse 与 OpenInference 结合使用

    此示例演示了如何使用 OpenInference 为您的 Agno agent 添加 instrument，并向 Langfuse 发送 trace。

    import base64
import os

from agno.agent import Agent
from agno.models.openai import OpenAIChat
from agno.tools.yfinance import YFinanceTools
from openinference.instrumentation.agno import AgnoInstrumentor
from opentelemetry import trace as trace_api
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import SimpleSpanProcessor

# 设置 Langfuse 的环境变量
LANGFUSE_AUTH = base64.b64encode(
    f"{os.getenv('LANGFUSE_PUBLIC_KEY')}:{os.getenv('LANGFUSE_SECRET_KEY')}".encode()
).decode()
os.environ["OTEL_EXPORTER_OTLP_ENDPOINT"] = "https://us.cloud.langfuse.com/api/public/otel"
os.environ["OTEL_EXPORTER_OTLP_HEADERS"] = f"Authorization=Basic {LANGFUSE_AUTH}"

# 配置 tracer provider
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(OTLPSpanExporter()))
trace_api.set_tracer_provider(tracer_provider=tracer_provider)

# 开始 instrument agno
AgnoInstrumentor().instrument()

# 创建并配置 agent
agent = Agent(
    name="Stock Price Agent",
    model=OpenAIChat(id="gpt-4o-mini"),
    tools=[YFinanceTools()],
    instructions="You are a stock price agent. Answer questions in the style of a stock analyst.",
    debug_mode=True,
)

# 使用 agent
agent.print_response("What is the current price of Tesla?")

  • ​
    示例：将 Langfuse 与 OpenLIT 结合使用

    此示例演示了如何通过 OpenLIT 使用 Langfuse 来追踪模型调用。

    import base64
import os

from agno.agent import Agent
from agno.models.openai import OpenAIChat
from agno.tools.duckduckgo import DuckDuckGoTools
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import SimpleSpanProcessor
from opentelemetry import trace

# 设置 Langfuse 的环境变量
LANGFUSE_AUTH = base64.b64encode(
    f"{os.getenv('LANGFUSE_PUBLIC_KEY')}:{os.getenv('LANGFUSE_SECRET_KEY')}".encode()
).decode()
os.environ["OTEL_EXPORTER_OTLP_ENDPOINT"] = "https://us.cloud.langfuse.com/api/public/otel"
os.environ["OTEL_EXPORTER_OTLP_HEADERS"] = f"Authorization=Basic {LANGFUSE_AUTH}"

# 配置 tracer provider
trace_provider = TracerProvider()
trace_provider.add_span_processor(SimpleSpanProcessor(OTLPSpanExporter()))
trace.set_tracer_provider(trace_provider)

# 初始化 OpenLIT instrumentation
import openlit
openlit.init(tracer=trace.get_tracer(__name__), disable_batch=True)

# 创建并配置 agent
agent = Agent(
    model=OpenAIChat(id="gpt-4o-mini"),
    tools=[DuckDuckGoTools()],
    markdown=True,
    debug_mode=True,
)

# 使用 agent
agent.print_response("What is currently trending on Twitter?")

​
注意事项

  • 环境变量：确保为 API 密钥和 OTLP 端点正确设置了环境变量。
  • 数据区域：根据需要调整数据区域或本地部署的 OTEL_EXPORTER_OTLP_ENDPOINT。可用区域包括：
    • 美国区域的 https://us.cloud.langfuse.com/api/public/otel
    • 欧盟区域的 https://eu.cloud.langfuse.com/api/public/otel
    • 本地部署的 http://localhost:3000/api/public/otel

通过遵循这些步骤，您可以有效地集成 Agno 与 Langfuse，从而实现对 AI agent 的全面可观察性和监控。