静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
✨步子哥 @steper · 2025-11-19 01:04

OpenAI 风格服务商配置

agno 框架提供了两种配置 OpenAI 风格服务商的方式:

方式一:使用内置的服务商

agno 已经内置了多个 OpenAI 风格的服务商,您可以直接使用:

#### 1. OpenRouter

from agno.agent import Agent
from agno.models.openrouter import OpenRouter

# 配置 OpenRouter
agent = Agent(
    model=OpenRouter(
        id="gpt-4o",  # 模型 ID
        api_key="your-openrouter-api-key",  # 可选,会从 OPENROUTER_API_KEY 环境变量读取
    ),
    markdown=True
)

agent.print_response("请介绍一下人工智能")

#### 2. Together AI

from agno.models.together import Together

agent = Agent(
    model=Together(
        id="meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo",
    )
)

#### 3. LiteLLM OpenAI

from agno.models.litellm import LiteLLMOpenAI

agent = Agent(
    model=LiteLLMOpenAI(
        id="gpt-4o",
        api_key="your-litellm-api-key",  # 可选,从 LITELLM_API_KEY 环境变量读取
    )
)

#### 4. SiliconFlow

from agno.models.siliconflow import Siliconflow

agent = Agent(
    model=Siliconflow(
        id="openai/gpt-oss-120b",
    )
)

方式二:使用 OpenAILike 自定义配置

对于任何使用 OpenAI API 格式的服务商,您可以使用 OpenAILike 类:

from agno.models.openai.like import OpenAILike
from agno.agent import Agent

# 自定义 OpenAI 风格服务商
custom_model = OpenAILike(
    id="your-model-id",  # 模型 ID
    name="Your Provider",
    provider="Your Provider Name",
    api_key="your-api-key",  # API 密钥
    base_url="https://your-provider-api.com/v1",  # API 基础 URL
    max_tokens=1024,
    temperature=0.7,
)

agent = Agent(
    model=custom_model,
    markdown=True
)

agent.print_response("Hello, how are you?")

环境变量配置

为了安全起见,建议使用环境变量存储 API 密钥:

# 设置环境变量
export OPENROUTER_API_KEY="your-openrouter-key"
export TOGETHER_API_KEY="your-together-key"
export LITELLM_API_KEY="your-litellm-key"
export YOUR_CUSTOM_API_KEY="your-custom-key"

然后在代码中使用:

# OpenRouter 会自动从 OPENROUTER_API_KEY 环境变量读取
model = OpenRouter(id="gpt-4o")

# 自定义服务商
model = OpenAILike(
    id="your-model-id",
    api_key="your-api-key",  # 或从环境变量读取
    base_url="https://your-provider.com/v1"
)

常用服务商配置示例

#### DeepSeek

from agno.models.deepseek import DeepSeek

agent = Agent(
    model=DeepSeek(
        id="deepseek-chat",
        api_key="your-deepseek-key",  # 或设置 DEEPSEEK_API_KEY 环境变量
    )
)

#### Anthropic via OpenAI Format

from agno.models.cerebras.cerebras_openai import CerebrasOpenAI

agent = Agent(
    model=CerebrasOpenAI(
        id="llama-4-scout-17b-16e-instruct",
        api_key="your-cerebras-key",
    )
)

重要配置参数

所有 OpenAI 风格模型支持的主要参数:

  • id: 模型 ID(如 "gpt-4o", "claude-3-sonnet")
  • api_key: API 密钥
  • base_url: API 基础 URL(自定义提供商时必需)
  • max_tokens: 最大生成 token 数
  • temperature: 温度参数(0.0-2.0)
  • top_p: 核采样参数
  • frequency_penalty: 频率惩罚
  • presence_penalty: 存在惩罚
  • stop: 停止词

使用建议

1. 优先使用内置服务商:OpenRouter、Together、LiteLLM 等已经过优化和测试 2. 安全存储 API 密钥:使用环境变量而不是硬编码 3. 测试连接:先运行简单查询验证配置是否正确 4. 查看文档:每个服务商都有其特定的模型 ID 和端点

这样配置后,您就可以像使用 OpenAI 一样使用这些服务商了!

👍 1🚀 1