OpenAI 风格服务商配置
agno 框架提供了两种配置 OpenAI 风格服务商的方式:
方式一:使用内置的服务商
agno 已经内置了多个 OpenAI 风格的服务商,您可以直接使用:
#### 1. OpenRouter
from agno.agent import Agent
from agno.models.openrouter import OpenRouter
# 配置 OpenRouter
agent = Agent(
model=OpenRouter(
id="gpt-4o", # 模型 ID
api_key="your-openrouter-api-key", # 可选,会从 OPENROUTER_API_KEY 环境变量读取
),
markdown=True
)
agent.print_response("请介绍一下人工智能")
#### 2. Together AI
from agno.models.together import Together
agent = Agent(
model=Together(
id="meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo",
)
)
#### 3. LiteLLM OpenAI
from agno.models.litellm import LiteLLMOpenAI
agent = Agent(
model=LiteLLMOpenAI(
id="gpt-4o",
api_key="your-litellm-api-key", # 可选,从 LITELLM_API_KEY 环境变量读取
)
)
#### 4. SiliconFlow
from agno.models.siliconflow import Siliconflow
agent = Agent(
model=Siliconflow(
id="openai/gpt-oss-120b",
)
)
方式二:使用 OpenAILike 自定义配置
对于任何使用 OpenAI API 格式的服务商,您可以使用 OpenAILike 类:
from agno.models.openai.like import OpenAILike
from agno.agent import Agent
# 自定义 OpenAI 风格服务商
custom_model = OpenAILike(
id="your-model-id", # 模型 ID
name="Your Provider",
provider="Your Provider Name",
api_key="your-api-key", # API 密钥
base_url="https://your-provider-api.com/v1", # API 基础 URL
max_tokens=1024,
temperature=0.7,
)
agent = Agent(
model=custom_model,
markdown=True
)
agent.print_response("Hello, how are you?")
环境变量配置
为了安全起见,建议使用环境变量存储 API 密钥:
# 设置环境变量
export OPENROUTER_API_KEY="your-openrouter-key"
export TOGETHER_API_KEY="your-together-key"
export LITELLM_API_KEY="your-litellm-key"
export YOUR_CUSTOM_API_KEY="your-custom-key"
然后在代码中使用:
# OpenRouter 会自动从 OPENROUTER_API_KEY 环境变量读取
model = OpenRouter(id="gpt-4o")
# 自定义服务商
model = OpenAILike(
id="your-model-id",
api_key="your-api-key", # 或从环境变量读取
base_url="https://your-provider.com/v1"
)
常用服务商配置示例
#### DeepSeek
from agno.models.deepseek import DeepSeek
agent = Agent(
model=DeepSeek(
id="deepseek-chat",
api_key="your-deepseek-key", # 或设置 DEEPSEEK_API_KEY 环境变量
)
)
#### Anthropic via OpenAI Format
from agno.models.cerebras.cerebras_openai import CerebrasOpenAI
agent = Agent(
model=CerebrasOpenAI(
id="llama-4-scout-17b-16e-instruct",
api_key="your-cerebras-key",
)
)
重要配置参数
所有 OpenAI 风格模型支持的主要参数:
- id: 模型 ID(如 "gpt-4o", "claude-3-sonnet")
- api_key: API 密钥
- base_url: API 基础 URL(自定义提供商时必需)
- max_tokens: 最大生成 token 数
- temperature: 温度参数(0.0-2.0)
- top_p: 核采样参数
- frequency_penalty: 频率惩罚
- presence_penalty: 存在惩罚
- stop: 停止词
使用建议
1. 优先使用内置服务商:OpenRouter、Together、LiteLLM 等已经过优化和测试 2. 安全存储 API 密钥:使用环境变量而不是硬编码 3. 测试连接:先运行简单查询验证配置是否正确 4. 查看文档:每个服务商都有其特定的模型 ID 和端点
这样配置后,您就可以像使用 OpenAI 一样使用这些服务商了!