文档 · 接入

OpenAI SDK 接入

使用 OpenAI 官方 SDK(Python / Node.js)或直接发 HTTP 请求接入。已有 OpenAI 代码只需改 Base URL 和 API Key。

安装

pip install --upgrade openai

初始化客户端

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ["OPENAI_BASE_URL"],   # https://<your-endpoint>/v1
    api_key=os.environ["OPENAI_API_KEY"],
    timeout=300,        # seconds; use streaming for long outputs
    max_retries=3,      # built-in exponential backoff (429 / 5xx / network)
)
OpenAI SDK 的 Base URL 必须以 /v1 结尾,例如 https://<your-endpoint>/v1。缺少 /v1 会得到 404。

使用环境变量

不在代码里写地址也可以:设置以下环境变量后,OpenAI() 无参数初始化即可。

# Find your endpoint and API key in the console
export OPENAI_BASE_URL="https://<your-endpoint>/v1"
export OPENAI_API_KEY="YOUR_API_KEY"

直接使用 HTTP

任何语言都可以直接发 HTTPS 请求,请求体与 OpenAI 一致:

curl https://<your-endpoint>/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4.1-mini",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

第三方框架与工具

支持自定义 OpenAI Base URL 的框架都可以直接使用,例如 LangChain(ChatOpenAI(base_url=..., api_key=...))、LlamaIndex、Vercel AI SDK(createOpenAI({ baseURL })),以及各类支持「OpenAI 兼容」配置的客户端。把 Base URL 填为控制台中的地址(带 /v1),模型名填目录中的模型 ID 即可。