如何在国内API方式接入 Claude Opus 4.7、GPT-5.5、GPT Image 2
本文介绍了一种在国内接入海外主流大模型(如Claude Opus 4.7、GPT-5.5等)的技术方案。核心思路是通过在海外服务器部署LiteLLM作为代理服务,统一对接OpenRouter等上游模型API。方案详细说明了准备工作、服务器选择、OpenRouter注册充值、LiteLLM部署配置等关键步骤,并提供了docker-compose配置文件和注意事项。该方案适合需要稳定调用海外大模型AP
如何在国内接入 Claude Opus 4.7、GPT-5.5、GPT Image 2
本文主要介绍一种通过 API 在国内接入海外主流大模型的方案。
整体思路是:
在海外服务器上部署 LiteLLM 作为统一代理服务,国内应用直接请求 LiteLLM,再由 LiteLLM 转发至 OpenRouter、OpenAI、Anthropic 等上游模型服务。
该方案适合有一定技术基础、需要稳定调用海外大模型 API 的开发者。
一、准备工作
在开始之前,需要准备以下资源:
| 资源 | 说明 |
|---|---|
| 一台海外服务器 | 推荐硅谷,也可选择新加坡、首尔等区域 |
| 一张 Visa 信用卡 | 国内银行发行的 Visa 卡通常也可使用 |
| 基础运维能力 | 需要能登录服务器、执行 Docker Compose 命令 |
二、整体方案
整体调用链路如下:
国内应用 / 本地工具
↓
国内可访问的海外服务器
↓
LiteLLM Proxy
↓
OpenRouter / OpenAI / Anthropic / 其他模型提供商
为什么选择 LiteLLM?
LiteLLM 可以将不同厂商的大模型 API 统一封装成 OpenAI 兼容接口,便于:
- 统一管理不同模型
- 统一设置 API Key
- 聚合调用日志和消耗统计
- 后续切换模型时尽量减少业务改动
为什么选择 OpenRouter?
如果拥有海外信用卡,可以直接使用 OpenAI 或 Anthropic 官方 API。
但对于国内用户而言,支付环节往往是主要障碍。
OpenRouter 的优势在于:
- 聚合了大量主流模型
- 支持国内 Visa 卡支付
- 可调用 OpenAI、Anthropic、Google 等多家模型
- 经常提供部分免费模型,适合测试和轻量使用
三、注册并配置 OpenRouter
1. 注册账号
访问 OpenRouter 官网并完成注册。
2. 充值 Credits
登录后进入:
Settings → Credits
点击 Add Credits,添加支付方式并充值。
3. 配置账单地址
需要注意:
- 使用国内 Visa 卡时,账单地址需要填写非中国大陆地址,否则无法使用gpt、claude系列API
- 建议填写服务器所在国家或地区的地址
- 姓名建议与银行卡持有人姓名保持一致
注意:可以使用地址随机生成器生成随机地址,用于填写,但是账单姓名需要与信用卡姓名报纸一致,地址用生成地址。
4. 创建 API Key
充值完成后,进入:
API Keys
创建新的 API Key,并妥善保存。
API Key 属于高敏感凭证,切勿提交到 Git 仓库、前端代码或任何公开平台。
四、准备海外服务器
可以选择腾讯云、阿里云等云厂商的海外轻量服务器。

推荐配置
| 项目 | 建议 |
|---|---|
| 地域 | 硅谷优先,也可选择新加坡、首尔 |
| 配置 | 2 核 2G 基本够用 |
| 系统镜像 | Docker CE |
| 网络 | 需要公网 IP |

如果是新用户,轻量应用服务器通常有较低的首年价格,具体以云厂商当期活动为准。
五、部署 LiteLLM
服务器准备好后,通过 SSH 或网页控制台登录服务器。
建议新建一个独立目录,例如:
mkdir litellm-proxy
cd litellm-proxy
然后创建以下四个文件:
docker-compose.yml
config.yaml
prometheus.yml
.env
1. docker-compose.yml
services:
litellm:
build:
context: .
args:
target: runtime
image: litellm/litellm:v1.83.13-nightly
volumes:
- ./config.yaml:/app/config.yaml
command:
- "--config=/app/config.yaml"
ports:
- "4875:4000"
environment:
DATABASE_URL: "postgresql://llmproxy:dbpassword9090@db:5432/litellm"
STORE_MODEL_IN_DB: "True"
STORE_PROMPTS_IN_SPEND_LOGS: "True"
env_file:
- .env
depends_on:
- db
healthcheck:
test: ["CMD-SHELL", "wget --no-verbose --tries=1 http://localhost:4000/health/liveliness || exit 1"]
interval: 30s
timeout: 10s
retries: 3
start_period: 40s
db:
image: postgres:16
restart: always
container_name: litellm_db
environment:
POSTGRES_DB: litellm
POSTGRES_USER: llmproxy
POSTGRES_PASSWORD: dbpassword9090
volumes:
- postgres_data:/var/lib/postgresql/data
healthcheck:
test: ["CMD-SHELL", "pg_isready -d litellm -U llmproxy"]
interval: 1s
timeout: 5s
retries: 10
prometheus:
image: prom/prometheus
restart: always
volumes:
- prometheus_data:/prometheus
- ./prometheus.yml:/etc/prometheus/prometheus.yml
command:
- "--config.file=/etc/prometheus/prometheus.yml"
- "--storage.tsdb.path=/prometheus"
- "--storage.tsdb.retention.time=15d"
volumes:
prometheus_data:
driver: local
postgres_data:
name: litellm_postgres_data
2. config.yaml
general_settings:
store_model_in_db: true
store_prompts_in_spend_logs: true
3. prometheus.yml
global:
scrape_interval: 15s
scrape_configs:
- job_name: 'litellm'
static_configs:
- targets: ['litellm:4000']
4. .env
LITELLM_MASTER_KEY="sk-xxx"
LITELLM_SALT_KEY="sk-xxx"
OPENROUTER_API_KEY="sk-xxx"
各字段含义
| 环境变量 | 作用 |
|---|---|
LITELLM_MASTER_KEY |
LiteLLM 的主访问密钥,后续请求代理服务时使用 |
LITELLM_SALT_KEY |
数据加密相关密钥,部署后不建议随意修改 |
OPENROUTER_API_KEY |
OpenRouter 提供的上游 API Key |
注意事项
LITELLM_MASTER_KEY请使用随机复杂字符串- 不要使用弱口令,例如
123456、admin、test .env文件不要上传到任何代码仓库LITELLM_SALT_KEY一旦投入使用,不建议随意变更,否则可能影响已有数据的解密
六、启动服务
在当前目录执行:
docker compose up -d
执行后,Docker 会自动拉取镜像并启动服务。
可以通过以下命令查看运行状态:
docker compose ps
查看日志:
docker compose logs -f litellm
七、访问 LiteLLM 管理后台
服务启动成功后,可访问:
http://[服务器 IP]:4875/ui
默认登录方式:
用户名:admin
密码:LITELLM_MASTER_KEY
如果无法访问后台
常见原因是服务器安全组未放行端口。
需要在云厂商控制台中为服务器增加入站规则:
| 协议 | 端口 |
|---|---|
| TCP | 4875 |
安全建议
不建议将该端口开放给所有 IP。
更合理的做法是:
- 仅允许自己的办公网络 IP
- 或仅允许指定服务器访问
- 使用白名单方式控制来源
八、在 LiteLLM 中添加模型
进入后台后,在:
Models + Endpoints
中点击 Add Model。

以 GPT Image 2 为例
根据模型提供商填写:
- Model Name:自定义模型名称
- Provider:OpenRouter
- Upstream Model ID:对应模型 ID
- API Key:使用
OPENROUTER_API_KEY

添加其他模型
如果需要接入其他模型,可以在 OpenRouter 模型列表中查找其 Model ID。
例如:
anthropic/claude-opus-4.7-fast
只需要在 LiteLLM 中将模型 ID 替换为对应值即可。
九、调用方式
配置完成后,国内服务即可通过 LiteLLM 统一调用海外模型。
API 地址
http://[服务器 IP]:4875/v1
API Token
LITELLM_MASTER_KEY
Model ID
你在 LiteLLM 后台配置的模型名称
示例:OpenAI SDK 调用
from openai import OpenAI
client = OpenAI(
base_url="http://[服务器 IP]:4875/v1",
api_key="你的 LITELLM_MASTER_KEY"
)
response = client.chat.completions.create(
model="your-model-id",
messages=[
{"role": "user", "content": "你好,介绍一下你自己"}
]
)
print(response.choices[0].message.content)
十、成本与模型选择建议
需要特别注意的是:
- GPT、Claude 等旗舰模型的 Token 单价通常较高
- 多模态模型、图片生成模型的调用成本也明显更高
- 如果用于日常开发,可根据任务复杂度合理分层选型
一种比较常见的搭配方式是:
| 任务类型 | 建议模型 |
|---|---|
| 日常问答、格式整理 | 成本较低的通用模型 |
| 复杂代码理解、长文推理 | Claude / GPT 高阶模型 |
| 图片生成 | GPT Image 2 等专用模型 |
| 测试验证 | OpenRouter 免费模型 |
OpenRouter 经常提供部分免费模型,虽然通常存在频率限制或稳定性波动,但对于测试和低频使用仍然很有价值。
十一、除了 OpenRouter,还能代理什么?
LiteLLM 不仅可以代理 OpenRouter,还可以接入:
- OpenAI 官方 API
- Anthropic 官方 API
- 自建模型服务
- 阿里云百炼
- 腾讯云相关模型服务
- 其他兼容 OpenAI 协议的模型接口
不过,如果代理的是国内模型,一般没有必要特意部署在海外服务器上,直接使用国内服务器通常延迟更低、链路也更简单。
十二、安全加固建议
这一部分非常重要。
由于 LiteLLM 的端口、接口形态相对固定,公网暴露后可能会被自动化脚本扫描。
一旦:
LITELLM_MASTER_KEY设置过于简单- 端口开放给任意 IP
- 没有做好日志监控
就可能出现:
- 后台被撞库登录
- API 被恶意刷量
- 上游 OpenRouter Key 被滥用
- 账户余额被快速消耗
建议至少做好以下四点
1. 使用安全组白名单
只允许可信来源访问 LiteLLM 服务端口。
2. 使用高强度 Master Key
建议随机生成,并满足:
- 足够长
- 包含大小写字母、数字与符号
- 不与其他系统复用
3. 定期查看请求日志
重点关注:
- 异常高频请求
- 来源 IP 异常
- 调用模型异常
- Token 消耗突增
4. 控制上游账户充值额度
OpenRouter 不建议一次性充值过多金额。
更稳妥的方式是:
- 小额充值
- 按需续费
- 定期检查账单和调用量
十三、最终效果
全部配置完成后,即可在国内通过统一 API 访问海外主流大模型:
API Base: http://[服务器 IP]:4875/v1
API Token: [LITELLM_MASTER_KEY]
Model ID: [你在 LiteLLM 中配置的模型名]
这样一来,无论是:
- Claude Opus 4.7
- GPT-5.5
- GPT Image 2
- 还是其他 OpenRouter 上支持的模型
都可以通过统一入口接入到本地工具、服务端项目或自建应用中。
十四、总结
本文方案的核心价值在于:
- 统一入口:LiteLLM 对外提供统一 API
- 模型覆盖广:OpenRouter 汇集了大量海外主流模型
- 国内可用:通过海外服务器解决访问与链路问题
- 便于扩展:后续切换模型、增加模型都较为方便
但与此同时,也要注意:
- 按量计费不可忽视
- 公网部署必须重视安全
- 支付和模型可用性会随平台政策变化
对于希望在国内稳定接入海外高阶大模型 API 的开发者而言,这是一套相对实用、可维护性较好的方案。
openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构
更多推荐

所有评论(0)