如何在国内接入 Claude Opus 4.7、GPT-5.5、GPT Image 2

本文主要介绍一种通过 API 在国内接入海外主流大模型的方案。
整体思路是:

在海外服务器上部署 LiteLLM 作为统一代理服务,国内应用直接请求 LiteLLM,再由 LiteLLM 转发至 OpenRouter、OpenAI、Anthropic 等上游模型服务。

该方案适合有一定技术基础、需要稳定调用海外大模型 API 的开发者。


一、准备工作

在开始之前,需要准备以下资源:

资源 说明
一台海外服务器 推荐硅谷,也可选择新加坡、首尔等区域
一张 Visa 信用卡 国内银行发行的 Visa 卡通常也可使用
基础运维能力 需要能登录服务器、执行 Docker Compose 命令

二、整体方案

整体调用链路如下:

国内应用 / 本地工具
        ↓
国内可访问的海外服务器
        ↓
LiteLLM Proxy
        ↓
OpenRouter / OpenAI / Anthropic / 其他模型提供商

为什么选择 LiteLLM?

LiteLLM 可以将不同厂商的大模型 API 统一封装成 OpenAI 兼容接口,便于:

  • 统一管理不同模型
  • 统一设置 API Key
  • 聚合调用日志和消耗统计
  • 后续切换模型时尽量减少业务改动

为什么选择 OpenRouter?

如果拥有海外信用卡,可以直接使用 OpenAI 或 Anthropic 官方 API。
但对于国内用户而言,支付环节往往是主要障碍。

OpenRouter 的优势在于:

  • 聚合了大量主流模型
  • 支持国内 Visa 卡支付
  • 可调用 OpenAI、Anthropic、Google 等多家模型
  • 经常提供部分免费模型,适合测试和轻量使用

三、注册并配置 OpenRouter

1. 注册账号

访问 OpenRouter 官网并完成注册。

2. 充值 Credits

登录后进入:

Settings → Credits

点击 Add Credits,添加支付方式并充值。

3. 配置账单地址

需要注意:

  • 使用国内 Visa 卡时,账单地址需要填写非中国大陆地址,否则无法使用gpt、claude系列API
  • 建议填写服务器所在国家或地区的地址
  • 姓名建议与银行卡持有人姓名保持一致

注意:可以使用地址随机生成器生成随机地址,用于填写,但是账单姓名需要与信用卡姓名报纸一致,地址用生成地址。

4. 创建 API Key

充值完成后,进入:

API Keys

创建新的 API Key,并妥善保存。

API Key 属于高敏感凭证,切勿提交到 Git 仓库、前端代码或任何公开平台。


四、准备海外服务器

可以选择腾讯云、阿里云等云厂商的海外轻量服务器。
在这里插入图片描述
在这里插入图片描述

推荐配置

项目 建议
地域 硅谷优先,也可选择新加坡、首尔
配置 2 核 2G 基本够用
系统镜像 Docker CE
网络 需要公网 IP

在这里插入图片描述

如果是新用户,轻量应用服务器通常有较低的首年价格,具体以云厂商当期活动为准。


五、部署 LiteLLM

服务器准备好后,通过 SSH 或网页控制台登录服务器。

建议新建一个独立目录,例如:

mkdir litellm-proxy
cd litellm-proxy

然后创建以下四个文件:

docker-compose.yml
config.yaml
prometheus.yml
.env

1. docker-compose.yml

services:
  litellm:
    build:
      context: .
      args:
        target: runtime
    image: litellm/litellm:v1.83.13-nightly

    volumes:
      - ./config.yaml:/app/config.yaml

    command:
      - "--config=/app/config.yaml"

    ports:
      - "4875:4000"

    environment:
      DATABASE_URL: "postgresql://llmproxy:dbpassword9090@db:5432/litellm"
      STORE_MODEL_IN_DB: "True"
      STORE_PROMPTS_IN_SPEND_LOGS: "True"

    env_file:
      - .env

    depends_on:
      - db

    healthcheck:
      test: ["CMD-SHELL", "wget --no-verbose --tries=1 http://localhost:4000/health/liveliness || exit 1"]
      interval: 30s
      timeout: 10s
      retries: 3
      start_period: 40s

  db:
    image: postgres:16
    restart: always
    container_name: litellm_db

    environment:
      POSTGRES_DB: litellm
      POSTGRES_USER: llmproxy
      POSTGRES_PASSWORD: dbpassword9090

    volumes:
      - postgres_data:/var/lib/postgresql/data

    healthcheck:
      test: ["CMD-SHELL", "pg_isready -d litellm -U llmproxy"]
      interval: 1s
      timeout: 5s
      retries: 10

  prometheus:
    image: prom/prometheus
    restart: always

    volumes:
      - prometheus_data:/prometheus
      - ./prometheus.yml:/etc/prometheus/prometheus.yml

    command:
      - "--config.file=/etc/prometheus/prometheus.yml"
      - "--storage.tsdb.path=/prometheus"
      - "--storage.tsdb.retention.time=15d"

volumes:
  prometheus_data:
    driver: local

  postgres_data:
    name: litellm_postgres_data

2. config.yaml

general_settings:
  store_model_in_db: true
  store_prompts_in_spend_logs: true

3. prometheus.yml

global:
  scrape_interval: 15s

scrape_configs:
  - job_name: 'litellm'
    static_configs:
      - targets: ['litellm:4000']

4. .env

LITELLM_MASTER_KEY="sk-xxx"
LITELLM_SALT_KEY="sk-xxx"
OPENROUTER_API_KEY="sk-xxx"

各字段含义

环境变量 作用
LITELLM_MASTER_KEY LiteLLM 的主访问密钥,后续请求代理服务时使用
LITELLM_SALT_KEY 数据加密相关密钥,部署后不建议随意修改
OPENROUTER_API_KEY OpenRouter 提供的上游 API Key

注意事项

  • LITELLM_MASTER_KEY 请使用随机复杂字符串
  • 不要使用弱口令,例如 123456admintest
  • .env 文件不要上传到任何代码仓库
  • LITELLM_SALT_KEY 一旦投入使用,不建议随意变更,否则可能影响已有数据的解密

六、启动服务

在当前目录执行:

docker compose up -d

执行后,Docker 会自动拉取镜像并启动服务。

可以通过以下命令查看运行状态:

docker compose ps

查看日志:

docker compose logs -f litellm

七、访问 LiteLLM 管理后台

服务启动成功后,可访问:

http://[服务器 IP]:4875/ui

默认登录方式:

用户名:admin
密码:LITELLM_MASTER_KEY

如果无法访问后台

常见原因是服务器安全组未放行端口。

需要在云厂商控制台中为服务器增加入站规则:

协议 端口
TCP 4875

安全建议

不建议将该端口开放给所有 IP。
更合理的做法是:

  • 仅允许自己的办公网络 IP
  • 或仅允许指定服务器访问
  • 使用白名单方式控制来源

八、在 LiteLLM 中添加模型

进入后台后,在:

Models + Endpoints

中点击 Add Model


在这里插入图片描述

以 GPT Image 2 为例

根据模型提供商填写:

  • Model Name:自定义模型名称
  • Provider:OpenRouter
  • Upstream Model ID:对应模型 ID
  • API Key:使用 OPENROUTER_API_KEY

在这里插入图片描述

添加其他模型

如果需要接入其他模型,可以在 OpenRouter 模型列表中查找其 Model ID。

例如:

anthropic/claude-opus-4.7-fast

只需要在 LiteLLM 中将模型 ID 替换为对应值即可。
在这里插入图片描述


九、调用方式

配置完成后,国内服务即可通过 LiteLLM 统一调用海外模型。

API 地址

http://[服务器 IP]:4875/v1

API Token

LITELLM_MASTER_KEY

Model ID

你在 LiteLLM 后台配置的模型名称

示例:OpenAI SDK 调用

from openai import OpenAI

client = OpenAI(
    base_url="http://[服务器 IP]:4875/v1",
    api_key="你的 LITELLM_MASTER_KEY"
)

response = client.chat.completions.create(
    model="your-model-id",
    messages=[
        {"role": "user", "content": "你好,介绍一下你自己"}
    ]
)

print(response.choices[0].message.content)

十、成本与模型选择建议

需要特别注意的是:

  • GPT、Claude 等旗舰模型的 Token 单价通常较高
  • 多模态模型、图片生成模型的调用成本也明显更高
  • 如果用于日常开发,可根据任务复杂度合理分层选型

一种比较常见的搭配方式是:

任务类型 建议模型
日常问答、格式整理 成本较低的通用模型
复杂代码理解、长文推理 Claude / GPT 高阶模型
图片生成 GPT Image 2 等专用模型
测试验证 OpenRouter 免费模型

OpenRouter 经常提供部分免费模型,虽然通常存在频率限制或稳定性波动,但对于测试和低频使用仍然很有价值。


十一、除了 OpenRouter,还能代理什么?

LiteLLM 不仅可以代理 OpenRouter,还可以接入:

  • OpenAI 官方 API
  • Anthropic 官方 API
  • 自建模型服务
  • 阿里云百炼
  • 腾讯云相关模型服务
  • 其他兼容 OpenAI 协议的模型接口

不过,如果代理的是国内模型,一般没有必要特意部署在海外服务器上,直接使用国内服务器通常延迟更低、链路也更简单。


十二、安全加固建议

这一部分非常重要。

由于 LiteLLM 的端口、接口形态相对固定,公网暴露后可能会被自动化脚本扫描。
一旦:

  • LITELLM_MASTER_KEY 设置过于简单
  • 端口开放给任意 IP
  • 没有做好日志监控

就可能出现:

  • 后台被撞库登录
  • API 被恶意刷量
  • 上游 OpenRouter Key 被滥用
  • 账户余额被快速消耗

建议至少做好以下四点

1. 使用安全组白名单

只允许可信来源访问 LiteLLM 服务端口。

2. 使用高强度 Master Key

建议随机生成,并满足:

  • 足够长
  • 包含大小写字母、数字与符号
  • 不与其他系统复用

3. 定期查看请求日志

重点关注:

  • 异常高频请求
  • 来源 IP 异常
  • 调用模型异常
  • Token 消耗突增

4. 控制上游账户充值额度

OpenRouter 不建议一次性充值过多金额。
更稳妥的方式是:

  • 小额充值
  • 按需续费
  • 定期检查账单和调用量

十三、最终效果

全部配置完成后,即可在国内通过统一 API 访问海外主流大模型:

API Base:  http://[服务器 IP]:4875/v1
API Token: [LITELLM_MASTER_KEY]
Model ID:  [你在 LiteLLM 中配置的模型名]

这样一来,无论是:

  • Claude Opus 4.7
  • GPT-5.5
  • GPT Image 2
  • 还是其他 OpenRouter 上支持的模型

都可以通过统一入口接入到本地工具、服务端项目或自建应用中。


十四、总结

本文方案的核心价值在于:

  1. 统一入口:LiteLLM 对外提供统一 API
  2. 模型覆盖广:OpenRouter 汇集了大量海外主流模型
  3. 国内可用:通过海外服务器解决访问与链路问题
  4. 便于扩展:后续切换模型、增加模型都较为方便

但与此同时,也要注意:

  • 按量计费不可忽视
  • 公网部署必须重视安全
  • 支付和模型可用性会随平台政策变化

对于希望在国内稳定接入海外高阶大模型 API 的开发者而言,这是一套相对实用、可维护性较好的方案。

Logo

openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构

更多推荐