GPT-Load 文档
学习如何使用 GPT-Load 为您的 AI 应用提供高性能的 API 代理服务
安装部署
Docker 部署（推荐）
# 拉取镜像
docker pull ghcr.io/tbphp/gpt-load:latest
# 创建密钥文件
echo "sk-your-api-key" > keys.txt
# 启动服务
docker run -d -p 3000:3000 \
-v $(pwd)/keys.txt:/app/keys.txt:ro \
ghcr.io/tbphp/gpt-load:latest源码构建
# 克隆项目
git clone https://github.com/tbphp/gpt-load.git
cd gpt-load
# 构建运行
go mod tidy
make build
make run核心功能
多密钥轮询
自动轮换 API 密钥，避免单一密钥限流问题
负载均衡
支持多个上游 API 服务，智能分发请求
错误处理
智能区分永久和临时错误，自动重试和故障转移
实时监控
详细的统计信息和健康检查接口
高性能
基于 Go 语言，支持高并发和零拷贝流式传输
生产就绪
完善的配置选项，支持企业级部署需求