7.8K Star开源OpenAI接口管理和分发系统
软件介绍
one-api 是一个开源的接口管理和分发系统，它支持多种大型模型，如 OpenAI ChatGPT 系列模型、Anthropic Claude 系列模型、Google PaLM 2 和 Gemini 系列模型、百度文心一言系列模型、阿里通义千问系列模型、讯飞星火认知大模型、智谱 ChatGLM 系列模型、360 智脑和腾讯混元大模型。该软件可用于二次分发管理 API key，并且提供了一键部署的 Docker 镜像，方便快速部署和使用。
功能特点
- 多种模型支持：one-api 支持多种大型模型，可以满足不同需求和场景的使用。
- 配置镜像和代理服务：软件支持配置镜像和集成多个第三方代理服务，提供更灵活的部署选项。
- 负载均衡：支持通过负载均衡的方式访问多个渠道，提供更好的稳定性和性能。
- 流式传输：one-api 支持 stream 模式，可以通过流式传输实现打字机效果。
- 多机部署：软件支持在多台机器上进行部署，提供更高的可扩展性。
- 令牌管理：支持设置令牌的过期时间和额度，灵活控制用户访问权限。
- 兑换码管理：支持批量生成和导出兑换码，可用于为账户进行充值。
- 通道管理：支持批量创建通道，方便管理和分配资源。
- 用户分组和渠道分组：支持为不同分组设置不同的倍率，灵活管理用户和渠道。
- 额度明细查询：支持查看额度明细，方便用户了解资源使用情况。
- 用户邀请奖励：提供用户邀请奖励功能，鼓励用户推广和使用软件。
- 界面显示单位：以美元为单位显示额度，便于用户了解消费情况。
- 公告发布和定制设置：支持发布公告、设置充值链接和设置新用户初始额度，方便运营管理。
- 模型映射和重定向：支持模型映射，可重定向用户的请求模型。
- 失败自动重试和绘图接口：支持失败自动重试和绘图接口，提供更好的用户体验。
- Cloudflare AI Gateway 支持：支持 Cloudflare AI Gateway，方便设置代理部分。
- 自定义设置：提供丰富的自定义设置功能，如自定义系统名称、logo、页脚等。
- 用户管理和多种登录注册方式：支持多种用户登录注册方式，如邮箱登录注册、GitHub 开放授权和微信公众号授权。
使用步骤
在基于 Docker 的部署环境中，可以按照以下步骤进行部署和使用：
- 1.使用 SQLite 的部署命令：
docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
若使用 MySQL，请在上面的命令中添加 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" 参数，并自行修改数据库连接参数。
- 2.确保宿主机的目录
/home/ubuntu/data/one-api存在且具有写入权限，或者更改为合适的目录。 - 3.如果启动失败，请添加
--privileged=true参数。 - 4.若要拉取 GitHub 的 Docker 镜像，将上述命令中的
justsong/one-api替换为ghcr.io/songquanpeng/one-api。 - 5.对于高并发量的需求，请设置
SQL_DSN环境变量。 - 6.使用更新命令保持软件最新：
docker run --rm -v /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower -cR
- 7.配置 Nginx：
server {
server_name openai.justsong.cn; # 请根据实际情况修改你的域名
location / {
client_max_body_size 64m;
proxy_http_version 1.1;
proxy_pass http://localhost:3000; # 请根据实际情况修改你的端口
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_cache_bypass $http_upgrade;
proxy_set_header Accept-Encoding gzip;
proxy_read_timeout 300s; # 需要较长的超时时间，请自行调整
}
}
- 8.配置 HTTPS，使用 Let's Encrypt 的 certbot：
sudo snap install --classic certbot
sudo ln -s /snap/bin/certbot /usr/bin/certbot
sudo certbot --nginx
sudo service nginx restart
- 9.初始账号的用户名为
root，密码为123456，请及时修改密码。
本文参与?腾讯云自媒体分享计划，分享自微信公众号。
原始发表：2023-12-30，如有侵权请联系?cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读