One-API 旨在管理和分发多个语言模型(LLM)的 API 接口。这个系统支持多种主流的语言模型,包括 OpenAI、Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元等。用户可以通过一个统一的 API 接口来管理和使用这些不同的模型。
部署 One-API 非常简单,以下是具体步骤:
环境要求
- 安装 Docker 和 Docker Compose
- 配置一个支持 Docker 的服务器
部署步骤
基于 Docker 进行部署
使用 SQLite 作为数据库
docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
其中,-p 3000:3000
中的第一个 3000
是宿主机的端口,可以根据需要进行修改。
使用 MySQL 的部署命令,在上面的基础上添加 `-e SQL_DSN=”root:123456@tcp(localhost:3306)/oneapi”`
docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
SQL_DSN
:设置之后将使用指定数据库而非 SQLite,使用 MySQL
- 例子:MySQL:
SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
这个连接字符串由几个部分组成:
- 用户名(root):连接到数据库的用户名,这里是
root
。 - 密码(123456):连接到数据库的密码,这里是
123456
。 - 数据库协议和地址(tcp(localhost:3306)):
tcp
表示使用 TCP 协议进行连接。localhost
表示数据库服务器的地址,这里是本地服务器。3306
是 MySQL 数据库的默认端口。
- 数据库名称(/oneapi):要连接的数据库的名称,这里是
oneapi
。
基于 Docker Compose 进行部署
1.克隆仓库
git clone https://github.com/songquanpeng/one-api.git
cd one-api
2.构建和启动容器
docker-compose up -d
这里会拉取MySQL,one-api,redis三个容器,one-api镜像第一次可能需要重启
![图片[1]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站](https://tx.smallsheeps.cn/xiaoyang/one-api1.png)
源码部署方式推荐大家去看源项目,我个人喜欢用docker
项目:https://github.com/songquanpeng/one-api
使用
1.访问ihttp://localhost:3000,登录root
账号,密码:123456
,才会出现渠道
![图片[2]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站](https://tx.smallsheeps.cn/xiaoyang/one-api2.png)
2.按照图片填写openai,前面保持一致,服务器在国内,请使用代理地址https://api.openai-proxy.com
,这个代理地址我使用了很久,速度快,稳定
![图片[3]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站](https://tx.smallsheeps.cn/xiaoyang/one-api3.png)
3.文心,千问,星火也是一样填写,点击测试,看是否有响应时间
![图片[4]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站](https://tx.smallsheeps.cn/xiaoyang/one-api4.png)
4.点击令牌,添加令牌,这个令牌可以使用在渠道添加的所有大模型接口
![图片[5]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站](https://tx.smallsheeps.cn/xiaoyang/one-api5.png)
5.使用NextChat时,自定义的接口要填入你one-api的访问地址,API-Key填入令牌
![图片[6]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站](https://tx.smallsheeps.cn/xiaoyang/one-api6.png)
暂无评论内容