快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)

One-API 旨在管理和分发多个语言模型(LLM)的 API 接口。这个系统支持多种主流的语言模型,包括 OpenAI、Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元等。用户可以通过一个统一的 API 接口来管理和使用这些不同的模型。

部署 One-API 非常简单,以下是具体步骤:

环境要求

  • 安装 Docker 和 Docker Compose
  • 配置一个支持 Docker 的服务器

部署步骤

基于 Docker 进行部署

使用 SQLite 作为数据库

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

其中,-p 3000:3000 中的第一个 3000 是宿主机的端口,可以根据需要进行修改。

使用 MySQL 的部署命令,在上面的基础上添加 `-e SQL_DSN=”root:123456@tcp(localhost:3306)/oneapi”`

docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

SQL_DSN:设置之后将使用指定数据库而非 SQLite,使用 MySQL

  • 例子:MySQL:SQL_DSN=root:123456@tcp(localhost:3306)/oneapi

这个连接字符串由几个部分组成:

  1. 用户名(root):连接到数据库的用户名,这里是 root
  2. 密码(123456):连接到数据库的密码,这里是 123456
  3. 数据库协议和地址(tcp(localhost:3306))
    • tcp 表示使用 TCP 协议进行连接。
    • localhost 表示数据库服务器的地址,这里是本地服务器。
    • 3306 是 MySQL 数据库的默认端口。
  4. 数据库名称(/oneapi):要连接的数据库的名称,这里是 oneapi

基于 Docker Compose 进行部署

1.克隆仓库

git clone https://github.com/songquanpeng/one-api.git
cd one-api

2.构建和启动容器

docker-compose up -d

这里会拉取MySQL,one-api,redis三个容器,one-api镜像第一次可能需要重启

图片[1]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站

源码部署方式推荐大家去看源项目,我个人喜欢用docker

项目:https://github.com/songquanpeng/one-api

使用

1.访问ihttp://localhost:3000,登录root账号,密码:123456,才会出现渠道

图片[2]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站

2.按照图片填写openai,前面保持一致,服务器在国内,请使用代理地址https://api.openai-proxy.com,这个代理地址我使用了很久,速度快,稳定

图片[3]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站

3.文心,千问,星火也是一样填写,点击测试,看是否有响应时间

图片[4]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站

4.点击令牌,添加令牌,这个令牌可以使用在渠道添加的所有大模型接口

图片[5]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站

5.使用NextChat时,自定义的接口要填入你one-api的访问地址,API-Key填入令牌

图片[6]-快速部署 One-API 管理系统,统一管理文心,千问,openai大模型的接口(详细部署教程)-小羊网站
© 版权声明
THE END
喜欢就支持一下吧
点赞15 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容