ollama-docker一键部署开源模型

项目:valiantlynx/ollama-docker:欢迎使用 Ollama Docker Compose 设置!该项目使用 Docker Compose 简化了 Ollama 的部署,从而可以在容器化环境中轻松运行 Ollama 及其所有依赖项 (github.com)

1.克隆 Docker Compose 存储库:

git clone https://github.com/valiantlynx/ollama-docker.git

2.切换到项目目录:

cd ollama-docker

3.安装docker-compose

sudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

要安装其他版本的 Compose,请替换 1.24.1

4.将可执行权限应用于二进制文件:

sudo chmod +x /usr/local/bin/docker-compose

5.创建软链

sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose

6.测试是否安装成功:

 docker-compose --version

显示cker-compose version 1.29.2, build 4667896b

7.部署ollama

docker-compose up -d

访问浏览器中的 http://localhost:8000 以访问 Ollama-webui。

模型安装

导航到 settings -> model 并安装模型(例如 llama2)。这可能需要几分钟下载,可以像 ChatGPT 一样使用它。

图片[1]-ollama-docker一键部署开源模型
© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容