1.克隆 Docker Compose 存储库:
git clone https://github.com/valiantlynx/ollama-docker.git
2.切换到项目目录:
cd ollama-docker
3.安装docker-compose
sudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
要安装其他版本的 Compose,请替换 1.24.1
4.将可执行权限应用于二进制文件:
sudo chmod +x /usr/local/bin/docker-compose
5.创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
6.测试是否安装成功:
docker-compose --version
显示cker-compose version 1.29.2, build 4667896b
7.部署ollama
docker-compose up -d
访问浏览器中的 http://localhost:8000 以访问 Ollama-webui。
模型安装
导航到 settings -> model 并安装模型(例如 llama2)。这可能需要几分钟下载,可以像 ChatGPT 一样使用它。
![图片[1]-ollama-docker一键部署开源模型](https://tx.smallsheeps.cn/xiaoyang/ollama.png)
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
暂无评论内容