从Docker到AI应用：ollama-docker让本地大模型部署像搭积木一样简单

【免费下载链接】ollama-docker Welcome to the Ollama Docker Compose Setup! This project simplifies the deployment of Ollama using Docker Compose, making it easy to run Ollama with all its dependencies in a containerized environment 项目地址: https://gitcode.com/gh_mirrors/ol/ollama-docker

ollama-docker是一个基于Docker Compose的Ollama部署解决方案，它将复杂的本地大模型部署流程简化为几个简单步骤，让普通用户也能轻松搭建属于自己的AI助手。无论你是AI爱好者、开发者还是研究人员，这个项目都能帮助你快速在本地环境中运行高性能的大语言模型。

🚀 为什么选择ollama-docker？

本地部署大模型通常面临环境配置复杂、依赖冲突、资源占用高等问题。ollama-docker通过容器化技术解决了这些痛点：

• 一键部署：无需手动安装Python环境、CUDA驱动或复杂依赖
• 隔离环境：容器化设计确保系统干净，不会污染本地环境
• 灵活扩展：支持CPU和GPU两种运行模式，满足不同硬件条件
• 完整生态：内置WebUI界面和Langchain集成，开箱即可使用

📋 准备工作：只需两个前提条件

开始之前，请确保你的系统已安装：

• Docker（包含Docker Compose功能）

如果你有NVIDIA显卡并希望启用GPU加速，还需要安装NVIDIA Container Toolkit。项目提供了完整的GPU支持配置脚本，位于项目根目录下，按照说明执行即可完成配置。

🔧 三步完成本地大模型部署

1️⃣ 获取项目代码

首先克隆仓库到本地：

git clone https://gitcode.com/gh_mirrors/ol/ollama-docker
cd ollama-docker

2️⃣ 启动服务

根据你的硬件情况选择合适的启动命令：

CPU模式（适用于没有独立显卡的设备）：

docker compose up -d

GPU模式（适用于有NVIDIA显卡的设备）：

docker compose -f docker-compose-ollama-gpu.yaml up -d

启动成功后，系统会自动创建三个容器：

• ollama：核心模型服务
• ollama-webui：直观的Web操作界面
• app：开发环境，包含Langchain示例代码

3️⃣ 访问与使用

打开浏览器访问 http://localhost:8080 即可进入Ollama WebUI界面。首次使用时，导航到"设置→模型"页面安装你喜欢的模型（如llava-phi3），稍等几分钟下载完成后，就可以像使用ChatGPT一样与本地大模型交互了！

💡 进阶玩法：探索Langchain与Ollama集成

项目的app容器提供了Langchain与Ollama集成的示例代码，位于src目录下：

• basic_chain.py：基础的链操作示例
• rag.py：检索增强生成功能实现
• main.py：Web服务入口文件

你可以通过VS Code的"Remote Development"扩展直接在容器中开发，或者使用项目提供的run.sh脚本设置本地虚拟环境。

🧹 停止与清理

当你需要停止服务时，只需执行：

docker compose down

这将停止所有容器并清理网络资源，但不会删除已下载的模型文件，下次启动时可以直接使用。

📄 许可证信息

本项目采用RSOSL许可证，详细条款请参见项目根目录下的LICENCE.md文件。你可以自由使用、修改和分发本项目，但请保留原作者署名和贡献声明。

通过ollama-docker，即使是AI新手也能在几分钟内搭建起功能完备的本地大模型环境。无论是学习AI开发、构建个人助手，还是进行模型测试，这个项目都能为你提供简单而强大的工具支持。立即尝试，开启你的本地AI之旅吧！ 🤖💻

【免费下载链接】ollama-docker Welcome to the Ollama Docker Compose Setup! This project simplifies the deployment of Ollama using Docker Compose, making it easy to run Ollama with all its dependencies in a containerized environment 项目地址: https://gitcode.com/gh_mirrors/ol/ollama-docker