本学习系列以Ollama推理后端作为大语言模型,展开对LangChain框架的入门学习。

模型采用deepseek-r1:7b
毕竟是免费开源的,下载过程耐心等待即可。

如果可以连接外网,也可以通过OpenAI,来建立LLM模型

一、安装LangChain

其中 langchain_chroma 是向量数据库,将转成的向量数据库存在Chroma里

pip install langchain -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install langchain_community -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install langchain_ollama -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install langchain_chroma -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install "langserve[all]" -i https://pypi.tuna.tsinghua.edu.cn/simple

二、安装Ollama

打开Ollama官网
https://ollama.com/download
找到Linux的下载链接

在这里插入图片描述
运行链接

curl -fsSL https://ollama.com/install.sh | sh

三、Ollama下载DeepSeekR1-7b模型

玩具版本,就用7b执行

ollama run deepseek-r1

下载过程可能会有点慢,耐心等待接口。

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐