问题:本地刚搭建的ollama,部署了deepseek-r1,但随后部署的fastgpt却无法访问,提示connection error

排查:

1、通过本机浏览器或者postman都可以调用大模型接口

http://127.0.0.1:11434/v1/chat/completions

2、关闭防火墙:无效

3、重启大法:重启docker、重启os无效

4、在docker中调用ollama接口尝试,http://127.0.0.1:11434,竟然失败

4、尝试使用本机IP地址调用http://192.168.10.10:11434连接不上,再仔细排查,原来默认情况下,Ollama 服务仅在本地运行,不对外提供服务。

找到问题所在后

解决:添加环境变量

OLLAMA_HOST=0.0.0.0

OLLAMA_ORIGINS=*

验证:

再次在docker中访问http://192.168.10.10:11434,连接成功。

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐