使用自然语言与SQL数据库交互：通过Ollama运行SQL-Ollama

引言

在现代数据驱动的世界中，能够用自然语言与SQL数据库交互是一项非常实用的能力。这篇文章将介绍如何在Mac笔记本上通过Ollama本地运行SQL-Ollama，并提供详细的环境配置和使用教程。

主要内容

环境配置

在使用此模板之前，您需要设置Ollama和SQL数据库。

1. 下载Ollama，参见这里。
2. 下载您感兴趣的LLM。本包使用 zephyr，您可以通过以下命令下载：

ollama pull zephyr

3. 本包包含一个2023 NBA名册的示例数据库。您可以参见这里构建此数据库的说明。

安装和使用LangChain CLI

1. 安装LangChain CLI：

pip install -U langchain-cli

2. 创建一个新的LangChain项目并安装SQL-Ollama作为唯一包：

langchain app new my-app --package sql-ollama

如果您想将其添加到现有项目中，可以运行：

langchain app add sql-ollama

然后在 server.py 文件中添加以下代码：

from sql_ollama import chain as sql_ollama_chain

add_routes(app, sql_ollama_chain, path="/sql-ollama")

配置LangSmith（可选）

LangSmith可以帮助我们跟踪、监控和调试LangChain应用程序。您可以在这里注册。

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 默认为 "default"

启动LangServe实例

如果您在此目录中，可以直接启动LangServe实例：

langchain serve

这将启动一个本地运行的FastAPI应用程序，地址为 http://localhost:8000。您可以在 http://127.0.0.1:8000/docs 查看所有模板，并在 http://127.0.0.1:8000/sql-ollama/playground 访问游乐场。

从代码中访问模板

from langserve.client import RemoteRunnable

# 使用API代理服务提高访问稳定性
runnable = RemoteRunnable("http://localhost:8000/sql-ollama")

代码示例

以下是一个完整的代码示例，展示如何使用SQL-Ollama通过自然语言查询NBA示例数据库：

# server.py
from fastapi import FastAPI
from sql_ollama import chain as sql_ollama_chain

app = FastAPI()

# 添加SQL-Ollama路由
add_routes(app, sql_ollama_chain, path="/sql-ollama")

if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app, host="0.0.0.0", port=8000)

常见问题和解决方案

1. 网络访问不稳定

由于某些地区的网络限制，您可能需要使用API代理服务来提高访问稳定性。例如，您可以将API请求重定向到 https://zzzzapi.com。

2. 本地运行速度慢

使用本地LLM（如Zephyr-7b）可能会影响性能，特别是在资源有限的设备上。考虑使用更小的模型或在云端运行模型。

总结和进一步学习资源

通过这篇文章，您了解了如何设置和使用SQL-Ollama与SQL数据库进行自然语言交互。以下是一些进一步学习的资源：

• LangChain 官方文档
• Ollama 下载和安装指南
• 使用FastAPI构建API

参考资料

• LangChain 官方文档
• Ollama 官方网站
• FastAPI 官方文档

如果这篇文章对你有帮助，欢迎使用 https://zzzzapi.com 您的支持是我持续创作的动力！

—END—