目录

1.大模型使用

1.1大模型部署

自己部署

1.2总结

2.大模型调用

2.1常见参数

2.2响应数据

3.LangChain4j

3.1会话功能

3.11Spring整合LangChain4j

1.13会话功能-流式调用

1.14会话功能-消息注解

1.15会话功能-会话记忆

1.16会话功能-会话记忆隔离

1.17会话功能-会话记忆持久化-redis

3.2RAG知识库

3.2.1快速入门

3.3Tools工具

---

1.大模型使用

1.1大模型部署

自己部署

云服务器部署

优势：前期成本低，维护简单

劣势：数据不安全，长期使用成本高

本地机器部署

优势：数据安全；长期成本低

劣势：初期成本高，维护困难

他人部署

• 

1.2总结

1.大模型部署方式

• 自己部署，他人部署（三方平台）

2.本机部署（ollama）

3.使用Apifox访问大模型

• 0llama默认端口11434

2.大模型调用

2.1常见参数

使用大模型需要传递的参数，在访问大模型时都需要在请求体中以json的形式进行传递。

2.2响应数据

在于大模型交互的过程中，大模型响应的数据是json格式的数据

3.LangChain4j

3.1会话功能

快速入门

1.引入Langchian4j依赖

2.构建OpenAiChatModel对象

3.调用chat方法于大模型交互

idea在读取系统的环境变量的时候是在第一次打开idea的时候

打印日志信息

3.11Spring整合LangChain4j

1.构建springboot项目

2.引入起步依赖

3.application.yml中配置大模型

4.开发接口，调用大模型

3.12会话功能-Aiservices工具类

为了简化chatmodel的使用，Langchain4j开发了Aiservices工具类

• 1.引入依赖
• 
• 2.声明接口
• 
• 3.使用AiServices为接口创建代理对象
• 
• 4.在controller中注入并使用
• 

1.13会话功能-流式调用

• 1.引入依赖
• 
• 2.配置流式模型对象
• 
• 3.切换接口中方法的返回值类型
• 
• 4.修改Controller中的代码

1.14会话功能-消息注解

• @SystemMessage
• 
• @UserMessage

1.15会话功能-会话记忆

1.定义会话记忆对象

2.配置会话记忆对象

1.16会话功能-会话记忆隔离

我们做的会话记忆，所有会话使用的是同一个记忆存储对象，因此不同会话之间的记忆没有做到隔离。

1.定义会话记忆对象提供者

2.配置会话记忆对象提供者

3.ConsultantService接口方法中添加参数memoryId

4.Controller中chat接口方法中添加参数memoryId

5.前端页面请求时传递momoryId

1.17会话功能-会话记忆持久化-redis

• 1.引入redis起步依赖
• 2.配置redis连接信息
• 3.提供ChatMemoryStore实现类
• 
• 4.配置ChatMemoryStore
• 

3.2RAG知识库

3.2.1快速入门

1.存储（构建向量数据库操作对象）

• 引入依赖
• 
• 加载知识数据文档
• 
• 构建向量数据库操作对象
• 
• 把文档切割，向量化并存储到向量数据库中

2.检索（构建向量数据库检索对象）

• 构建向量数据库检索对象
• 
• 配置向量数据库检索对象
• 

3.3Tools工具

原理

1.准备工具方法

2.配置工具方法

Al时代-软件开发的要求

1.使用工具

2.开发大模型应用

3.开发大模型