知识库问答实战:在腾讯云服务器上部署MaxKB项目
MaxKB是基于LLM大语言模型的知识库问答系统,旨在成为企业的最强大脑。
前言
一, MaxKB介绍
MaxKB是基于LLM大语言模型的知识库问答系统,旨在成为企业的最强大脑。它支持开箱即用,无缝嵌入到第三方业务系统,并提供多模型支持,包括主流大模型和本地私有大模型,为用户提供智能问答交互体验和灵活性。
二,效果展示
三,部署教程
1.第一步先准备一台服务器,配置尽量高一点,不过也可以低配例如1H1G也行,用低配的服务器的话就得接入第三方的模型了,高配的话就可以直接部署一个大模型作为使用。本次项目我还是依然推荐极具现价比的轻量云服务器,而且本次618活动已经开展了,价格比以往更低。高配可以购买8H16G,低配就买2H2G就行。
618活动地址: curl.qcloud.com/7zZN8d4v
2.购买了服务器后,尽量选择Linux环境,我一般用centos,然后这块选择CentOS 7.6就行。
3.购买完成后,我们进入轻量云的控制台,一般等待个3到5分钟后就可以看到服务器部署完成。
控制台地址:console.cloud.tencent.com/lighthouse
4.进入控制台后,找到我们购买的服务器,然后点击登录
5.点击登录后,我们就进入到了OrcaTerm页面,这里输入站内信里的密码,如果不知道密码的话,可以在控制台点击登录旁边的三个点,进行重置密码。
6.密码输入成功后我们就成功进入了服务器,然后复制下面的代码到命令台然后回车运行。
curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh
7.运行完成后,就记得到了面板的登录后台和账号密码
8.进入后台后输入账号密码,然后点击左边栏得应用商店,然后选择ai大模型分类,点击maxkb的安装
9.如果不改变端口的话,默认安装即可
10.地址是你的服务器ip+8080端口号。也就是ip:8080(一般来说8080端口是没有开启的,所以你得到轻量云的控制台去设置防火墙的端口)
最后入门教程地址
1 | https:``//github.com/1Panel-dev/MaxKB/wiki/2-%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8 |
---|
四,注意事项
- 防火墙一定要开启对应端口,例如8080端口。
2.项目虽然是开源项目,但是如果商业用途还是要联系作者是否能商用。
五,结语
MaxKB,作为基于LLM大语言模型的知识库问答系统,提供了无与伦比的便利和智能化体验。通过其多模型支持,你可以轻松接入各种主流大模型,包括本地私有大模型(如 Llama 2)、OpenAI、通义千问、Kimi、Azure OpenAI 和百度千帆大模型等,为你的系统赋予更强大的智能能力。开箱即用的特性让您可以快速上传文档、自动爬取在线文档,享受智能问答交互体验。而MaxKB的无缝嵌入能力更是让您能够零编码快速将其整合到第三方业务系统中,提供更便捷、高效的解决方案。可以给你的工作带来更多便利与效率。
如何系统的去学习大模型LLM ?
大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业
?”“谁的饭碗又将不保了?
”等问题热议不断。
事实上,抢你饭碗的不是AI,而是会利用AI的人。
继科大讯飞、阿里、华为
等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?
与其焦虑……
不如成为「掌握AI工具的技术人
」,毕竟AI时代,谁先尝试,谁就能占得先机!
但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。
针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料
分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓
一、LLM大模型经典书籍
AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。
二、640套LLM大模型报告合集
这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
三、LLM大模型系列视频教程
四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)
LLM大模型学习路线 ↓
阶段1:AI大模型时代的基础理解
-
目标:了解AI大模型的基本概念、发展历程和核心原理。
-
内容:
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例
阶段2:AI大模型API应用开发工程
-
目标:掌握AI大模型API的使用和开发,以及相关的编程技能。
-
内容:
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望
阶段3:AI大模型应用架构实践
-
目标:深入理解AI大模型的应用架构,并能够进行私有化部署。
-
内容:
- L3.1 Agent模型框架
- L3.2 MetaGPT
- L3.3 ChatGLM
- L3.4 LLAMA
- L3.5 其他大模型介绍
阶段4:AI大模型私有化部署
-
目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。
-
内容:
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
这份 LLM大模型资料
包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓
更多推荐
所有评论(0)