本地部署大模型

这次尝试给大家带来ai系列的个人理解,该过程是自学过程。如有不对的地方望大家海涵。私信给我留言并且发表一些意见。

前置问题

  • 问:没有显卡能否跑本地大模型?

  • 答:可以,只用CPU也能跑(本文章暂不涉及,等后续更新)

  • 问:需要什么样的配置才可以跑动大模型。

  • 答:最低10显卡,最好40显卡,然后大显存和大内存(最好16G以上)。

  • 问:零基础也能学会吗?

  • 答:零基础也可以,动手就可以了

教程开始

下载软件

第一步,去ollama官网下载软件安装包

第二步,选择对应的操作系统

下载并安装,安装完成后。打开开始菜单可以发现添加ollama成功

下载模型

第一步,到ollama官网,搜索所需的模型,这里选择(阿里的qwen2.5),【这里模型看个人喜欢,个人感觉阿里的这个模型还行】

第二步,点击选择好的模型。选择对应的参数级(B是十亿级的),这个就看显卡显存有多少,看着来选就可以了。复制右侧命令

第三步,打开cmd命令执行(WIN+R输入),粘贴刚刚复制得命令,并且执行

第四步,可以看到这里已经安装成功了

尝试问它一些问题

如何学习AI大模型?

如今传统技术岗位大批缩水!

85%企业计划2025年前 “淘汰纯业务型程序员”!

未来,传统技术岗将失去竞争力!

转型大模型方向,才是又一轮的时代红利!

那么作为技术人:

如何成功掌握大模型技术、拿到AI方向高薪岗?

如果你想通过学习大模型技术实现就业或转行!我可以把自己录制的199节

从零基础到精通的视频课程+配套学习资料无偿分享给您!

希望能帮你在AI这条路上走得更远。

2026最新AI大模型资料预览

一、199节视频教程

199集从入门到精通的全套视频教程(包含提示词工程、RAG、Agent等技术点)

图片

二、AI大模型学习路线图

全过程AI大模型学习路线

想要学习AI大模型,作为新手一定要先按照路线图学习方向不对,努力白费。对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线,大家跟着这个路线图学习准没错。

img

图片

三、配套项目实战/源码

所有视频教程所涉及的实战项目和项目源码img

四、学习电子书籍

学习AI大模型必看的书籍和文章的Pdf

市面上的大模型书籍确实太多了,这些是我精选出来的

img

在这里插入图片描述

五、面试真题/经验

图片


👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉[CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)]()👈

作者有话说

1、为什么我要分享这些资料?

只要你是真心想学习人工智能大模型技术,我愿意将这份精心整理的资料无偿分享给你。

我分享这些资料的初衷,就是希望可以帮助更多人快速入门、系统学习,真正掌握这项前沿技术。如果你在学习过程中遇到任何问题,我也非常乐意为你提供帮助,技术交流与共同进步,是我一直坚持的初心。

2、这些资料真的有用吗?

这份资料由我与鲁为民博士共同整理。鲁博士毕业于清华大学(学士)和美国加州理工学院(博士),在人工智能领域深耕多年,先后在包括 IEEE Transactions 在内的国际权威期刊和会议上发表论文 超过50篇,拥有 多项中美发明专利,并曾荣获 吴文俊人工智能科学技术奖

目前,我正与鲁博士在人工智能领域展开深入合作。本次整理的资料内容系统全面,涵盖从零基础入门实战进阶199节视频教程,以及配套的学习资料与实战项目。无论你是完全零基础的小白,还是已有一定技术背景的学习者,都能从中获得切实提升,助力你转行大模型岗位、提升薪资待遇

图片

图片

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉[CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)]()👈

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐