1.前言

现在AI模型遍地开花,大家用的都是在线的AI服务,可你用过本地部署的AI大模型吗?

今天,我就来教大家在15分钟内部署一个本地AI大模型。不需要太高的电脑硬件配置,就能让你跟进时代的浪潮,还不快来试试?

前排提示,文末有大模型AGI-CSDN独家资料包哦!

教学开始

2.准备工作

我们先下载Ollama安装包,链接放在下边,大家自取(建议使用X雷下载):

https://ollama.com/download/OllamaSetup.exe

(Ollama软件安装包的链接)

接着下载一下Cherry Studio的安装包,放在下边,大家自取:

https://file-cdn.gitcode.com/5007375/releases/untagger_8edcf4e271a74dac9f3ac4411bc23ff3/Cherry-Studio-1.4.7-x64-setup.signed.exe?auth_key=1751523571-5b54546882d44b6a84a72537221e254b-0-82c57b6473c6875223ff5af5274e1fe8520cc924b048c072a96e7e21d5cf496b

(Cherry Studio软件安装包的链接)

3.安装软件

我们运行下载好的这两个软件安装包,安装我们需要的软件:

(两个软件安装包的截图)

安装完成后,跟着我继续操作

4.下载模型

在正式下载模型前,我们需要判断自己的电脑性能适合哪个版本的模型,以下是所有Ollama支持的DeepSeek R1模型的信息表,请大家根据信息自行选择模型(模型名称中b前的数字越小的模型对设备要求越低,如果你是渣机,请选择1.5b版本,其他视具体情况而定):

模型名称

文件大小

运行命令

deepseek-r1:1.5b

1.1GB

ollama run deepseek-r1:1.5b
deepseek-r1:7b

4.7GB

ollama run deepseek-r1:7b

deepseek-r1:8b

5.2GB

ollama run deepseek-r1:8b

deepseek-r1:14b

9.0GB

ollama run deepseek-r1:14b

deepseek-r1:32b

20GB

ollama run deepseek-r1:32b

deepseek-r1:70b

43GB

ollama run deepseek-r1:70b

deepseek-r1:671b

404GB

ollama run deepseek-r1:671b

(DeepSeek R1模型信息表)

选择好需要的模型后,记好对应你选择的模型的命令,按下win+r打开运行对话框,输入cmd,如下图:

(在“运行”对话框中输入cmd的截图)

确认输入无误后,点击确定,打开命令提示符,如下图:

(命令提示符)

输入你刚刚记住的命令,按下回车,如下图(作者用1.5b的模型做教学):

(输入“ollama run deepseek-r1:**b”命令后的命令提示符)

等待模型下载完成,出现如下界面:

(模型下载完成)

此时,你已经成功80%啦!你现在就可以和ta畅聊了

但是,光用命令提示符还是过于简陋,我们还可以使用Cherry Studio与DeepSeek进行交流,下面我再教大家进行Cherry Studio的设置

5.使用Cherry Studio与AI进行沟通

打开安装好的Cherry Studio,找到下方图片上框出的按钮并点击,来到设置页面:

(框出按钮的图例)

进入设置页面后,按照下方视频演示,找到Ollama菜单,将✅勾上,并点击添加模型,在模型id中输入模型名称,点击添加模型即可完成添加:

接着回到主页面,点击下图标红的按钮,在打开的选择框中选择自己的模型,即可完成配置:

(标红按钮的图例)

(选择模型对话框的图例)

此时此刻,你已经成功配置好了Ollama和Cherry Studio软件,并下载好了DeepSeek R1模型。你只需在每次使用时现在开始菜单中的应用列表中找到Ollama应用并启动,再打开Cherry Studio软件,你就能和你的AI助手聊天了😄

读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用

针对0基础小白:

如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

请添加图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐