模型部署的三种方式优缺点

云部署

优点

• 前期成本低
• 部署维护简单
• 弹性扩展
• 全球访问

缺点

• 数据隐私
• 网络依赖
• 长期成本高

本地部署

优点

• 数据安全
• 不依赖外部网络
• 长期成本低
• 高度定制

缺点

• 初始成本高
• 维护复杂
• 部署周期长

开放API

优点

• 前期成本极低
• 无需部署
• 无需维护

全球访问
缺点

• 数据隐私
• 网络依赖
• 长期成本高
• 定制限制

各大平台云部署

国内知名的云服务平台都提供了全球知名的大模型的私有部署功能，甚至还提供了这些模型的API开放平台，无需部署就能访问。

以下是国内主流云服务平台的大模型部署与API服务对比：

云平台	公司	地址
阿里百炼	阿里巴巴	大模型服务平台百炼控制台
腾讯TI平台	腾讯	腾讯云TI平台 _机器学习平台_全栈式人工智能开发服务平台-腾讯云
干帆平台	百度	百度智能云-登录
SiliconCloud	硅基流动	硅基流动 SiliconFlow - 致力于成为全球领先的 AI 能力提供商
火山方舟-火山引擎	字节跳动	https://www.volcengine.com/product/ark

本地模型部署

本地部署最简单的一种方案就是使用ollama，官网地址: https://ollama.com

打开官网，需要下载安装 ollama, 找到官网的 Models 导航菜单，里面可以选择模型，如deepseek

ollama默认安装目录是盘的用户目录，如果不希望安装在C盘的话(其实C盘如果足够大放C盘也没事)，就不能直接双击安装了。需要通过命令行安装。

命令行安装方式

在ollamaSetup,exe所在目录打开cmd命令行，然后命令如下

ollamasetup.exe /DIR=你要安装的路径

之后会直接弹出安装，点击Install

安装成功后效果如下，直接退出Ollama，还需配置环境变量

复制转移大模型存储目录

进入C盘-->用户-->电脑名称-->.ollama-->复制整个models到刚刚上面新建的存储目录下，可以放在ollama的开发工具上，也可以单独放，我这里放在开放工具中。复制完成后删除C盘目录下的models文件夹。

将c盘.ollama目录下的models移动到当前安装ollama目录下。

配置环境变量

安装完成后，还需要配置一个环境变量设置存放模型的位置(models目录内的路径)。

环境变量如下:

变量名：OLLAMA_MODELS

变量值：D:\programeSoftware\Ollama\modles

注意：改为自己真实安装Ollama的目录下（可以看到ollama.exe的目录），

修改环境变量后，重启电脑，至此，开发工具就算安装好了。

开发好以后，ollama会自行在我们电脑后台运行，我们直接通过cmd命令窗口执行一些操作。如需要查看ollama的帮助命令，ollama --help

因为有一个模型有多个版本，所以我们打开ollama的官网，找到我们需要的模型版本，查看运行命令。

每个模型下又有很多版本，其中大模型后面的xxb表示大模型的参数，b是billion（十亿）的缩写，是衡量模型规模和复杂度的核心指标，参数越多学习能力越强。当然，所需要的算力要求也越高。

直接复制命令到命令窗口运行，第一次运行需要下载模型，等待片刻即可。