1. Ollama是什么

Ollama是一个开源的本地化大型语言模型（LLM）运行框架，旨在简化开源大模型在个人电脑或服务器上的部署与管理。其核心设计理念是让用户无需依赖云端服务，仅需简单操作即可在本地运行各类开源模型（如 Llama、Mistral、Gemma 等），同时保障数据隐私和离线可用性。
Ollama是使用大型语言模型快速上手的最简单方式。添加链接描述
在这里插入图片描述

2.下载

官网下载添加链接描述
在这里插入图片描述
强烈建议安装在非C盘
在这里插入图片描述

3.安装

OllamaSetup.exe /DIR=自定义安装目录

在这里插入图片描述
之后点击Install
在这里插入图片描述
在这里插入图片描述

4.配置环境变量

在安装目录中创建大模型存储目录
在这里插入图片描述
配置大模型存储目录环境变量
在这里插入图片描述

5.处理models

默认在C:\Users\admin.ollama,将此目录下的models目录完整复制到你的安装目录中进行替换
在这里插入图片描述
替换完成后删除C盘中的models
在这里插入图片描述

6.验证

ollama --version

在这里插入图片描述

Logo
AI编程社区

汇聚全球AI编程工具，助力开发者即刻编程。

更多推荐

cover

码道 · 寻艺——从零构建“非遗交互式对话平台“的完整实践

avatar AI编程社区

码道：用 Python + FastAPI 快速构建一个学生信息管理接口：从零到 Swagger 在线文档

在日常开发和教学中，我们经常需要一套简单、可控、能快速上手的后端接口来演示"前后端分离"、练习 Restful API 设计，或者作为前端联调的 Mock 服务。传统做法往往是搭一套完整的 Web 工程：配置数据库、编写 DAO、引入 ORM、做请求分发……一套流程下来，光环境搭建就要花去不少时间，对于想快速验证想法、或者刚入门 API 开发的同学来说，显得过于沉重。

avatar AI编程社区

码道：从零构建学生信息管理系统 API：FastAPI 内存版 CRUD 项目全解析

FastAPI 的强大，很大程度上来自 Pydantic 的校验能力。我们写下类型声明，FastAPI 在运行时自动把它变成边界检查器。name：字符串，长度限制 1 到 50；age：整数，限制在 6 到 120 之间（ge大于等于、le小于等于）；gender：字符串，用正则限定只能是"男"“女”“其他”；email：邮箱格式字符串；grade与major：可选字段，代表班级和专业方向。

avatar AI编程社区