Ollama部署本地大模型

1.创建modelfile

在modelfile中写入本地模型的地址如：

FROM E:\huggingface_cache\models--Qwen--Qwen1.5-1.8B-Chat\snapshots\e482ee3f73c375a627a16fdf66fd0c8279743ca6

2.通过filemodel创建模型

ollama create qwen1.8b -f E:\ollama_run_models\qwen1.5-1.8b\modelfile

3.验证模型创建是否成功

ollama list
ollama rm 模型名 //删除模型

4.运行模型

ollama run qwen1.8b
>>>开始对话
>>>/bye（退出对话）