准备

1.树莓派已安装好系统,我用的是树莓派4B,安装了Raspbian
2.树莓派已安装好docker
3.已安装HomeAssistant及HACS,可以看我这篇文章

docker安装ollama

执行命令

sudo docker pull docker.1ms.run/ollama/ollama
sudo docker run -itd -v /data/ollama:/root/.ollama -p 11434:11434 --restart=always --name ollama docker.1ms.run/ollama/ollama

因为docker官方地址已经用不了的,我这里用的是docker.1ms.run镜像站,如果哪天这个站用不了了那么自行更换
我这里-v /data/ollama:/root/.ollama,可自行更换本地文件夹
ollama运行后会暴露11434端口

下载大模型

根据需要下载,我尝试了qwen2:0.5bqwen3:0.6bdeepseek-r1:1.5b,推理速度都还可以

docker exec -d ollama ollama run qwen2:0.5b
docker exec -d ollama ollama run qwen3:0.6b
docker exec -d ollama ollama run deepseek-r1:1.5b

我这里用docker在后台静默安装,也可以直接进到容器内执行ollama run <模型>
在这里插入图片描述

HomeAssistant接入大模型

添加ollama集成
在这里插入图片描述
填写树莓派的IP和端口号
在这里插入图片描述
添加服务,如果已经下载好了的模型,会在上面显示出来
在这里插入图片描述
这样就完成了
在这里插入图片描述

  • 可以进入配置页面,【指导】那里可以设置大模型的提示词,我这里加了/no_think是让qwen3模型关闭深度思考,加快速度,但是这个只是一次性的,暂没找到永久关闭的方法
    在这里插入图片描述

下面的【控制 Home Assistant】,如果选择Assist,同时大模型支持tools的话,那么就能够让大模型去控制HA的设备,而No control就仅仅是个对话助手

  • 经过我的尝试,qwen2:0.5bdeepseek-r1:1.5b无法使用Assist,ollama报错日志显示这两个模型不支持tools,尽管ollama官网(见https://ollama.com/search?c=tools)给他们打了支持tools的标签,但是实测并不行
  • qwen3:0.6b开启了Assist之后,ollama没有报错,代表是支持tools的,但是由于树莓派性能过于弱,导致开启之后CPU占满十几分钟后,HA返回超时而失败,可以考虑采用群晖或者其他x86的小服务器来跑

然后可以进入【设置】-【语音助手】中将大模型添加进去
在这里插入图片描述
尝试一下!
在这里插入图片描述
完结撒花~

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐