１．按照官网要求安装ollama
curl -fsSL https://ollama.com/install.sh | sh

2. 启动服务
   docker run -d --privileged --gpus=all -v $HOME/.ollama:/root/.ollama -p 11434:11434 --name ollama $ss/ollama/ollama

3. 下载模型
   docker exec -it ollama ollama run llama3.1:8b
   export OLLAMA_GPU_LAYER=cuda # use gpu

4. chatbox做对应设置
   开启新的聊天即可．