第一步

进入魔塔社区:https://www.modelscope.cn/

pip install modelscope

第二步(指定下载位置--local_dir ./dir,不然就在默认C:\Users\Administrator\.cache\modelscope\hub\models)

modelscope download --model deepseek-ai/DeepSeek-R1-Distill-Qwen-7B

第三步(量化)

# 克隆仓库
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp

# 编译(Windows需用VS环境,Linux/macOS直接执行)
mkdir build && cd build
cmake .. -DLLAMA_CURL=OFF
cmake --build . --config Release

如果缺少了东西自己下载

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐