安装方法:

参考链接

[官网教程](https://cookbook.openai.com/articles/gpt-oss/run-vllm)

uv venv --python 3.12 --seed
source .venv/bin/activate
uv pip install --pre vllm==0.10.1+gptoss \
    --extra-index-url https://wheels.vllm.ai/gpt-oss/ \
    --extra-index-url https://download.pytorch.org/whl/nightly/cu128 \
    --index-strategy unsafe-best-match

踩坑1: #include <Python.h>

跑 vllm serve openai/gpt-oss-20b的时候:

  1. 出现问题:
5 | #include <Python.h>

这说明没有装python-devel导致没有办法编译c++(大概是这个意思)
安装方法:

sudo apt install python3-dev

这个时候在/usr/include/pythonx.xx/中就会出现Python.h文件。
但貌似还是找不到Python.h,我就按照网上的教程加了一堆环境变量:

export C_INCLUDE_PATH=/usr/include/python3.12/
export CPLUS_INCLUDE_PATH=/usr/include/python3.12/
export PYTHONPATH=/home/user_name/.../lib/python3.12/site-packages  # 虚拟环境位置
export CFLAGS="-I/usr/include/python3.12"  # 好像这个是有用的,可以自己试试看
vllm serve openai/gpt-oss-20b

然后发现不报这个错了。

踩坑2: gcc: fatal error: cannot execute ‘cc1plus’: execvp: No such file or directory

这个错好像是g++编译的问题
找不到 g++ 编译器的核心程序 cc1plus,这通常是因为 C++ 编译器没装好。

解决方案:

sudo apt update
sudo apt install g++

然后以下代码验证是否安装成功:

which g++
g++ --version

然后再运行你的命令就不会报 cc1plus 缺失了。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐