对应版本：V4.8.21

部署FastGPT

参考文档：
https://doc.tryfastgpt.ai/docs/development/docker/

创建fastgpt

mkdir -p /home/tech/dockerData/fastgpt

下载docker-compose.yml

本地开发使用docker-compose-pgvector版本

curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml

启动容器

# 启动容器
docker-compose up -d
# 等待10s，OneAPI第一次总是要重启几次才能连上Mysql
sleep 10
# 重启一次oneapi(由于OneAPI的默认Key有点问题，不重启的话会提示找不到渠道，临时手动重启一次解决，等待作者修复)
docker restart oneapi

OneAPI 添加模型

新增渠道

清除原有模型

添加新向量模型

从阿里云百炼平台获取

添加新文本模型

从阿里云百炼平台获取

创建密钥填入

添加后测试

Fastgpt配置模型

加载OneAPI模型

配置如下：

根据对应模型配置，和OneAPI内容一致

[
  {
    "model": "qwen-max",
    "metadata": {
      "model": "qwen-max",
      "name": "qwen-max",
      "maxContext": 32000,
      "maxResponse": 8000,
      "quoteMaxToken": 60000,
      "maxTemperature": 1,
      "vision": false,
      "toolChoice": true,
      "functionCall": false,
      "defaultSystemChatPrompt": "",
      "datasetProcess": true,
      "usedInClassify": true,
      "customCQPrompt": "",
      "usedInExtractFields": true,
      "usedInQueryExtension": true,
      "customExtractPrompt": "",
      "usedInToolCall": true,
      "defaultConfig": {},
      "fieldMap": {},
      "type": "llm",
      "showTopP": true,
      "showStopSign": true,
      "responseFormatList": [
        "text",
        "json_object"
      ],
      "provider": "Qwen",
      "isActive": true,
      "requestUrl": "",
      "requestAuth": "",
      "reasoning": false
    }
  },
  {
    "model": "text-embedding-v3",
    "metadata": {
      "model": "text-embedding-v3",
      "name": "text-embedding-v3",
      "defaultToken": 512,
      "maxToken": 8000,
      "defaultConfig": {
        "dimensions": 1024
      },
      "type": "embedding",
      "provider": "OpenAI",
      "isActive": true,
      "charsPointsPrice": 0,
      "normalization": false,
      "requestUrl": "",
      "requestAuth": ""
    }
  }
]

测试模型访问性