SillyTavern 连接自定义大模型:从“酒馆“到你的 API
关键词:SillyTavern、角色扮演前端、OpenAI 兼容、Custom Endpoint、Preset
SillyTavern(圈内叫"酒馆")是一个开源的本地 LLM 前端,和 ChatBox 那种"正经聊天"工具定位完全不同——它是为角色扮演、沉浸式对话设计的,围绕"角色卡片"构建,控制项多到让人上头。它自己不提供模型,需要你接一个后端。这篇就讲清楚:酒馆怎么把任意 OpenAI 兼容的 API 接进来,以及那些"连接 valid 但一发消息就 500"的坑到底在哪。
一、它到底是什么
简单说,SillyTavern 只是一个界面。真正干活的是背后的推理服务:本地 Ollama、云端官方、或者各种兼容 OpenAI 协议的 API。酒馆负责把你的角色设定、世界信息、聊天历史打包好,发给后端,再把回复渲染成好看的对话气泡。
所以它没有"模型列表"这种东西,只有"API 连接"。
二、安装与打开
硬件门槛很低,能跑 Node 18 就行。安装方式按平台选:Windows 直接跑官方的一键脚本(start.bat),Linux / macOS 用 ./start.sh,也有 Docker 分支。启动后浏览器打开本地端口,欢迎页输入框直接打字就能测试连接——这会创建一个空的"助手"角色卡。
三、连接配置:四步走
进入 API Connection(插头图标)→ Chat Completion → 选 Custom (OpenAI-compatible):
- API Type:选
OpenAI Compatible
- Custom Endpoint:填你的接口地址,通常以
/v1结尾
- API Key:填对应密钥(本地可留空)
- 测试:点
Test Message发一条,能回就通了
想长期复用,把这套配置存成 Preset(预设),下次切 API 只要下拉选一下,两秒搞定。重度玩家通常存 3~5 个 Preset 来回切。
一个可直接照抄的最小配置(密钥获取入口放在注释里):
# 1) 准备一个 OpenAI 兼容的 endpoint 和 key(示例:魔芋 AI)
# 注册拿 key:https://www.moyu.info/register?aff=CRB8
# 2) 在酒馆 API Connection 里填:
# API Type : OpenAI Compatible
# Endpoint : https://api.moyu.info/v1
# API Key : 你的密钥
# 3) 模型名从 /v1/models 里复制,例如 gpt-5 / claude-4-sonnet / deepseek-v4
echo "保存为 Preset,以后切着用"
四、角色卡与上下文
酒馆的灵魂是角色卡片:一组决定 AI 行为的提示词。卡片可以是虚构角色、专属助手,也可以是某个名人。配合"世界信息(Lorebook)"能给角色补背景设定,"用户角色"则让 AI 记住你是谁,沉浸感就来了。
上下文长度(Context Token)建议设在 40968192,决定 AI 能记住多少历史;回复长度(Max Response)一般 200400 token。
五、现象 → 原因(不是排错清单,是经验)
- 连接 valid,发消息立刻 500:八成是模型名多了一个空格或中文标点,或者 endpoint 末尾多了个
/。
- 提示 invalid:endpoint 写成
https://api.xxx.com/v1/(多了斜杠),或 key 复制时带换行符。
- 列表空 / 一直转圈:自定义 API 若没实现
/v1/models,就手动输模型 ID,别等自动拉取;也可勾Bypass API status check跳过误报。
- 中文回复断句怪:调 Temperature(0.71.0)和重复惩罚(1.11.2)。
最关键的一点:成败全在 endpoint 是否 /v1 结尾、模型名是否 100% 准确——这两个字段一个字符错,整个就跑不通。
小结
SillyTavern 把"接模型"这件事拆得很细,但也因此灵活。记住核心:它是界面不是大脑,大脑由你的 API 提供;连接配置的命门就是 endpoint 格式和模型名精度。配好存成 Preset,剩下的就是享受角色扮演了。
声明:本文为工具使用笔记,所列服务仅作技术说明,不构成对任何服务的推荐或背书。
更多推荐




所有评论(0)