说实话,deepseek-v4-pro 和 kimi-k3 的差距比热评描述的微妙——我拿 40 道真实编程题跑了三轮,有一类多文件重构题排名让我意外
说实话,deepseek-v4-pro 和 kimi-k3 的差距比热评描述的微妙——我拿 40 道真实编程题跑了三轮,有一类多文件重构题排名让我意外
上周在掘金看到好几篇"Kimi K3 碾压一切"的帖子,说实话一开始我是拒绝的。因为我手上正好有一套自己攒了半年的编程题库——40 道题,覆盖算法、多文件重构、API 集成、调试四个方向——之前拿来测过 claude-sonnet-5 和 gpt-5.5,这次正好拉 deepseek-v4-pro(deepseek/deepseek-v4-pro)和 kimi-k3(moonshotai/kimi-k3)下场跑一跑。
结论先放这儿:总通过率 deepseek-v4-pro 以 82.5% 对 77.5% 领先 kimi-k3,但在多文件重构类题目上 kimi-k3 反超(首次成功率 70% vs 60%),这跟两家官方宣传的强项恰好反过来。token 消耗方面,kimi-k3 在 API 集成类题目上平均多吃 38% 的 output token——你如果高频调用这类任务,账单差距会很明显。
评测维度
三个硬指标,每道题跑 3 轮取众数:
| 维度 | 定义 | 为什么重要 |
|---|---|---|
| 通过率(至少1轮过) | 3 轮中至少 1 轮通过 / 总题数 | 能力上限 |
| 首次成功率 | 第 1 轮直接通过 / 总题数 | 实际开发体感,决定你要不要手动改 |
| 平均 output token | 每道题 3 轮输出 token 均值 | 直接挂钩账单 |
注意:本文"通过率"定义为"3 轮中至少 1 轮通过",衡量模型能力上限,而非"每轮都通过"。
题库分类:算法题 12 道、多文件重构 10 道、API 集成 10 道、调试排错 8 道。题目来源是我日常工作里攒的真实需求,不是 LeetCode 那种纯算法。
评测结果
总成绩
表中"总通过率"定义为"3 轮中至少 1 轮通过 / 总题数",非"每轮均通过"。
| 模型 | 总通过率(至少1轮过) | 总首次成功率 | 平均 output token/题 |
|---|---|---|---|
| deepseek-v4-pro | 82.5%(33/40) | 67.5%(27/40) | 1,847 |
| kimi-k3 | 77.5%(31/40) | 62.5%(25/40) | 2,214 |
分类成绩(重点看这个)
| 题目类别 | deepseek-v4-pro 通过率 | kimi-k3 通过率 | deepseek-v4-pro 首次成功 | kimi-k3 首次成功 | deepseek-v4-pro 平均 token | kimi-k3 平均 token |
|---|---|---|---|---|---|---|
| 算法(12题) | 91.7%(11/12) | 83.3%(10/12) | 75.0%(9/12) | 66.7%(8/12) | 1,420 | 1,580 |
| 多文件重构(10题) | 70.0%(7/10) | 80.0%(8/10) | 60.0%(6/10) | 70.0%(7/10) | 2,850 | 2,640 |
| API 集成(10题) | 90.0%(9/10) | 80.0%(8/10) | 70.0%(7/10) | 60.0%(6/10) | 1,560 | 2,150 |
| 调试排错(8题) | 75.0%(6/8) | 62.5%(5/8) | 62.5%(5/8) | 50.0%(4/8) | 1,680 | 2,430 |
多文件重构:排名反转的细节
这是最让我意外的部分。DeepSeek 官方一直强调 V4 Pro 的"工程级代码理解能力",Kimi K3 发布时主打的是"长文本推理"——但实测下来,涉及 3 个以上文件联动修改的重构题,kimi-k3 反而更稳。
具体例子:我有一道题是"把一个 Express monolith 拆成 3 个微服务,保持路由兼容"。deepseek-v4-pro 三轮里有两轮漏掉了共享中间件的迁移,生成的代码跑起来直接报:
TypeError: app.use() requires a middleware function
kimi-k3 三轮全过。它会先输出一个文件依赖图(虽然没人要求),然后逐文件改。这种"先规划后动手"的模式在重构题上确实有效。
代价是 kimi-k3 在重构题上也不省 token——那个依赖图分析平均多吃 200-400 token 的 output,不过换来了更高的正确率,我觉得这笔账划算。
值得一提的是,这批重构题我在 ofox.io 和 OpenRouter 上都跑了一遍,两个平台返回的结果高度一致,说明差异来自模型本身而非平台侧的调度策略。
API 集成类:kimi-k3 token 消耗高的具体场景
API 集成题是 kimi-k3 token 消耗最夸张的类别——平均 2,150 vs deepseek-v4-pro 的 1,560,多了 38%。
我翻了一下原始输出,原因很明确:kimi-k3 特别喜欢生成"完整的错误处理代码"。比如一道"用 Stripe API 实现订阅付费"的题,deepseek-v4-pro 给你核心逻辑 + 简单 try-catch,kimi-k3 会把 webhook 验签、幂等性检查、重试逻辑全写上。
代码质量确实更好,但如果你只是要个 MVP 跑通——这些额外 token 就是纯烧钱。
graph TD
A[40道编程题] --> B[算法12道]
A --> C[多文件重构10道]
A --> D[API集成10道]
A --> E[调试排错8道]
B --> F[deepseek-v4-pro 胜]
C --> G[kimi-k3 胜 ⚠️反直觉]
D --> H[deepseek-v4-pro 胜]
E --> I[deepseek-v4-pro 胜]
测试环境和调用方式
两个模型都通过 OpenAI 兼容接口调用。我用的是 OpenRouter 和 ofox.io 两个聚合平台轮着跑(主要是想排除单一平台的网络波动干扰)。两个平台的定价策略不同,OpenRouter 按模型收取不同比例手续费,通常在数个百分点,具体以各模型页面为准;另一个平台的定价读者建议自行确认当前政策。
调用代码长这样,两个模型结构完全对称:
from openai import OpenAI
client = OpenAI(
api_key="your-key",
base_url="https://api.ofox.io/v1"
)
resp = client.chat.completions.create(
model="deepseek-v4-pro",
messages=[{"role": "user", "content": prompt}],
temperature=0.3 # 实验统一温度,复现时请保留此参数
)
kimi-k3 换个 model ID 就行:
resp = client.chat.completions.create(
model="kimi-k3",
messages=[{"role": "user", "content": prompt}],
temperature=0.3 # 实验统一温度,复现时请保留此参数
)
温度统一 0.3,max_tokens 不设限(让模型自己决定输出长度,这样 token 消耗数据才有对比意义)。注意:部分平台对未设 max_tokens 的请求有自己的默认上限,若复现结果有出入,可先排查平台侧限制。
跑的时候 deepseek-v4-pro 有两次 503:
APIStatusError: Error code: 503 - {'error': {'message': 'Service temporarily unavailable', 'type': 'server_error'}}
kimi-k3 没遇到这个问题,但有一次 429 限流。总体来说两个模型在聚合平台上的稳定性都还行,比直连官方 API 体感好一些(可能是聚合平台做了负载均衡)。
不同需求怎么选
| 你的场景 | 选谁 | 原因 |
|---|---|---|
| 日常算法题/刷题辅助 | deepseek-v4-pro | 通过率高 + token 省 |
| 大型项目重构、多文件联动(参考:测试集中10道题的结论) | kimi-k3 | 首次成功率高 10 个百分点 |
| API 对接、快速出 MVP | deepseek-v4-pro | 输出精简,省 38% token(API集成类均值) |
| 调试排错、读报错定位问题 | deepseek-v4-pro | 更擅长聚焦核心问题 |
| 需要生产级代码(含完整错误处理) | kimi-k3 | 代码更完整,但费 token |
关于"官方宣传 vs 实测"的反差
DeepSeek V4 Pro 发布时强调"工程级代码理解",但多文件重构恰恰是它相对弱的环节。我猜是 DeepSeek 的 MoE 架构在处理超长上下文时,专家路由可能不如 kimi-k3 的长文本优化稳定——但这纯属我瞎猜,官方没公布过相关细节,仅供参考。
Kimi K3 宣传时主打"推理能力提升",但在纯算法推理题上并没有超过 deepseek-v4-pro。它真正的优势落在了"需要先理解全局再动手"的场景——跟"推理"沾边,但跟大家理解的"数学推理"不是一回事。
我也不确定这个结论能不能推广到所有多文件重构场景,毕竟我的题库只有 10 道这类题。但至少在我的测试里,差距是稳定可复现的。
token 成本粗算
假设你一天跑 50 次编程任务(我日常大概这个量),按两个模型的平均 output token 算:
- deepseek-v4-pro:50 × 1,847 token ≈ 92,350 token/天
- kimi-k3:50 × 2,214 token ≈ 110,700 token/天
具体价格取决于你用的是哪个平台档位或者直连官方,但比例关系是固定的——kimi-k3 每天多消耗约 20% 的 output token(整体均值口径:(110700-92350)/92350 ≈ 19.9%)。如果你的任务偏 API 集成类,这个差距会拉到 38%——注意这两个数字口径不同,前者是全题库均值,后者是 API 集成分类的均值。
小结
折腾了三天终于把数据跑完了。一句话:deepseek-v4-pro 又快又省,综合能力更均衡;kimi-k3 在多文件场景下有明显优势,但 token 开销更大。别被社区里"A 碾压 B"的帖子带节奏,实际差距没那么大,而且在特定题型上排名会反转。
选模型这事,还是得看你自己的任务分布。如果你跟我一样日常重构多,kimi-k3 值得一试;如果主要是写新功能、对接 API,deepseek-v4-pro 省心省钱。若要在 ofox.io 或 OpenRouter 上复现本文数据,建议保留 temperature=0.3 且不设 max_tokens,否则平台默认截断可能影响 token 计数的可比性。
更多推荐




所有评论(0)