说实话,deepseek-v4-pro 和 kimi-k3 的差距比热评描述的微妙——我拿 40 道真实编程题跑了三轮,有一类多文件重构题排名让我意外

上周在掘金看到好几篇"Kimi K3 碾压一切"的帖子,说实话一开始我是拒绝的。因为我手上正好有一套自己攒了半年的编程题库——40 道题,覆盖算法、多文件重构、API 集成、调试四个方向——之前拿来测过 claude-sonnet-5 和 gpt-5.5,这次正好拉 deepseek-v4-pro(deepseek/deepseek-v4-pro)和 kimi-k3(moonshotai/kimi-k3)下场跑一跑。

结论先放这儿:总通过率 deepseek-v4-pro 以 82.5% 对 77.5% 领先 kimi-k3,但在多文件重构类题目上 kimi-k3 反超(首次成功率 70% vs 60%),这跟两家官方宣传的强项恰好反过来。token 消耗方面,kimi-k3 在 API 集成类题目上平均多吃 38% 的 output token——你如果高频调用这类任务,账单差距会很明显。

评测维度

三个硬指标,每道题跑 3 轮取众数:

维度 定义 为什么重要
通过率(至少1轮过) 3 轮中至少 1 轮通过 / 总题数 能力上限
首次成功率 第 1 轮直接通过 / 总题数 实际开发体感,决定你要不要手动改
平均 output token 每道题 3 轮输出 token 均值 直接挂钩账单

注意:本文"通过率"定义为"3 轮中至少 1 轮通过",衡量模型能力上限,而非"每轮都通过"。

题库分类:算法题 12 道、多文件重构 10 道、API 集成 10 道、调试排错 8 道。题目来源是我日常工作里攒的真实需求,不是 LeetCode 那种纯算法。

评测结果

总成绩

表中"总通过率"定义为"3 轮中至少 1 轮通过 / 总题数",非"每轮均通过"。

模型 总通过率(至少1轮过) 总首次成功率 平均 output token/题
deepseek-v4-pro 82.5%(33/40) 67.5%(27/40) 1,847
kimi-k3 77.5%(31/40) 62.5%(25/40) 2,214

分类成绩(重点看这个)

题目类别 deepseek-v4-pro 通过率 kimi-k3 通过率 deepseek-v4-pro 首次成功 kimi-k3 首次成功 deepseek-v4-pro 平均 token kimi-k3 平均 token
算法(12题) 91.7%(11/12) 83.3%(10/12) 75.0%(9/12) 66.7%(8/12) 1,420 1,580
多文件重构(10题) 70.0%(7/10) 80.0%(8/10) 60.0%(6/10) 70.0%(7/10) 2,850 2,640
API 集成(10题) 90.0%(9/10) 80.0%(8/10) 70.0%(7/10) 60.0%(6/10) 1,560 2,150
调试排错(8题) 75.0%(6/8) 62.5%(5/8) 62.5%(5/8) 50.0%(4/8) 1,680 2,430

多文件重构:排名反转的细节

这是最让我意外的部分。DeepSeek 官方一直强调 V4 Pro 的"工程级代码理解能力",Kimi K3 发布时主打的是"长文本推理"——但实测下来,涉及 3 个以上文件联动修改的重构题,kimi-k3 反而更稳。

具体例子:我有一道题是"把一个 Express monolith 拆成 3 个微服务,保持路由兼容"。deepseek-v4-pro 三轮里有两轮漏掉了共享中间件的迁移,生成的代码跑起来直接报:

TypeError: app.use() requires a middleware function

kimi-k3 三轮全过。它会先输出一个文件依赖图(虽然没人要求),然后逐文件改。这种"先规划后动手"的模式在重构题上确实有效。

代价是 kimi-k3 在重构题上也不省 token——那个依赖图分析平均多吃 200-400 token 的 output,不过换来了更高的正确率,我觉得这笔账划算。

值得一提的是,这批重构题我在 ofox.io 和 OpenRouter 上都跑了一遍,两个平台返回的结果高度一致,说明差异来自模型本身而非平台侧的调度策略。

API 集成类:kimi-k3 token 消耗高的具体场景

API 集成题是 kimi-k3 token 消耗最夸张的类别——平均 2,150 vs deepseek-v4-pro 的 1,560,多了 38%。

我翻了一下原始输出,原因很明确:kimi-k3 特别喜欢生成"完整的错误处理代码"。比如一道"用 Stripe API 实现订阅付费"的题,deepseek-v4-pro 给你核心逻辑 + 简单 try-catch,kimi-k3 会把 webhook 验签、幂等性检查、重试逻辑全写上。

代码质量确实更好,但如果你只是要个 MVP 跑通——这些额外 token 就是纯烧钱。

graph TD
 A[40道编程题] --> B[算法12道]
 A --> C[多文件重构10道]
 A --> D[API集成10道]
 A --> E[调试排错8道]
 B --> F[deepseek-v4-pro 胜]
 C --> G[kimi-k3 胜 ⚠️反直觉]
 D --> H[deepseek-v4-pro 胜]
 E --> I[deepseek-v4-pro 胜]

测试环境和调用方式

两个模型都通过 OpenAI 兼容接口调用。我用的是 OpenRouter 和 ofox.io 两个聚合平台轮着跑(主要是想排除单一平台的网络波动干扰)。两个平台的定价策略不同,OpenRouter 按模型收取不同比例手续费,通常在数个百分点,具体以各模型页面为准;另一个平台的定价读者建议自行确认当前政策。

调用代码长这样,两个模型结构完全对称:

from openai import OpenAI
client = OpenAI(
    api_key="your-key",
    base_url="https://api.ofox.io/v1"
)
resp = client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[{"role": "user", "content": prompt}],
    temperature=0.3   # 实验统一温度,复现时请保留此参数
)

kimi-k3 换个 model ID 就行:

resp = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": prompt}],
    temperature=0.3   # 实验统一温度,复现时请保留此参数
)

温度统一 0.3,max_tokens 不设限(让模型自己决定输出长度,这样 token 消耗数据才有对比意义)。注意:部分平台对未设 max_tokens 的请求有自己的默认上限,若复现结果有出入,可先排查平台侧限制。

跑的时候 deepseek-v4-pro 有两次 503:

APIStatusError: Error code: 503 - {'error': {'message': 'Service temporarily unavailable', 'type': 'server_error'}}

kimi-k3 没遇到这个问题,但有一次 429 限流。总体来说两个模型在聚合平台上的稳定性都还行,比直连官方 API 体感好一些(可能是聚合平台做了负载均衡)。

不同需求怎么选

你的场景 选谁 原因
日常算法题/刷题辅助 deepseek-v4-pro 通过率高 + token 省
大型项目重构、多文件联动(参考:测试集中10道题的结论) kimi-k3 首次成功率高 10 个百分点
API 对接、快速出 MVP deepseek-v4-pro 输出精简,省 38% token(API集成类均值)
调试排错、读报错定位问题 deepseek-v4-pro 更擅长聚焦核心问题
需要生产级代码(含完整错误处理) kimi-k3 代码更完整,但费 token

关于"官方宣传 vs 实测"的反差

DeepSeek V4 Pro 发布时强调"工程级代码理解",但多文件重构恰恰是它相对弱的环节。我猜是 DeepSeek 的 MoE 架构在处理超长上下文时,专家路由可能不如 kimi-k3 的长文本优化稳定——但这纯属我瞎猜,官方没公布过相关细节,仅供参考。

Kimi K3 宣传时主打"推理能力提升",但在纯算法推理题上并没有超过 deepseek-v4-pro。它真正的优势落在了"需要先理解全局再动手"的场景——跟"推理"沾边,但跟大家理解的"数学推理"不是一回事。

我也不确定这个结论能不能推广到所有多文件重构场景,毕竟我的题库只有 10 道这类题。但至少在我的测试里,差距是稳定可复现的。

token 成本粗算

假设你一天跑 50 次编程任务(我日常大概这个量),按两个模型的平均 output token 算:

  • deepseek-v4-pro:50 × 1,847 token ≈ 92,350 token/天
  • kimi-k3:50 × 2,214 token ≈ 110,700 token/天

具体价格取决于你用的是哪个平台档位或者直连官方,但比例关系是固定的——kimi-k3 每天多消耗约 20% 的 output token(整体均值口径:(110700-92350)/92350 ≈ 19.9%)。如果你的任务偏 API 集成类,这个差距会拉到 38%——注意这两个数字口径不同,前者是全题库均值,后者是 API 集成分类的均值。

小结

折腾了三天终于把数据跑完了。一句话:deepseek-v4-pro 又快又省,综合能力更均衡;kimi-k3 在多文件场景下有明显优势,但 token 开销更大。别被社区里"A 碾压 B"的帖子带节奏,实际差距没那么大,而且在特定题型上排名会反转。

选模型这事,还是得看你自己的任务分布。如果你跟我一样日常重构多,kimi-k3 值得一试;如果主要是写新功能、对接 API,deepseek-v4-pro 省心省钱。若要在 ofox.io 或 OpenRouter 上复现本文数据,建议保留 temperature=0.3 且不设 max_tokens,否则平台默认截断可能影响 token 计数的可比性。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐