很早之前,雨飞就提过类似的观点,现在的大模型 API 还是太贵了,性价比是没有付费买量或者买次数划算的。

就算你用了 K2、GLM-4.5 这种模型,也是会花很多的钱,这个原因就是 ClaudeCode、Gemini CLI 这种模式的编程工具本身就会消耗更多的 token。

该如何理解呢?

我们看下官方教程里面的一张截图,下面这张截图清楚的解释了 ClaudeCode 是如何去读取我们的代码的,这可能和我们想的会大有不同。

图片

ClaudeCode 没有对我们的代码库制作索引,而是通过文件检索 grep 以及读取工具去获取相应的代码文件,因此读取的文件数据会更多,上下文信息会更长,换句话说每一次读取都把文件都读了一遍,因此是 Token 消耗大户。  

除了 ClaudeCode 以外,Gemini CLI、Cline、RooCode 这些编程工具也是采用的这种检索方式。

这种方式,优缺点都非常明显,优点就是能更准确的读取文件信息,提供了更详细的上下文,因此生成的代码质量会更高。  另外只通过文件检索的方式,不需要构建代码片段的向量,也就不需要请求服务器,更有利于代码安全。(当然,这个只是他们的说法,实际上你的代码只要经过了他的服务,就没有绝对的安全)

缺点也非常明显,会消耗大量的token。而且很多时候,不需要读取太多的信息,这种方式会导致信息冗余,也更耗时。  

另外一种方式则是用 RAG,更简单,高效,但相对的效果可能略差一点。像 Cursor、Trae 等常见的 AI 编程IDE 基本都采用这种方法,更省 token,也可以对召回的上下文进行极致的压缩。

当然也有野路子,Augment code 自己构建了一个上下文检索引擎,这也是为何大家会觉得他们在编程方面效果不错的一个关键因素。

所以说,很多所谓的技巧,没有办法去修改传给 AI 的上下文信息,因此根本节省不了多少 token,那就更不会省钱了。最简的方法就是,简单的问题用简单的模型,虽然上下文长度不变,但单位长度的价格低了,这样才是真的省钱。

AI大模型学习路线

如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!

这份完整版的大模型 AI 学习和面试资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!

请添加图片描述
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

请添加图片描述

大模型全套视频教程

请添加图片描述

200本大模型PDF书籍

请添加图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

LLM面试题合集

请添加图片描述

大模型产品经理资源合集

请添加图片描述

大模型项目实战合集

请添加图片描述

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐