登录社区云,与社区用户共同成长
邀请您加入社区
你可能一直在用 AI 写代码,但用没用对方法?本文将介绍 Claude Code Skill——这个让 AI 学会"专业工作流"的神器,以及 5 款前端开发必装的 Skill。
GoGauge是一款专为OpenCode Go用户设计的本地用量统计工具,帮助用户清晰掌握AI编程助手的Token消耗情况。该工具提供配额监控、用量概览、模型排行、使用记录等功能,支持亮/暗双主题和系统托盘。采用Python+pywebview开发,单文件exe无需安装,所有数据本地存储保障隐私安全。特色包括实时配额监控、多维统计图表、内置WebView登录和自动同步功能,让用户对OpenCode
第五步 启动openclaw dev 先玩DEV。第二步执行 wsl --install。第一步:管理员启动POWERSHELL。第三步 安装NPM PNPM。第六步 打开浏览器界面。第七步 输入TOKEN。
这个实现能够高效地处理题目要求,利用了 Go 的 container/heap 包和排序功能。· 时间复杂度:O(mn log(mn) + k log k)· 每个单元格入堆一次:O(mn log(mn))// 扩展所有值小于当前查询的单元格。1. 最小堆:存储 (值, 行, 列),按网格值排序。3. BFS扩展:只扩展值小于当前查询的单元格。· 查询排序:O(k log k)4. 访问标记:每个
三个月前,他来找我的时候,简历上全是传统后端:Go + MySQL + Redis,CRUD写了三年,没有一行AI相关的代码。学完了,简历上写「基于LLM的XXX系统」,面试官一问深度,哑口无言。三个月后,他拿到了一个AI方向的Go后端Offer,薪资比之前涨了40%。向量数据库、消息队列、RAG、Agent编排、流式输出,该有的都有。加入后先做1v1摸底,了解你的基础、时间、目标,定制专属计划。
Eino是字节推出的Go语言LLM应用开发框架,借鉴了LangChain等设计理念但完全遵循Go语言特性。它采用组件化架构,支持Chain、Graph、Workflow三种编排方式,并提供完善的观测能力。示例展示了如何使用Eino调用ModelScope的OpenAI模型进行流式对话:通过创建ChatModel实例,构建系统/用户消息,获取流式读取器并实时输出响应内容。该框架充分发挥了Go语言在接
本文介绍了如何创建自定义天气查询工具并集成到AI对话系统中。首先定义了一个模拟天气API的工具,包含请求参数、响应结构和执行逻辑。然后通过集成工具到ReAct Agent框架,实现了自然语言查询天气的功能。系统使用Qwen3.5大模型作为核心,当用户询问"上海今天天气怎么样"时,Agent能正确调用天气工具并返回"上海26°C多云"的响应。该方案展示了如何将自定义功能扩展到大语言模型中,实现特定领
本文介绍了Eino框架的两种编排范式:Chain(链式)和Graph(图式)。Chain适合线性流程处理,Graph支持复杂DAG结构。通过Go代码示例展示了如何使用Chain进行链式调用:创建AI模型、定义prompt模板,构建处理链(模板→模型),最后编译执行并获取结果。示例演示了如何用简洁语法实现从模板填充到模型调用的完整流程,体现了Eino框架在简单场景下的易用性,同时保留了切换Graph
因为任何长度 ≥4 的回文必然包含长度为 2 或 3 的回文。3. 贪心策略:从右向左找到第一个可增加的字符,后面填充最小可行字符。// 填充 i 之后的字符为最小可行字符。· 当 i = 0 时,只需检查与前 2 位(不存在)// 检查是否与前面的字符形成回文。// 检查字符 c 放在位置 pos 是否合法。// 填充后续位置为最小字典序。2. 核心检查:只需避免长度为 2 和 3 的回文。·
MCP(Model Context Protocol)是一种标准化协议,旨在实现不同语言和平台工具的统一调用。本文展示了Go语言实现的MCP Server和Client示例:Server端提供了字符串处理和时间工具功能,支持大小写转换、日期计算等操作;Client端通过SSE协议连接Server,实现工具发现和调用功能。该协议类似AI领域的USB接口,使各类工具能被Agent直接调用,无需考虑底层
本文摘要介绍了RAG(检索增强生成)中的关键预处理步骤——文本分块(Chunking),重点分析两种主流分块策略: 固定长度分块:通过设定固定字符数和重叠区实现简单分割,但可能破坏语义完整性。示例代码展示了Go语言实现方案,包括字符统计和重叠处理逻辑。 递归分块:采用多级分隔符(段落/句子/词语)的层级分割策略,优先保持语义单元完整。当高层级分割仍超限时,自动降级使用更细粒度分隔符,最终回退到字符
本文介绍了如何使用开源向量数据库Milvus构建Go语言知识库检索系统。主要内容包括:Milvus的安装配置(Docker方式),通过Go SDK创建集合、生成文本嵌入向量、建立HNSW索引,以及执行相似度查询的完整流程。示例代码演示了如何将Go语言知识文档向量化存储,并支持语义搜索功能(如查询"Go并发编程"时返回相关知识)。文章还提供了与OpenAI兼容API集成的向量生成方法,适合开发者快速
2. 重复 k 次,每次从高位到低位贪心地为该数分配一个 1(如果该位还有剩余),从而构造出当前能得到的最大数。fmt.Println(maxSum(nums, k)) // 输出: 100 (36 + 64)// 统计每个位上 1 的个数(最多 30 位,因为 1e9 < 2^30)· 时间复杂度:O(n·B + k·B),其中 B = 30,常数极小。3. 累加这些数的平方和,并取模 1_00
本文介绍了如何构建基于RAG(检索增强生成)系统的知识库。主要内容包括:1)文档分块策略(固定大小分块、递归字符分割、语义分块);2)向量检索方法(余弦相似度、点积相似度、欧氏距离);3)实际操作步骤(加载文档、Markdown分块、向量化存储)。文中以Go语言知识库为例,展示了如何将技术文档切分为语义块,并利用OpenAI的Embedding模型进行向量化处理。最后提到需配置分块大小、重叠窗口等
结构化输出是大模型落地的关键一步。使用JSON模式约束输出格式设置temperature为0确保确定性实现重试机制处理解析失败使用JSON Schema进行校验好的Prompt工程能让大模型变成可靠的数据处理器。
安全是大模型应用的底线。输入层:过滤敏感词和危险模式处理层:使用系统提示词强化边界输出层:校验返回内容工具层:白名单控制调用永远不要信任用户输入,必须做多层校验。
窗口管理:有效控制上下文长度,平衡信息完整性和推理效率检索效率:在海量记忆中快速定位相关信息信息压缩:在保持关键信息的同时减少冗余一致性维护:确保记忆更新的正确性和可靠性通过分层架构、智能压缩、高效检索和完善的监控体系,可以构建高性能的长上下文记忆管理系统,为大模型应用提供坚实的技术支撑。
消息路由:采用智能路由算法和动态负载均衡,确保消息高效分发状态一致性:通过分布式状态管理和冲突解决策略,保证数据一致性数据对齐:建立完整的数据处理管道和质量评估体系自适应优化:基于监控数据自动调整系统配置这些优化策略为构建高性能、高可靠性的多 Agent 系统提供了坚实的技术基础。
检索优化:采用多层次检索和语义重排序生成约束:通过证据约束和格式控制引导模型行为事实校验:建立独立的事实校验机制数据对齐:通过针对性微调提升模型与知识库的对齐度监控反馈:持续评估并迭代优化这些措施共同构成了一个完整的 RAG 优化体系,为构建高质量的大模型应用提供了坚实保障。
其中「危险命令」由 `classifier.Classify(cmd)` 判定(`permission/classifier.go`),独立于模式设置——**任何模式都阻止 `rm -rf /`、`format c:` 这类操作**。`term` 用于终端原始模式(REPL 输入),`sys` 是 `term` 的传递依赖。3. **只读无进展检测**:`read`/`grep`/`glob`/`
LLM 模型并行训练的核心思路是:张量并行解决单层显存问题(节点内 NVLink),流水线并行解决跨层显存问题(可跨节点),数据并行叠加在模型并行之上解决算力问题,ZeRO 优化进一步压缩数据并行的显存冗余。落地路线建议:第一步,从 DP + ZeRO-2 起步,验证训练流程和模型收敛性;第二步,当模型大到单卡装不下时,引入 TP(限制在节点内 8 卡);第三步,当 TP 仍不够时,叠加 PP,配
大模型数据隐私保护的核心思路是分层防御:输入侧做 PII 检测与脱敏,模型侧做差分隐私训练,检索侧做数据隔离与访问控制,输出侧做隐私过滤。四层防线叠加,将隐私泄露风险降到可控范围。落地路线建议:第一步,在所有调用外部模型 API 的入口处,强制接入 PII 检测和脱敏,这是投入最小、收益最大的防线;第二步,在 RAG 系统中实现用户级数据隔离,向量检索时强制执行 ACL 过滤;第三步,在模型输出侧
Overlap Scheduling 里的 CPU 任务调度应该“恰到好处”的和 GPU 并行,不能太早也不能太晚,才能在 Overlap Scheduling 和 动态批处理之间取得平衡,获取最大收益。
大模型应用落地要先算账。成本包括模型、研发、评测、审核和运维。收益要落到可采集指标。没有指标闭环,就无法判断功能是否值得继续投入。建议每个 AI 功能上线前都写一页 ROI 表:场景、成本、收益、护栏和退出条件。先小流量验证,再决定扩展。AI 项目不怕谨慎,怕的是用概念替代成本账本。
RAG 落地前先治理知识库:文档版本、权限、元数据、切分、引用和评测缺一不可。向量库加聊天框只能做 Demo,能被业务信任的 RAG,要从数据治理开始。先把知识库管好,再谈生成效果,这是最朴实也最容易被跳过的工程课。
大模型应用 ROI 评估,要同时看人工基线、模型成本、维护成本、质量风险和试点复盘。别只算 token,真正的账在业务流程里。ROI 不是一个说服老板的数字,而是一个帮助自己判断该不该继续的工具。
大模型成本看板要把 token、延迟、质量和业务结果放在同一张图里。预算控制前置,成本归因到租户和功能,优化时同步观察质量损失。省钱不是少调用模型这么简单。真正有效的成本治理,是让每一次调用都能解释它的价值——或者让它不再发生。
转型 AI 后的第一个生产系统,选型比实现更关键。编排框架优先选择轻量方案或手写。向量数据库从 pgvector 起步,按需升级。大模型使用混合路由策略,平衡质量和成本。前三个月聚焦验证可行性和建立评估体系。
日调用低于 50 万次时,API 方案 TCO 远优于自建。自建的固定成本(GPU + 人力)是决定性因素,不管用不用都在烧钱。API 的边际成本低,但随调用量线性增长。收支平衡点约在日调用 100-200 万次,远高于大多数内部系统的实际调用量。决策时需同时权衡隐性成本:数据安全、供应商锁定、运维复杂度。如果数据合规要求极高不能外传,即使成本更高也得自建。如果调用量不大但增长快,建议 API 起
Agent 的降级策略本质上是"外部依赖不可靠"这一前提下的系统工程。三层架构(检测→决策→执行)提供了清晰的关注点分离。核心原则:缓存优先、备选兜底、规则保底、快速失败留给强一致性场景。生产部署时务必监控降级率、降级延迟和降级类型分布,这些指标直接反映系统的韧性边界。模型会挂,业务不能停——这是 AI 工程化的第一课。
Go后端:五年高并发,我转型做了大模型服务网关
本文探讨了如何通过分层架构设计解决大模型应用开发中的代码混乱问题。文章首先指出混合LLM调用、业务逻辑和工具集成的单体架构会导致难以维护的系统。核心观点是将系统划分为六层:表示层(入口)、智能体层(行为配置)、工具层(LLM适配)、服务层(业务逻辑)、领域层(数据结构)和基础设施层。其中重点强调工具层与服务层的分离——工具层作为薄适配器处理简单参数转换,服务层实现完整业务逻辑并返回结构化数据。这种
大模型成本分摊的核心矛盾:共享模型的"共用性"和每个团队的"独立核算"需求之间的张力。三层计费模型(Token 计数 → 成本计算 → 费用分摊)提供了一条可操作的路径。按实际用量:适合团队间模型使用模式差异大的情况(客服团队用便宜模型,AI 团队用贵模型)加权分摊:适合共享同一个模型实例、难以精确区分每次调用归属的场景配额先行:适合成本预算严格、需要硬约束的场景工程落地时最容易被忽略的细节:模型
显存预算制:每个任务注册时声明显存需求,管理器全局调度多进程隔离:每个进程独立管理显存,避免相互影响OOM 自愈:捕获 OOM → 清理缓存 → 递减重试量化降级:模型超过显存预算时,自动尝试量化加载,持续观察显存波动。
规则层处理高频简单意图(< 1ms 延迟)ML 层区分搜索和推理意图(< 5ms 延迟)统计层监控成本节省效果,持续优化路由策略在 10 万次/天的查询量下,40% 的闲聊 + FAQ 查询被拦截,日均成本从 3000 元降到约 1200 元——路由器本身的开发成本(约 3 人天)在一周内就回本了。
我做了八年金融分析,第一次被一个机器指出这么多问题。而且,它说的基本都对。
我一个计算机科班、绩点 3.7、实习做过两个后台系统的应届生,被"没有大模型项目"几个字,挡在了门外。
你看着组里有人用 AI 生成用例、自动分析失败日志,心里又羡慕又发虚:测试这行,是不是也在被重新定义?
我叫小杨,做前端做了好些年。今天不想讲方法论,就想跟同样写界面的你,说点掏心窝的话。
一句话判断:Prompt Caching 不是把答案存起来,而是把反复出现的提示词前缀复用起来,减少模型每次重新处理相同上下文的成本与延迟。