合规部的会议室永远比其他地方冷三度。我把笔记本电脑打开，屏幕上是一份投研助手的原型方案。对面坐着合规总监陈总、风控负责人老刘、信息安全老赵，三个人六只眼睛盯着我。

"这个系统能不能给出具体股票买入建议？"陈总第一个问题。

"不能。"我回答得很干脆，“它只辅助研究员整理信息、生成报告草稿、标注信息来源。最终的投资决策必须由持牌人员做出，系统不会输出买卖信号。”

“模型胡说怎么办？”

“我们在Prompt里强制要求每条结论必须引用检索到的原文，输出里包含confidence字段。低置信度内容自动标红，进入人工复核。”

“数据怎么保证不外泄？”

“客户持仓和交易数据做脱敏处理，向量库按权限隔离，不同部门只能访问自己授权范围内的文档。”

十五分钟后，陈总合上笔记本：“你先做个POC，合规要全程参与。”

走出会议室，我松了一口气。五年前我刚进公司时，最怕的就是这种会。现在我能从容应对，不是因为我会训练大模型，而是因为我懂金融系统——懂合规、懂风控、懂数据权限、懂业务规则。

一、合规会上的那十五分钟

这个投研助手项目，是AI团队发起的。他们先用公开数据搭了一个Demo，能回答宏观经济问题、能读财报、能写研报摘要。业务方看了很兴奋，说"能不能给我们部门用"。

AI团队来找我的时候，Demo已经在公有云上跑了一个月。

"这个不能直接用。"我看了他们的架构图，直接说。
"为什么？效果挺好的。"AI工程师小李不服气。
“第一，客户持仓数据不能上公有云。第二，模型输出的投资建议没有免责声明。第三，你们没做检索来源可追溯，模型可能是靠记忆答的。第四，权限控制没做，实习生和基金经理看到的内容不能一样。”
“那要改多少？”
"几乎要重做。"我说，“但这是金融IT该做的事。”

金融大模型应用和其他行业最大的区别，不是技术难度，是容错成本。一个电商推荐错了，用户笑一笑关掉；一个金融应用说错了，可能涉及合规风险、客户投诉、监管处罚。所以金融IT工程师的角色不是"让模型更聪明"，而是"让模型在金融规则里安全地运行"。

二、金融RAG：不能只说对，还得说得清来源

我们做的第一个模块是金融文档RAG。接入的文档包括：上市公司财报、行业研究报告、监管公告、内部投研笔记、合同协议。

技术栈并不复杂：用BGE-M3做Embedding，Milvus做向量库，GPT-4做生成，FastAPI封装服务。但金融场景的RAG有几个特殊要求。

第一，来源必须可追溯。模型回答"某公司Q3营收同比增长15%"，必须能告诉用户这个信息来自哪份财报的哪一页。我们做的实现是：在检索阶段保留文档元数据（文件名、页码、段落编号），生成阶段要求模型在答案中标注引用编号，最后前端把引用和原文片段一起展示。

用户问：某公司今年上半年的净利润是多少？
模型答：根据《某公司2024年半年度报告》第12页，该公司上半年净利润为12.3亿元，同比增长8.5%。[来源：report_2024_h1.pdf, page=12]

第二，时间敏感性要强。金融信息过期很快。我们在向量库里给每个文档打时间戳，检索时优先返回最近一年的文档，并且过滤掉明显过时的信息。对于财报、公告这类文件，还要求模型在回答里说明数据截止日期。

第三，数值要准确。大模型对数字不敏感，容易把"12.3亿"说成"12.3万"。我们的做法是让模型在生成时直接引用检索文本里的原句，不做数值改写。同时后处理用正则校验输出中的数字和来源文本是否一致。

第四，拒绝无关问题。用户可能问"帮我推荐一只股票"“这只股票明天会涨吗”，这些我们必须拒绝。系统在路由层先做一次意图识别，投资顾问类问题直接返回固定话术：“本系统不提供投资建议，请咨询持牌投资顾问。”

三、结构化输出：让模型的回答能被系统消费

金融系统里，模型输出不能是自由文本。下游可能是报告生成系统、风控系统、合规审查系统，它们需要结构化数据。

我们用JSON Schema严格约束模型输出。比如财报摘要任务，输出必须是这样的结构：

{
  "company_name": "某公司",
  "report_period": "2024年半年度",
  "revenue": {"value": 1230000000, "unit": "元", "yoy_growth": 0.15},
  "net_profit": {"value": 230000000, "unit": "元", "yoy_growth": 0.08},
  "key_risks": ["原材料价格上涨", "海外市场波动"],
  "sources": [
    {"doc_id": "report_2024_h1.pdf", "page": 12}
  ],
  "confidence": 0.92,
  "disclaimer": "本内容由AI辅助生成，仅供参考，不构成投资建议。"
}

Schema用Pydantic定义，模型输出后先校验格式，校验失败就重试，重试三次还失败就转人工。校验通过的数据才进入下游系统。

这个功能对合规审查模块尤其重要。我们要从合同里提取"违约责任"“保密条款”"争议解决方式"等关键信息。如果输出格式不固定，法务系统就无法自动比对。JSON Schema约束后，合同审查的自动化率从40%提升到75%。

"你们这个JSON Schema，跟以前做核心系统的接口规范是不是一回事？"老刘有次问我。
"就是一回事。"我说，“只不过以前约束的是后端接口，现在约束的是模型输出。模型也是一种服务接口，而且比后端接口更容易乱来。”

四、人机审核闭环：模型辅助，人做决策

金融行业不能用"模型自动审批"代替人。我们的定位是"模型辅助，人做决策"。

系统设计了三级处理流程：

自动通过：模型输出完整、格式正确、置信度高、无敏感内容、来源清晰。这类结果直接展示给用户，不做人工拦截。约占60%。

人工复核：置信度中等，或者涉及关键数值、合规敏感词、投资建议边界。系统把问题标红，推送给对应岗位人员复核。约占35%。

自动拦截：明确涉及投资建议、涉及未公开信息、模型拒绝回答、输出格式严重错误。直接返回固定提示，并记录日志。约占5%。

人工复核的流程也做了系统化设计。复核人员可以看到：原始问题、检索到的Top-K文档、模型生成的草稿、引用来源、置信度、模型给出的理由。复核人员可以选择"采纳"“修改后采纳”“驳回”。所有的操作都留痕，满足审计要求。

复核界面字段：
- 用户问题
- 检索结果（带高亮原文）
- 模型输出
- 置信度：0.72
- 风险提示：涉及营收预测
- 复核人操作：□采纳  □修改  □驳回
- 复核意见：________________

这个闭环让我们敢把系统交给业务用。模型不是黑盒输出，而是在一个可控的工作流里发挥作用。

五、数据脱敏与权限：金融系统的生命线

金融数据安全，是项目里我花最多时间的部分。

首先，训练RAG用的内部文档要做脱敏。客户姓名、账号、身份证号、持仓明细、交易流水，全部用占位符替换。比如"客户张三持有10000股A股票"变成"客户[姓名]持有[数量]股[股票代码]股票"。脱敏规则用正则+NER模型结合，敏感字段先识别再替换。

其次，向量库按权限隔离。我们不是建一个大向量库所有人都能查，而是按部门、按角色、按数据敏感度分库。研究员只能访问公开财报和内部研报，基金经理可以访问更多策略笔记，合规部门可以访问监管文件。查询时先做权限校验，再决定路由到哪个向量库。

第三，审计日志要完整。谁问了什么问题、检索了哪些文档、模型输出了什么、有没有人工复核、复核结论是什么，全部记录。日志保留时间按监管要求设定，定期归档。

第四，模型调用要走内网或私有部署。我们和金融云合作，把模型部署在私有VPC里，数据不出公司网络。API调用全链路加密，密钥定期轮换。

"这些安全措施，跟你以前做支付系统是不是很像？"陈总在一次复盘会上问。
"几乎一样。"我说，“支付系统保护的是钱，这里保护的是数据和决策安全。”

六、后记：金融IT工程师的不可替代性

做这个投研助手项目，让我重新理解了金融IT工程师在大模型时代的价值。

我们不会训练大模型，也写不出最牛的Prompt。但我们懂金融业务的边界：哪些数据能碰、哪些话不能说、哪些决策必须人工确认、哪些流程要留痕审计。这些不是技术问题，是行业问题。而恰恰是这些问题，决定了一个金融大模型应用能不能真正落地。

金融IT工程师做AI应用，有几个不可替代的优势：

第一，懂合规和风控。知道监管要求、知道业务红线、知道怎么设计免责声明和人机复核流程。

第二，懂数据治理。金融数据敏感、结构复杂、权限严格。我们能做脱敏、做分级、做血缘追溯。

第三，懂系统集成。大模型应用不是孤立Demo，要接核心系统、接风控系统、接审计系统、接用户权限中心。这些是我们的老本行。

如果你也是金融IT出身，想做大模型金融应用，我的建议如下：

第一，先学RAG基础。向量检索、Prompt工程、结构化输出，这些是金融大模型应用的底座。

第二，把合规当成产品设计的一部分。不是上线前补合规，而是从设计第一天就考虑数据来源、投资建议边界、免责声明、人工复核。

第三，重视可解释性。金融场景不能黑盒。每个结论都要有来源、有置信度、有审计记录。

第四，不要碰投资建议雷区。系统可以整理信息、生成草稿、辅助分析，但不能替用户做投资决策，更不能承诺收益。

项目POC通过的那天，我又去了一趟合规部的会议室。这次温度好像没那么低了。陈总说：“你们这个系统，最大的优点不是聪明，是让我们放心。”

我知道，这就是金融IT工程师在大模型时代的位置——不是站在舞台中央的技术明星，而是让技术能在金融世界里安全运行的守门人。

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！