1. 大模型结构化输出需求解析

在真实业务场景中，我们经常需要将大模型的自然语言输出转换为机器可处理的结构化数据。比如电商客服场景需要提取用户投诉中的订单号、问题类型等字段，金融领域需要从研报中提取公司财务数据，医疗场景需要整理病历关键信息。这些场景都面临三个核心痛点：

1. 大模型原生输出是自由文本，需要二次解析
2. 人工编写正则表达式或解析规则成本高
3. 非结构化数据难以直接入库或对接业务系统

以智能客服工单系统为例，当用户输入"我上周买的手机屏幕碎了，订单尾号1234，要求退货"，理想的结构化输出应该是：

{
  "intent": "after_sales",
  "order_id": "1234",
  "problem_type": "screen_damage",
  "request_type": "return"
}

2. 结构化输出三大方案对比

2.1 提示词工程方案

这是最轻量级的实现方式，通过设计特定的提示词模板引导模型输出。核心要点包括：

• 明确输出格式要求（JSON/XML/YAML）
• 提供字段说明和示例
• 指定键值对格式

典型提示词结构：

请严格按以下JSON格式输出，包含如下字段：
- intent: 用户意图分类
- order_id: 订单号后4位  
- problem_type: 设备问题类型
- request_type: 售后请求类型

示例输入："手机充电口接触不良，订单号4567"
示例输出：{"intent":"after_sales","order_id":"4567","problem_type":"charging_port","request_type":"repair"}

现在请处理以下输入：
[用户输入内容]

实战技巧：在提示词中加入"必须"、"严格"等强调词，并限定输出只能是JSON格式（如"只输出JSON，不要任何解释"），可显著提升格式合规率。

2.2 函数调用方案

主流大模型平台（如OpenAI、Anthropic）都提供了函数调用能力。以OpenAI为例：

1. 定义函数规范：

tools = [
    {
        "type": "function",
        "function": {
            "name": "extract_service_request",
            "description": "从用户输入提取客服请求信息",
            "parameters": {
                "type": "object",
                "properties": {
                    "intent": {"type": "string", "enum": ["consult", "after_sales"]},
                    "order_id": {"type": "string", "description": "订单后4位"},
                    "problem_type": {"type": "string"}, 
                    "request_type": {"type": "string", "enum": ["repair", "return"]}
                },
                "required": ["intent", "order_id"]
            }
        }
    }
]

2. 调用时强制使用函数：

response = client.chat.completions.create(
    model="gpt-4",
    messages=[{"role": "user", "content": user_input}],
    tools=tools,
    tool_choice={"type": "function", "function": {"name": "extract_service_request"}}
)

优势在于：

• 结构化参数定义确保输出合规
• 支持枚举值等强约束
• 直接返回解析好的Python对象

2.3 输出后处理方案

当无法控制模型输出时（如使用第三方API），可采用智能解析方案：

1. 用大模型清洗数据：

def sanitize_json(raw_output):
    prompt = f"""原始文本可能包含不规范的JSON，请修正为合规JSON：
    要求：
    1. 移除所有非JSON内容
    2. 确保引号使用一致
    3. 补全缺失的括号

    原始输入：
    {raw_output}

    只输出修正后的JSON："""
    response = client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=[{"role": "user", "content": prompt}]
    )
    return json.loads(response.choices[0].message.content)

2. 传统解析方案组合：

• 正则表达式提取JSON部分
• 容错JSON解析库如 demjson3
• 语法树分析修复工具

3. 方案选型决策树

根据实际需求选择方案：

是否需要严格约束字段类型和值域？
├── 是 → 函数调用方案
└── 否 → 是否有模型控制权？
    ├── 是 → 提示词工程方案
    └── 否 → 输出后处理方案

4. 实战避坑指南

4.1 格式漂移问题

即使明确要求JSON输出，模型仍可能：

• 添加解释性文字
• 使用中文标点
• 键名不加引号

解决方案：

• 在提示词中加入"不要任何解释"
• 设置 response_format={ "type": "json_object" } （OpenAI特有）
• 使用函数调用强制约束

4.2 字段缺失处理

当输入信息不全时，建议：

1. 在提示词中说明哪些字段是必选/可选
2. 为函数调用参数设置required字段
3. 后处理时添加默认值逻辑

4.3 多轮对话场景

在持续对话中保持结构一致性的技巧：

• 将之前输出的JSON作为上下文传入
• 使用system message维护格式要求
• 对增量更新采用JSON merge patch策略

5. 性能优化策略

5.1 大模型级优化

• 对固定schema使用微调模型
• 低精度场景换用小型模型如GPT-3.5
• 批量处理请求减少API调用次数

5.2 工程级优化

• 实现解析缓存层
• 对相似请求复用解析结果
• 异步处理流水线设计

5.3 混合架构设计

对于高频固定字段的提取，可以：

1. 先用规则/正则提取已知模式
2. 剩余部分交给大模型处理
3. 最后进行结果聚合

这种方案在某电商平台的实践中，使API调用量减少了62%，同时保持98%的字段提取准确率。

6. 效果评估方法论

建立结构化输出质量评估体系：

1. 格式合规率

   • 有效JSON比例
   • 必填字段完整率

2. 内容准确率

   • 字段取值正确性
   • 信息抽取完整性

3. 业务指标

   • 下游系统处理成功率
   • 人工修正比例

建议实施自动化测试：

• 构造涵盖边界案例的测试集
• 监控生产环境异常输出
• 定期人工抽样审核

7. 进阶应用场景

7.1 动态schema适配

通过两级提示词实现：

1. 第一轮识别数据类别
2. 第二轮应用对应模板

def dynamic_schema_extraction(text):
    # 第一步：识别领域
    domain_prompt = f"""判断文本所属领域：
    选项：medical, legal, ecommerce
    文本：{text}
    只输出领域标签："""
    domain = get_completion(domain_prompt)
    
    # 第二步：应用领域模板
    template = load_template(f"{domain}_template.json")
    extract_prompt = f"""根据以下模板提取信息：
    模板：{json.dumps(template, ensure_ascii=False)}
    文本：{text}
    输出符合模板的JSON："""
    return get_completion(extract_prompt)

7.2 多模态结构化输出

处理图片/PDF等输入时：

1. 先用多模态模型生成描述
2. 对描述文本进行结构化提取
3. 交叉验证关键信息

7.3 流式结构化输出

对于长文本处理：

1. 分段提取结构化信息
2. 实时合并部分结果
3. 最终完整性校验

某金融资讯平台使用此方案，将10页PDF财报的解析时间从3分钟缩短到45秒，同时实现实时数据更新。