1 agent三层记忆系统原理和实现

  • 工作记忆
  • 短期记忆
  • 长期记忆

2 skill三层渐进式披露架构原理和实现

3 工具调用失败怎么处理

主要有以下四种失败原因:

  • i参数错误,这是LLM自身问题。特征是工具返回参数校验失败、JSON解析失败。
    解决方案:不能用原来参数无脑重试,而是要把具体的错误信息连同原来的调用一起会送给LLM,让其自己修正参数。有了这个机制,超一半的参数问题都可解决。
  • ii 临时服务错误,这是基础设施问题。比如:网络超时、409限流、503服务不可用。
    解决方案:用指数退避重试就可以,第一次等于1s,第二次2s,第三次4s,保持参数不变,因为问题出在服务端而不在LLM。
  • iii 空结果和无用结果,工具执行成功了,单返回了空列表或者nod data。
    解决方案:让LLM重新生成一个更宽泛的查询条件,而不是重复原来的查询。比如:
    原来查”2025年3月保单“没结果,就让它改成查2024年的保单"
  • iv 永久性错误。比如:401权限不足,404工具不存在。
    解决方案:这种重试没有任何意义,直接终止,给用户一个友好的提示即可。
Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐