【开发岗位分类】

大模型应用工程师
大模型研发工程师
大模型算法工程师

知识pytarch:
切片与向量数据库
ES
pg数据库
上下文工程管理
上下文摘要
上下文检索问题
rerank重排(qianwen3-rerank8b)
工程化解决方案—思考题(调用工具报错应该怎么处理)
如果发现重复3次以上调用还是拿不到结果,应该怎么处理
大模型的架构有哪些?MOE架构预训练?哪些架构?架构相关的特点
多模态训练模型
多模态解析模型–deepseek.ocr
其他垂直领域的大模型

【大模型应用工程师】

  1. 会调用—任何一个模型会调用在线的
  2. 会私有化部署
  3. 知道每一种模型的优势和体会,找到自己适合的系列

– 尝试一下【智谱】的搜索工具
VLLM应用部署时候,哪些参数可以优化推理速度(分布式参数,缓存参数)

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐