项目场景：

llamafactory微调过程中，更新transformers版本后无法微调成功

问题描述

进入llamafactory的ui界面，点击微调后报错
if v not in ALL_PARALLEL_STYLES: ^^^^^^^^^^^^^^^^^^^^^^^^^^^^ TypeError: argument of type 'NoneType' is not iterable

解决方案：

修改路径LLaMA-Factory/src/llamafactory/cli.py下的cli.py文件，在开头添加如下内容：

from transformers import modeling_utilsif not hasattr(modeling_utils, "ALL_PARALLEL_STYLES") or modeling_utils.ALL_PARALLEL_STYLES is None:
    modeling_utils.ALL_PARALLEL_STYLES = ["tp", "none","colwise",'rowwise']

完成后即可继续微调

# python # 自然语言处理 # transformer # pytorch # 人工智能
Logo
https://edu.csdn.net/learn/39067/627173?utm_source=2019755004

汇聚全球AI编程工具，助力开发者即刻编程。

更多推荐

让 Agent 说得少做得对：输出压缩与行动优先的提示策略

各位正在探索大模型应用落地的开发者、产品经理、甚至AI爱好者们，想必都遇到过这样令人抓狂的场景：你给Agent（比如Claude 3 Opus的代码助手插件、LangChain构建的知识库检索Agent、甚至是企业内部定制的办公助手）下达了一条清晰的指令：过了5秒钟（已经是GPT-4o mini级别Agent的“长思考时间”了），你收到了这样一段回复：这段回复，单论内容质量，其实挺高的——它考虑了

avatar AI编程社区
cover

25.TCO 成本测算：训练与推理的完整成本模型

avatar AI编程社区

AI Agent Harness Engineering 的“黑箱”拆解：使用 LangSmith 进行全链路追踪与可视化

核心概念：AI Agent Harness Engineering（，下文简称）是 2023-2024 年大语言模型（LLM）、多模态模型（MMM）技术落地企业级复杂任务时的核心分支之一——它不再满足于让单个 LLM 执行简单的问答、文本生成，而是设计、开发、调试、部署、监控、迭代。问题背景：2022 年底 ChatGPT 的发布让“LLM 通用智能”的想象空间爆发，但当开发者和企业尝试将其应用到

avatar AI编程社区