仅用250美元Hugging Face技术主管手把手教你微调Llama 3

  大语言模型的微调一直是说起来容易做起来难的事儿。近日 Hugging Face 技术主管 Philipp Schmid 发表了一篇博客，详细讲解了如何利用 Hugging Face 上的库和 fsdp 以及 Q-Lora 对大模型进行微调。

  不过，大多数情况下，使用的人要根据自己的数据对这些开源模型进行微调，才能充分释放模型的潜力。

  虽然在单个 GPU 上使用 Q-Lora 对较小的大语言模型（如 Mistral）进行微调不是难事，但对像 Llama 3 70b 或 Mixtral 这样的大模型的高效微调直到现在仍是一个难题。

  注：本文进行的实验是在英伟达（NVIDIA）H100 和英伟达（NVIDIA）A10G GPU 上创建和验证的。配置文件和代码针对 4xA10G GPU 进行了优化，每个 GPU 均配备 24GB 内存。如果使用者有更多的算力，第 3 步提到的配置文件（yaml 文件）需要做相应的修改。

  PyTorch FSDP 是一种数据 / 模型并行技术，它可以跨 GPU 分割模型，减少内存需求，并能够更有效地训练更大的模型。Q-LoRA 是一种微调方法，它利用量化和低秩适配器来有效地减少计算需求和内存占用。

  环境设置完成后，我们就能开始创建和准备数据集了。微调用的数据集应该包含使用者想要解决的任务的示例样本。阅读《如何在 2024 年使用 Hugging Face 微调 LLM》能更加进一步了解如何创建数据集。

  作者使用了 HuggingFaceH4/no_robots 数据集，这是一个包含 10,000 条指令和样本的高质量数据集，并且经过了高质量的数据标注。这一些数据可用于有监督微调（SFT），使语言模型更好地遵循人类指令。no_robots 数据集以 OpenAI 发表的 InstructGPT 论文中描述的人类指令数据集为原型，并且主要由单句指令组成。

  no_robots 数据集中的 10,000 个样本，被分为 9,500 个训练样本和 500 个测试样本，其中有些样本不包含 system 信息。作者使用 datasets 库加载数据集，添加了缺失的 system 信息，并将它们保存到单独的 json 文件中。示例代码如下所示：

  接下来使用 PyTorch FSDP、Q-Lora 和 SDPA 对大语言模型进行微调。作者是在分布式设备中运行模型，因此就需要使用 torchrun 和 python 脚本启动训练。

  作者编写了 run_fsdp_qlora.py 脚本，其作用是从磁盘加载数据集、初始化模型和分词器并开始模型训练。脚本使用 trl 库中的 SFTTrainer 来对模型进行微调。

  SFTTrainer 能够让对开源大语言模型的有监督微调更加容易上手，具体来说有以下几点：

  这意味着如果要在模板中使用这一些分词器，还需要对它们进行训练，并更新嵌入层和 lm_head，对内存会产生额外的需求。如果使用者有更多的算力，可以修改 run_fsdp_qlora.py 脚本中的 LLAMA_3_CHAT_TEMPLATE 环境变量。

  在配置参数方面，作者使用了新的 TrlParser 变量，它允许我们在 yaml 文件中提供超参数，或者通过明确地将参数传递给 CLI 来覆盖配置文件中的参数，例如 —num_epochs 10。以下是在 4x A10G GPU 或 4x24GB GPU 上微调 Llama 3 70B 的配置文件。

  注意：训练结束时，GPU 内存使用量会略有增加（约 10%），这是因为模型保存所带来的开销。所以使用时，请确保 GPU 上有足够的内存来保存模型。

  注意：如果想不使用 CPU offloading 功能，需要更改 fsdp 的设置。这种操作只适用于内存大于 40GB 的 GPU。

  如果我们将训练扩展到 4x H100 GPU，训练时间将缩短至大约 125 小时。如果假设 1 台 H100 的成本为 5-10 美元 / 小时，那么总成本将在 25-50 美元之间。

  我们需要在易用性和性能之间做出权衡。如果能获得更多更好的计算资源，就能减少训练时间和成本，但即使只有少量资源，也能对 Llama 3 70B 进行微调。对于 4x A10G GPU 而言，需要将模型加载到 CPU 上，这就降低了总体 flops，因此成本和性能会有所不同。

  注意：在作者进行的评估和测试过程中，他注意到大约 40 个最大步长（将 80 个样本堆叠为长度为三千的序列）就足以获得初步结果。40 个步长的训练时间约为 1 小时，成本约合 5 美元。

  使用 QLoRA 时，作者只训练适配器而不对整个模型做出修改。这在某种程度上预示着在训练过程中保存模型时，只保存适配器权重，而不保存完整模型。

  如果使用者想保存完整的模型，使其更容易与文本生成推理器一起使用，则能够正常的使用 merge_and_unload 方法将适配器权重合并到模型权重中，然后使用 save_pretrained 方法保存模型。这将保存一个默认模型，可用于推理。

  训练完成后，我们要对模型做评估和测试。作者从原始数据集中加载不同的样本，并手动评估模型。评估生成式人工智能模型并非易事，因为一个输入可能有多个正确的输出。阅读《评估 LLMs 和 RAG，一个使用 Langchain 和 Hugging Face 的实用案例》可以了解到关于评估生成模型的相关内容。

  本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。

上一篇：十大传感器上市公司（传感器 上市公司）

下一篇：磁致伸缩动态扭矩传感器