相关文章推荐
帅气的佛珠  ·  深圳市加快打造人工智能先锋城市行动方案·  4 月前    · 
睿智的伤疤  ·  光华讲坛——认知启发的视觉-语言技术-西南财 ...·  3 月前    · 
爱热闹的金针菇  ·  【无矶之谈】编码能力堪比Copilot、Cu ...·  1 月前    · 
逆袭的生菜  ·  AI 代码生成工具深度测评：GitHub ...·  1 月前    · 
开心的硬币  ·  中石化信息技术中心社会招聘公告－国务院国有资 ...·  1 月前    · 
慷慨的橙子  ·  All tasks on both ...·  4 月前    · 
爱跑步的口罩  ·  c++ string截断 - CSDN文库·  1 年前    · 
坐怀不乱的红金鱼  ·  桃花泣血記／A Sad Love Story·  2 年前    · 
没人理的油条  ·  【BYTON ...·  2 年前    · 
风度翩翩的西装  ·  化州17岁少年到柬埔寨捞世界，却惨死异国他乡 ...·  2 年前    · 
Code  ›  3090单卡5小时，每个人都能训练专属ChatGPT，港科大开源LMFlow | 机器之心
开放源代码 开源中国 机器学习 人工智能
https://www.jiqizhixin.com/articles/2023-04-02
直爽的围巾
3 年前
机器之心 机器之心 原创

3090单卡5小时，每个人都能训练专属ChatGPT，港科大开源LMFlow

机器之心编辑部
机器之心报道

拥有自己的 AI 大模型！开源项目 LMFlow 支持上千种模型，提供全流程高效训练方案。

2022 年 11 月 30 日，OpenAI 推出 ChatGPT，令人没想到的是，这个对话模型在 AI 圈掀起一股又一股讨论狂潮。英伟达 CEO 黄仁勋将其比喻为 人工智能 领域的 iPhone 时刻；比尔・盖茨盛赞 ChatGPT 在 人工智能 历史上的意义不亚于 PC 或互联网的诞生。

尽管 ChatGPT 在各个方面表现惊人，但其高昂的训练成本以及海量的训练数据等，都给想要进入该领域的人设下层层关卡。就拿算力来说，ChatGPT 经由微软专门建设的 AI 计算系统训练，总算力消耗约为 3640 PF-days。而在推理阶段，以今年 1 月份独立访客平均数 1300 万计算，ChatGPT 对应的芯片需求为 3 万多块英伟达 A100 GPU，初始投入成本约为 8 亿美元，每天光是花掉的电费就要 5 万美元。就连科技巨头微软在帮 OpenAI 打造 ChatGPT 时都因为算力不足而被迫暂停了一些其他项目。

科技大厂尚且如此，对于普通人来说更是难上加难。

因此在 ChatGPT 问世的这段时间里，许多人开始对科研的方向和未来感到迷茫：如何能够参与通用 人工智能 研究，在这个新的时代找到自己的优势？很多人都希望有能力训练一个只属于自己的 AI 大模型，但尽管国内外已有许多类 GPT 产品，对于普通的学者、研究者和程序员来说，这样的产品仍不足以适应每一个人的需求。
一方面，从头预训练的成本是我们普通人和小规模公司所无法承受的。另一方面，基于 API 的黑盒封装不是完美的解决方案。虽然我们可以很容易地基于 API 开发自己的应用，但使用效果和自定义程度往往不尽人意。因此，从头预训练和基于 API 开发都不是最佳方式。

接下来我们为大家介绍的开源项目 LMFlow，不需要从头预训练，只需要以 finetune 作为切入点即可。
图片

项目地址：https://github.com/OptimalScale/LMFlow

项目介绍

该项目由 香港科技大学统计和 机器学习 实验室团队 发起，致力于建立一个全开放的大模型研究平台，支持有限机器资源下的各类实验，并且在平台上提升现有的数据利用方式和优化算法效率，让平台发展成一个比之前方法更高效的大模型训练系统。

此外，该项目的最终目的是帮助每个人都可以用尽量少的资源来训练一个专有领域的、个性化的大模型，以此来推进大模型的研究和应用落地。

在 LMFlow 的加持下，即便是有限的计算资源，也能让使用者针对专有领域支持个性化训练。基于 70 亿 参数 的 LLaMA，只需 1 张 3090、耗时 5 个小时，就可以训练一个专属于自己的个性化 GPT，并完成网页端部署。开源库作者们已经利用这个框架单机训练 330 亿 参数 的 LLaMA 中文版，并开源了模型 权重 用于学术研究。训练得到的模型 权重 可以通过该网页端即刻体验问答服务 (lmflow.com)。

lmflow.com 地址：http://lmflow.com/
使用 LMFlow，你也有能力训练一个只属于自己的模型！每个人可以根据自己的资源合理选择训练的模型，用于问答、陪伴、写作、翻译、专家领域咨询等各种任务。模型和数据量越大，训练时间越长，效果越佳。目前该研究也在训练更大 参数 量（650 亿）和更大数据量的中文版模型，效果还会持续提升。

其实，很早之前 LMFlow 的作者们就已认识到 finetune 的重要性。InstructGPT [1] 中就涵盖了 supervised fine-tuning 和 alignment（比如 RLHF）这两种 finetune 技术。然而，目前的开源代码库要么聚焦于某个模型（比如 LLaMA [2]），要么聚焦于某种特定的技术（比如 instruction tuning）。还没有一个库能够支持在海量模型上快速应用多种 finetune 技术。

现在，LMFlow 迈出了这个方向的第一步。通常，ChatGPT 的训练包括至少以下几个步骤：pretrain → supervised tuning → instruction tuning → alignment。LMFlow 库利用现有的开源大模型，支持这套流程的所有环节和灵活组合。这意味着 LMFlow 库为我们建立了一条通向完整训练链的桥梁。
图片
接下来我们来了解一下实际使用 LMFlow 的体验。
使用体验

据作者介绍，LMFlow 拥有四大特性：可扩展、轻量级、定制化和完全开源。基于此，用户可以很快地训练自己的模型并继续进行二次迭代。这些模型不仅限于最近流行的 LLaMA，也包括 GPT-2、Galactica 等模型。
图片
前面我们已经提到：基于该开源库，用户只需使用单卡 3090，就能对 LLaMA-7b 模型进行微调，用时 5 个小时训练得到一个能够流畅对话的问答模型。进一步，如果使用更多资源对更大的 LLaMA-33b 模型进行微调，即可大大提升回答的质量！
图片
不仅如此，在特定的专家领域（以医疗为例），只需微调 6 个 A100 * 天，就能够获得和 ChatGPT 相当甚至更好的效果。值得注意的是，ChatGPT 则具有 1750 亿的 参数 量，而这里性能相当的最小模型规模只有不到二十分之一，大大节约计算资源。
图片

接下来是真正的上手实验。使用 conda 安装必要的依赖后，即可上手体验。

安装和准备数据集的过程非常顺利，如此便捷是因为作者们贴心地提供了一键下载数据集的方式。只需要运行一个 bash 脚本就能下载所需的数据集，非常方便！

准备好了数据集之后，接下来就是模型训练。训练过程也大大简化，普通用户只需要执行一次 bash 脚本，即可轻松完成（非常适合小白入坑）。作者们还开放了训练好的模型下载，如果你不想自己训练模型，可以下载作者提供的 checkpoint 并进行推理。

在此基础上，作者们还提供了基于 huggingface 模型或本地 checkpoint 的问答机器人脚本。一键运行即可与你训练的模型开始对话：

图片

如果在使用过程中遇到任何问题，欢迎通过 github issue 或 github 主页的微信群联系作者团队。

在当下大家都纷纷投入到预训练大模型的竞赛中时，LMFlow 提供了一个很好的启示：大多数普通玩家没有预训练大模型的资源，但仍旧可以参与到这场使用和研究大模型的浪潮中来。正如他们的口号所说：「让每个人都能训得起大模型（Large Language Model for All）。」

参考文献
[1] Ouyang, Long, et al. "Training language models to follow instructions with human feedback." Advances in Neural Information Processing Systems 35 (2022): 27730-27744.
[2]  Touvron, Hugo, et al. "Llama: Open and efficient foundation language models." arXiv preprint arXiv:2302.13971 (2023).
理论 香港科技大学 LMFlow

相关数据

权重 技术

线性模型中特征的系数，或深度网络中的边。训练线性模型的目标是确定每个特征的理想权重。如果权重为 0，则相应的特征对模型来说没有任何贡献。

来源： Google AI Glossary
机器学习 技术

机器学习是人工智能的一个分支，是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论，机器学习与推断统计学联系尤为密切，也被称为统计学习理论。算法设计方面，机器学习理论关注可以实现的，行之有效的学习算法。

来源： Mitchell, T. (1997). Machine Learning. McGraw Hill.
人工智能 技术

在学术研究领域，人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体（intelligent agent）

来源： Russell, S., & Norvig, P. (2003). Artificial Intelligence: A Modern Approach.
参数 技术

在数学和统计学裡，参数（英语：parameter）是使用通用变量来建立函数和变量之间关系（当这种关系很难用方程来阐述时）的一个数量。

来源： 维基百科
通用人工智能 技术

通用人工智能（AGI）是具有一般人类智慧，可以执行人类能够执行的任何智力任务的机器智能。通用人工智能是一些人工智能研究的主要目标，也是科幻小说和未来研究中的共同话题。一些研究人员将通用人工智能称为强AI（strong AI）或者完全AI（full AI），或称机器具有执行通用智能行为（general intelligent action）的能力。与弱AI（weak AI）相比，强AI可以尝试执行全方位的人类认知能力。

来源： wikipedia

推荐文章

发表评论

 
推荐文章
帅气的佛珠  ·  深圳市加快打造人工智能先锋城市行动方案
4 月前
睿智的伤疤  ·  光华讲坛——认知启发的视觉-语言技术-西南财经大学计算机与人工智能学院
3 月前
爱热闹的金针菇  ·  【无矶之谈】编码能力堪比Copilot、Cursor、GPT-国内可用的智能AI编程_cursor和copilot
1 月前
逆袭的生菜  ·  AI 代码生成工具深度测评：GitHub Copilot、Cursor 对比_cursor和copilot
1 月前
开心的硬币  ·  中石化信息技术中心社会招聘公告－国务院国有资产监督管理委员会
1 月前
慷慨的橙子  ·  All tasks on both cores hang/deadlock - ESP32 Forum
4 月前
爱跑步的口罩  ·  c++ string截断 - CSDN文库
1 年前
坐怀不乱的红金鱼  ·  桃花泣血記／A Sad Love Story
2 年前
没人理的油条  ·  【BYTON M-Byte报价】深圳拜腾拜腾BYTON M-Byte报价_价格_BYTON M-Byte报价-易车
2 年前
风度翩翩的西装  ·  化州17岁少年到柬埔寨捞世界，却惨死异国他乡​！原因竟是…_诈骗
2 年前
今天看啥   ·   Py中国   ·   codingpro   ·   小百科   ·   link之家   ·   卧龙AI搜索
删除内容请联系邮箱 2879853325@qq.com
Code - 代码工具平台
© 2024 ~ 沪ICP备11025650号