TPU-MLIR 正在参加 2021 年度 OSC 中国开源项目评选 ,请投票支持!
TPU-MLIR 在 2021 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
2021 年度 OSC 中国开源项目评选 正在火热进行中,快来投票支持你喜欢的开源项目!
2021 年度 OSC 中国开源项目评选 >>> 中场回顾

TPU-MLIR 是一个专注于 AI 芯片的 TPU 编译器开源工程,提供了一套完整的工具链,可以将不同框架下预训练过的深度学习模型,转化为可以在 TPU 上运行的二进制文件 bmodel,从而实现更高效的推理。

MLIR (Multi-Level Intermediate Representation) 是一种用来构建可重用和可扩展编译基础设施的新方法,由 LLVM 原作者 Chris Lattner 在 Google 工作时期开发,MLIR 目的是做一个通用、可复用的编译器框架,解决软件碎片化,改进异构硬件的编译,显著减少构建特定领域编译器的成本。

TPU-MLIR 相对其他编译工具,有以下几个优势:

  • 简单 :通过阅读开发手册与工程中已包含的样例,用户可以了解模型转化流程与原理,快速上手。并且,TPU-MLIR基于当前主流的编译器工具库MLIR进行设计,用户也可以通过它来学习MLIR的应用。
  • 便捷 :该工程已经提供了一套完备的工具链,用户可以直接通过现有接口快速地完成模型的转化工作,不用自己适配不同的网络。
  • 通用 :目前 TPU-MLIR 已经支持 TFLite 以及 onnx 格式,这两种格式的模型可以直接转化为 TPU 可用的 bmodel。如果不是这两种格式呢?实际上 onnx 提供了一套转换工具,可以将现在市面上主流深度学习框架编写的模型转为 onnx 格式,然后就能继续转为 bmodel 了。
  • 精度与效率并存 :模型转换的过程中有时会产生精度损失,TPU-MLIR 支持 INT8 对称和非对称量化,在大幅提高性能的同时又结合原始开发企业的 Calibration 与 Tune 等技术保证了模型的高精度。不仅如此,TPU- MLIR 中还运用了大量图优化和算子切分优化技术,以保证模型的高效运行。
  • 用过`php`, 有几个缺点用不下去: - `php`的动态语言特性造成经常`IDE`不能很好的跳转源码位置。 - 语言本身不支持调试,需要用插件,上`Apache`。 比如我想测试一个方法。 - 对某个文件进行单元测试麻烦。 - 变量命名很乱。 动态语言团队开发就是噩梦,比如突然从某个变量里访问某个`key`,都不知道这个`key`哪里来的,`IDE`支持不好的话得全部搜索一遍。 - 想要运行时进入第三方库并调试,难。 - 性能如果纯`php`并不高,有谁会经常写`C`扩展? - 如果想用线程,比如非实时定时任务,邮件发送,数据统计等。本身标准库不支持线程。 - 除了做网站方便点其他程序开发难做。比如想做个分析`Excel`的命令行小工具,不能打包为`exe`并发给别人用。 都是学语言,其他语言比如`java`,`go`还能做非网站程序,有的选学PHP干嘛?当然目前网站部署成本`php`最低,也支持热部署这个目前静态语言还超越不了。如果要学动态语言,用`javascript`开发网站后端也不错啊,还能把经验用在开发前端网页上。 本人原创作者,在此解释声明一二: 1. 我的父母还没有无耻到做这种无耻的事情,我也对我的能力有信心,目前也不需要这些偷鸡摸狗的见不得光的东西来造假,请各位不要以小人之心度君子之腹。 2. 我今年初三,项目是从初一开始做的,各位不相信的欢迎上github看提交记录,可以看一下初版和现在的区别,UI和js都有不小更改。 3. 团队组成:今年一位初三,一位初一,一位5+4制的初一。更新记录中明确记录了哪些功能是哪位所开发的。 4. 我在github上,bilibili上没有受到过任何一个人的质疑,我对中国的网络环境表示蔑视。 5. 本项目的初中只是为了兴趣,没有想到火了起来。 我不理解你们是如何通过代码读出作者年龄的?难道是语文考试要加入代码阅读赏析的题目了吗?真心觉得很厉害。 6. 不愿与某些人同流,也无众位深厚阅历经验,只望能得清白之名。感谢大家让我懂得了何乃人情世故,孰谓世态炎凉,世俗红尘。你们给我的人生上了重要的一课。人间哪有什么真善美啊,呵。社会的病胎罢了。 看了 wangEditor 的公告,如鲠在喉。去年七月,我在一篇《关于剔除 layedit 组件》的公告中,还推荐了几款 editor 组件用于替代,其中就包括了 wangEditor, 转眼之间,仿若时空交错,不免有些感慨。 在国内由个人发起的开源项目,似乎都很难跳出相同的宿命,不断有人走进这个赛道,但能抵达终点并完成突破的却屈指可数。Layui 曾经同样倒在了赛道,2021 年宣布关站之前,Layui 的百度指数还一度领先 Bootstrap, 如此一个拥有广泛用户群体的 UI 库,本该迎来新的突破,却在疾跑中戛然止步,至今令人迷惑。人们看到的,是一篇充满悲情色彩的公告,而公告的背后,是创作者在面对内外交织的困境中不得已做出的举措,当我们没有足够的力量冲破眼前的障碍,除了停下来避开它,还有别的更优选择么。你很难想象除此之外还有多少历史包袱… 譬如,也是由于种种原因,当初 Layui 在 Github 和 Gitee 待处理的 Issue 数量,不下于 2000,各种议题参次不齐,我差不多花了半年时间去逐一审阅,多少个日夜消耗,多少次自我情绪的对抗… 就不多提了。 尽管这两年来,Layui 的受众者已呈断崖式流失,但正因为小众,反而如释重负,甚至让我重新找回了一些开源的纯粹。 共勉 🙂 我作为该项目的开发团队成员之一,在此说明: 1. 这个项目是完全由自己编写的,没有借助商业的帮助,没有他人冒充,也不存在父母帮我们编写后给我们挂名的问题。同时因为我们都是中学生,没有多少资金,也不可能进行"买广告"等不正当的商业行为; 2. 我们自己做的项目绝对没有博眼球,单纯就是想对Windows在网页上进行模仿和创新; 3. 我们的实力并不是那么差,我们开发团队成员曾获得C++二级全市第一、CSP-J国赛一等奖、蓝桥杯省赛一等奖等多个奖项,成员每人编程能力全国前4%-10%,并且我们人均精通前端和后端,就拿我来举例,我能熟练使用git命令行,从克隆仓库,提交、推送更改到拉取合并、暂存、设置远程、配置ssh密钥都烂熟于心,熟悉Linux系统,从查看当前目录下文件和文件夹到使用命令行手动安装驱动都熟悉,熟悉NodeJS,会下载、导入模块和程序编写与运行,精通HTML, CSS和JS,基本的东西都能灵活运用,并且熟悉Python, C, C++和汇编语言; 4. 我们项目链接在 https://github.com/tjy-gitnub/win12,现已经获得超1500颗Stars