伦敦帝国理工学院教授Michael Bronstein等人撰写了一本关于几何深度学习系统性总结的书,提出从对称性和不变性的原则推导出不同的归纳偏差和网络架构。
非常值得关注!
几何深度学习是一种从对称性和不变性的角度对大量ML问题进行几何统一的尝试。这些原理不仅奠定了卷积神经网络的突破性性能和最近成功的图神经网络的基础,而且也提供了一种原则性的方法来构建新型的问题特定的归纳偏差。
几何深度学习
提出从对称性和不变性的原则推导出不同的归纳偏差和网络架构。
我们相信这篇文章将吸引深度学习研究人员、实践者和爱好者的广泛受众。新手可以用它来概述和介绍几何深度学习。经验丰富的深度学习专家可能会发现从基本原理推导熟悉架构的新方法,也许还会发现一些令人惊讶的联系。实践者可以获得如何解决各自领域问题的新见解。
我们研究了流行的深度学习架构(CNNs, GNNs, transformer, LSTMs)的本质,并意识到,只要有一组合适的对称,我们就可以等价它们,它们都可以用一个通用的几何框架来表达。
更进一步,我们在一些不太标准的领域(如同质群和流形)上使用了我们的框架,这表明框架可以很好地表达这些领域的最新进展,如球形CNN, SO(3)-变换器,和规范-等变网格CNNs。
几何深度学习的“5G”:网格、组(具有全局对称性的齐次空间)、图(以及作为特定情况的集)和流形,其中几何先验通过全局等距不变(可以用测地线表示)和局部规范对称来表现。
https://geometricdeeplearning.com/
专知便捷查看
便捷下载
,请关注
专知
蓝色
后台回复“
GDL160
” 就可以获取
《
重磅!《几何深度学习》160页pdf新书
》专知下载链接
原文链接
人工智能正深刻改变着人们的生产、生活和学习方式。 近年来,NLP、CV 等机器学习领域出现了爆炸性的增长,在技术加速发展的推动下,AI 技术已经从实验室走向大规模的商业应用,人工智能迎来新一轮的发展热潮。 AI 作为新一轮产业变革的核心驱动力,将进一步释放历次科技革命和产业变革积蓄的巨大能量,并创造新的强大引擎。 目前 AI 技术已在金融、医疗、安防等多个领域实现技术落地,应用场景也越来越丰富。人工智能的商业化在加速企业数字化、改善产业链结构、提高信息利用效率等方面起到了积极作用。随着人工智能研究和应用领域的不断延伸,未来人工智能将迎来更多技术的结合应用。 为了推动 AI 技术的应用创新,促进人工智能领域的学术交流、人才培养,打造人工智能的人才交流平台与产业生态圈,中国人工智能学会联合杭州市余杭区人民政府联合发起了首届全球人工智能技术创新大赛,并得到了阿里云、OPPO 等头部科技企业的积极参与和支持。阿里云天池平台为本次大赛提供平台和算力支撑。 AI 青年说是大赛主办方为提升青年开发者对 AI 的认识而主办的系列活动,该活动邀请知名青年学者,探讨理论研究与应用实践中的热点话题。 5 月
新智元报道 【新智元导读】 5月8日-12日集体挑战 「 脉冲星 」,当 「 流浪地球 」 遇上 「 超能力 」 会碰撞出怎样的火花? 还记得爆火的电影《流浪地球》吗? 为了地球不被太阳吞没,人类提出了「 流浪地球 」 这个大胆的计划,企图用上万座 发动机和转向发动机,帮助地球离开太阳系。 「 流 浪 」 在《流浪地球》中,地球要去的新家园,是遥远的半人马座比邻星。而可以为地球在太空中「 流 浪 」提供精准导航的,则是 脉冲星 。 脉冲星是大质量恒星在超新星阶段爆发后的产物,有着「 死 亡之星 」的称号,它体积小、密度大,磁场很强。研究脉冲星可以解决许多重大物理问题,例如引力波探测、航天器导航等等。科学家们通过高精度的脉冲星计时研究,