Talk预告 | NCSU助理教授胥栋宽:资源高效的深度学习——规模化人工智能的民主化

专栏 / Talk预告 | NCSU助理教授胥栋宽:资源高效的深度学习——规模化人工智能的民主化

Talk预告 | NCSU助理教授胥栋宽:资源高效的深度学习——规模化人工智能的民主化

2022-05-24 12:31 --阅读 · --喜欢 · TechBeat人工智能社区
粉丝: 3.0万 文章: 338


Image

本期为 TechBeat人工智能社区 407 线上Talk。北京时间 5月25 (周三)20:00 北卡州立大学计算机系助理教授 —— 胥栋宽 的Talk将准时在TechBeat人工智能社区开播!

他与大家分享的主题是: “ 资源高效的深度学习: 规模化人工智能的民主化 ”,届时将分享其最近的研究贡献,这些贡献围绕着资源高效的深度学习,将人工智能从“参数-数据-计算”的饥饿野兽中解放出来。

Talk·信息

主题: 资源高效的深度学习: 规模化人工智能的民主化

嘉宾:北卡州立大学计算机系助理教授 胥栋宽

时间:北京时间 5 月25日 (周三) 20:00

地点:TechBeat人工智能社区

http://www.techbeat.net/

长按识别二维码,一键预约TALK!


完整版怎么看?

扫描下方二维码,或复制链接 https://datayi.cn/w/Aovr4b5o 至浏览器,一键完成预约!上线后会在第一时间收到通知哦


Talk·介绍

在过去的十年中,深度学习的惊人成功主要是由越来越大的深度神经网络模型的构建推动的。这些模型通常强加一个理想的假设,即有足够的资源,包括大规模的参数、足够的数据和大规模的计算,用于优化。然而,这个假设在现实世界的场景中通常会失败。例如,计算机内存可能是有限的,如在边缘设备中,大规模的数据由于昂贵的成本和隐私限制而难以获得,计算能力受到限制,如在大多数大学实验室。因此,这些资源差异问题阻碍了深度学习技术在许多人工智能应用中的民主化,开发能够适应不同资源约束的高效深度学习方法具有重要意义。

这次Talk中,讲者将介绍最近的研究贡献,这些贡献围绕着资源高效的深度学习,将人工智能从“参数-数据-计算”的饥饿野兽中解放出来。首先,我将介绍我 在pretrain-then-finetune范式下对神经网络修剪的贡献 ,它提高了大规模语言模型在推理阶段的参数效率,使修剪后的模型比原始模型的参数少一个数量级,同时达到相同或更好的预测精度。然后,我将谈论我的 任务 不可知的神经网络结构搜索框架 ,以减少训练阶段寻找最佳修剪模型的计算成本,这对提高推理阶段的参数效率是一种补充。最后,我将在演讲的最后简要介绍 我正在进行的和未来的工作,作为未来几年新的和相关的问题和潜在合作的更广泛的研究议程的一部分。


Talk·提问交流

通过以下两种方式提问都将获得 微信现金红包奖励 哦!

方式 ①

在Talk界面下的 【交流区】 参与互动!留下你的打call🤟和问题🙋,和更多小伙伴们共同讨论,被讲者直接翻牌解答!

Image

你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦

方式 ②

在本文留言区直接提出你的问题,或扫描下方二维码提问!

Image
快来提问啦!


Talk·嘉宾介绍

Image
胥栋宽

北卡州立大学计算机系助理教授

胥栋宽,将于2022年秋季加入北卡州立大学 (North Carolina State University) 工学院计算机系,担任助理教授。他于2014年本科毕业于中国人民大学,2017年硕士毕业于中国科学院 (获中科院院长奖学金,国家奖学金), 2022年将博士毕业于美国宾州州立大学(Penn State University, PSU)。

胥栋宽致力于高效深度学习,主要探究如何提升深度神经网络模型的参数、数据、算力的效率,开发低功耗的算法-硬件协同设计解决方案。其论文多次发表在机器学习、自然语言处理、数据挖掘的顶级会议和期刊 (NeurIPS, AAAI, ACL, NAACL, IJCAI等),并拥有和提交8项美国专利/申请。他在PSU担任过9门课程的客座讲师或助教 (获PSU杰出教学支持奖),在会议/大学/公司做过多次讲座和报告,指导过6名学生的研究工作,担任了超过28个顶级会议和14个研究领域期刊的 (高级) PC委员或常规期刊评审员,多次获得 IST学术旅行奖及各种学术会议的奖学金。

此外,作为创始学术委员会成员,胥栋宽还发起了国内外知名的MLNLP (机器学习算法与自然语言处理) 社区。他与业界公司和高校有着丰富的合作经验,曾在Microsoft Research (Redmond)、AI芯片创业公司Moffett AI、和NEC美国实验室实习,并与Princeton University、UT Austin、Northeastern University、University of Connecticut、Texas A&M University等高校有紧密的合作。胥栋宽的长期研究目标是使人工智能民主化,以服务更广泛的人群和领域。

个人主页:http://www.personal.psu.edu/dux19/

关于TechBeat人工智能社区

TechBeat ( www.techbeat.net ) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!

更多详细介绍>> https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ

投诉或建议
山东威海蜜雪冰城发生情感纠纷,女生刀捅男生遭反杀,男生性命无忧
蜜雪冰城太火了。山东威海的一家蜜雪冰城里竟然发生了拿刀捅人的案件。而该事情,大抵是因为蜜雪冰城的两个员工的情感纠纷所致。男女间的爱情本是可以歌颂和赞扬的,尤其是年轻人的爱情应该是美好和甜蜜,但是显然在物欲横流的今天,很多男女已经把爱情当做了玩物,对于情感的投入不少,但是却难以长久。并因此发生了各种各样离奇的事情。4月6日,九派新闻称:山东一蜜雪冰城门店发生刑案,男子疑因情感纠纷上门行凶。附近商户说:她男友进店捅伤女员工,自己也被捅了几刀。而目前案件细节还在确认。原本应该对这个事情发表感慨的。但是作为曾经的
中科大/浙江工业大学,最新《Nature》!
研究背景固态电池是一种电池科技。与现今普遍使用的锂离子电池和锂离子聚合物电池不同的是,固态电池是一种使用固体电极和固体电解质的电池。由于科学界认为锂离子电池已经到达极限,固态电池于近年被视为可以继承锂离子电池地位的电池。固态锂电池技术采用锂、钠制成的玻璃化合物为传导物质,取代以往锂电池的电解液,大大提升锂电池的能量密度。在固态离子学中,固态电池是一种使用固体电极和固体电解液的电池。固态电池一般功率密度较低,能量密度较高。由于固态电池的功率重量比较高,所以它是电动汽车很理想的电池。2030年,锂离子电池将不