排序方式

ICML 2022 | 机器学习前沿论文精选!

编者按:ICML 被认为是人工智能、机器学习领域最顶级的国际会议之一,在计算机科学界享有崇高的声望。ICML 2022 于7月17日-23日以线上线下结合的方式举办。今天我们精选了微软亚洲研究院在此次大会上发表的7篇论文,来为大家进行简要介绍,从强化学习、图神经网络、知识图谱表示学习等关键词带你一览机器学习领域的最新成果!

发布时间:2022-07-21 类型:深度文章

非自回归生成研究最新综述,近200篇文献揭示挑战和未来方向

编者按:近年来,由于并行的快速推理能力,非自回归生成在自然语言处理、语音处理等领域展示出了其特有的优势,并日益成为生成模型的研究热点。为了促进非自回归生成模型的发展,微软亚洲研究院与苏州大学的研究员们共同撰写了综述论文“A Survey on Non-Autoregressive Generation for Neural Machine Translation and Beyond”,回顾了非自回归生成在神经机器翻译以及其他任务中的发展,并对非自回归生成的未来提出了展望。

发布时间:2022-05-13 类型:深度文章

ICLR 2022 | 微软亚洲研究院深度学习领域最新研究成果一览

编者按:ICLR(International Conference on Learning Representations)是国际公认的深度学习领域顶级会议之一,众多在人工智能、统计和数据科学领域以及计算机视觉、语音识别、文本理解等重要应用领域极其有影响力的论文都发表在该大会上。今年的 ICLR 大会于4月25日至29日在线上举办。本届大会共接收论文1095篇,论文接收率32.3%。今天,我们精选了其中的六篇来为大家进行简要介绍,其中研究主题的关键词包括时间序列、策略优化、解耦表示学习、采样方法、强化学习等。欢迎感兴趣的读者阅读论文原文,一起了解深度学习领域的前沿进展!

发布时间:2022-04-26 类型:深度文章

公开催化剂挑战赛冠军模型、通用AI分子模拟库Graphormer开源!

编者按:微软亚洲研究院创新提出的可应用于图结构数据的 Graphormer 模型近日迎来重大升级!研究员们将此前开源的 Graphormer 升级为基于人工智能的分子模拟通用工具包。关注分子模拟领域的科研人员和算法工程师们可通过新版 Graphormer 工具包更好地对材料发现、药物发现等应用中的重要问题进行最前沿的深度学习模型与算法建模。在全新升级的 Graphormer 模型助力下,微软亚洲研究院的研究员们在刚刚结束的公开催化剂挑战赛中也取得了第一名的佳绩。一起来看看此次升级都带来了哪些更新吧!

发布时间:2021-12-24 类型:深度文章

NeurIPS 2021 | 微软亚洲研究院机器学习领域最新研究一览

编者按:NeurIPS(Conference on Neural Information Processing Systems)是全球顶尖神经信息处理系统大会,也是机器学习和计算神经科学领域的顶级国际学术会议。今年的 NeurIPS 大会于12月6日至14日在线上举办。在本届大会中,微软亚洲研究院共有33篇论文入选,涵盖人工智能的多个领域。今天,我们精选了其中的7篇来为大家进行简要介绍。欢迎感兴趣的读者阅读论文原文,一起了解机器学习和计算神经科学领域的前沿进展!

发布时间:2021-12-08 类型:深度文章

NeurIPS 2021 | 一文洞悉因果机器学习前沿进展

编者按:近年来,因果机器学习在人工智能和诸多交叉领域产生了卓越的影响,得到了越来越多的关注。借助因果关系推理,机器学习的鲁棒性、泛化能力、可解释性等方面都将得到有效提升。今天我们精选了三篇微软亚洲研究院关于因果机器学习的 NeurIPS 2021 论文,为大家介绍该领域的最新科研进展。论文内容涵盖:在单源域泛化预测、多源域泛化预测,以及模仿学习三类任务中学习因果关系的方法和理论,并展示了利用因果关系提高模型在环境和分布发生变化时的稳健性。未来,微软亚洲研究院将进一步推进机器学习方法在更多更严苛的现实任务上的应用。

发布时间:2021-12-02 类型:深度文章

NeurIPS 2021 | 物体检测与分割的零标签视觉学习

编者按:随着自监督学习的研究逐步深入,迁移学习的范式已经广泛应用于视觉学习的各个领域,大量的视觉任务都通过使用自监督预训练和有监督微调的方式来部署任务。而微软亚洲研究院的研究员们希望打破这一范式,在 NeurIPS 2021 发表的论文中,研究员们提出了一个可以从无标签视频中学习物体检测和分割的模型,使得自监督预训练模型可以直接服务于应用,而不需要任何有监督微调,实现了零标签的学习。

发布时间:2021-12-01 类型:深度文章

NeurIPS 2021 | 从残差编码到条件编码,构建基于上下文的视频压缩框架DCVC

编者按:传统视频压缩方法多采用残差编码框架,虽简单有效但却并不是最优解,其熵往往大于或等于条件编码的熵。通过从残差编码到条件编码的转换,微软亚洲研究院多媒体计算组的研究员们构建了一种基于上下文的视频压缩框架(DCVC),为基于深度学习的视频压缩提供了新思路和新方法。实验表明,该视频压缩框架比常用的残差编码框架有更低的信息熵下界,且能够自适应学习帧内编码和帧间编码,适用于对高频细节的恢复。作为一种可拓展性非常强的框架,DCVC 也将在未来继续发挥其强大的压缩性能。相关论文已被 NeurIPS 2021 接收。

发布时间:2021-12-01 类型:深度文章

NeurIPS 2021 | CyGen:基于概率论理论的生成式建模新模式

编者按:在概率论中,两随机变量的一个联合分布可由一个变量的边缘分布和对应条件分布确定,也可对称地由另一变量的边缘分布和另一方向的条件分布确定,但无法由这两个边缘分布确定。因此,可否仅由这两个条件分布来确定联合分布,成为了科研人员感兴趣的研究方向。

发布时间:2021-11-26 类型:深度文章

精心设计的 GNN 只是“计数器”?

问答(QA)任务是自然语言理解领域中一个基本且重要的课题,目前通常会使用预训练语言模型以及图神经网络等方法对问答进行推理。GNN 模块在推理中到底发挥了什么作用?这个问题需要科研人员做进一步深入探究。为此,微软亚洲研究院和佐治亚理工的研究员们剖析了最前沿的相关方法,并且发现一种极其简单、高效的图神经计数器就能在主流的知识问答数据集中取得更好的效果。

发布时间:2021-10-29 类型:深度文章