新闻中心

排序方式

ACL 2021 | PENS: 个性化新闻标题生成数据集

编者按:数字信息时代人们获取新闻的方式越来越高效,但是获取新闻中关键信息的效率却很低。而 NLP 领域的新闻标题生成任务 (News Headline Generation)则可以基于新闻正文,自动生成包含关键信息的简短标题,使读者可以高效地获知新闻中的重要内容。

发布时间:2021-08-04 类型:深度文章

ACL 2021 | 今年NLP的这些论文,你不能错过!

自然语言处理领域的国际顶级学术会议ACL 2021于8月1日-6日在线举办。本届大会共计接收论文3350篇,其中21.3%的论文录用到了主会中,14.9%的论文录用在了Findings子刊中,其综合录用率达36.2%。在此次会议中,微软亚洲研究院也有多篇论文入选,本文精选了其中的6篇进行介绍,论文主题涵盖:跨语言命名实体识别、代码搜索、音乐生成、Hi-Transformer、预训练模型、语义交互等。欢迎感兴趣的读者阅读论文原文,希望对你的研究痛点有所启发和帮助!

发布时间:2021-08-03 类型:深度文章

ACL 2021 | 时空可控的图片描述生成

一直以来,图片描述生成任务都是人工智能领域研究人员们关注的热点话题。近期学术界提出的 Localized-Narratives 数据集,为图片描述生成的可控性和可解释性研究提供了新的机会。基于此,微软亚洲研究院的研究员们展开了深入研究,致力于对图像描述生成任务中所涉及的语义概念进行空间和时序关系上的控制,以提高其表现性能。同时,研究员们还提出了一种新模型 LoopCAG,并通过一系列实验证明了其在多个层面的可控性优势。针对视觉信号和语言信号的对应关系这一研究热点,研究员们从图片描述生成的可控性角度给出了解答,但想要深度理解和研究这一问题还有很长的路要走。希望感兴趣的读者可以阅读论文全文,并发表自己的独特观点,和研究员们一起交流学术感想!

发布时间:2021-07-29 类型:深度文章

ACL 2021 | 难度预测和采样平滑,提高ELECTRA模型的表现!

在 ELECTRA 模型的预训练过程中,生成器无法直接得到判别器的信息反馈,导致生成器的采样过程不够有效。而且,随着生成器的预测准确率不断提高,生成器会过采样那些正确的词作为替换词,从而使判别器的学习低效。为此,微软亚洲研究院提出了两种方法:难度预测和采样平滑,通过提高生成器的采样效率来提升模型的表现。相关研究论文 “Learning to Sample Replacements for ELECTRA Pre-Training” 已被 Findings of ACL 2021 收录。

发布时间:2021-07-28 类型:深度文章

对话 | 图灵奖得主John Hopcroft:深度理解AI技术理论,路漫漫其修远

计算机科学的发展无疑推动了人工智能技术的进步,在这场21世纪的信息革命中,研究和发展人工智能理论及应用是当前科技背景下的必然趋势。近日,图灵奖得主 John Hopcroft 教授与微软亚洲研究院院长洪小文博士在研究院展开了一场炉边谈话。在此期间,John Hopcroft 讲述了自己对人工智能领域发展的独到见解,以及对人才培养的建议,两位专家还分享了对未来研究和技术趋势的各自观点。让我们一起在接下来的精彩谈话中寻找一些灵感吧!

发布时间:2021-07-26 类型:深度文章

ICML 2021 | 微软亚洲研究院精选论文一览

第三十八届机器学习国际会议 ICML 2021 于7月18日在线上举行,今年的 ICML 会议一共接收了1184篇论文,接收率接近21.5%。其中微软亚洲研究院有多篇论文入选,今天我们精选了5篇为大家进行介绍。这5个工作的研究主题关键词包括数据采样、Transformer、序列学习、神经网络、语音识别等。欢迎感兴趣的读者阅读论文原文。

发布时间:2021-07-23 类型:深度文章

R-Drop:填补Dropout缺陷,简单又有效的正则方法

深度神经网络是深度学习的基础,但其在训练模型时会出现过拟合的问题,而简单易用的 Dropout 正则化技术可以防止这种问题的发生。然而 Dropout 的操作在一定程度上会使得训练后的模型成为一种多个子模型的组合约束。基于此,微软亚洲研究院与苏州大学提出了更加简单有效的正则方法 R-Drop(Regularized Dropout)。实验表明,R-Drop 在5个常用的包含 NLP(自然语言处理) 和 CV(计算机视觉) 的任务中都取得了当前最优的结果。本文将介绍 R-Drop 的实施方法、作用与效果,让大家一窥 R-Drop 的玄机。

发布时间:2021-07-21 类型:深度文章

谭旭:AI音乐,技术与艺术的碰撞

日前,在2021全球人工智能技术大会(GAITC)的“当 AI 与艺术相遇”专题论坛上,微软亚洲研究院主管研究员谭旭发表了题为《基于深度学习的流行音乐创作》的演讲。该分享从分析流行音乐的工业化制作流程切入,介绍了深度学习是如何辅助流行音乐的创作,微软亚洲研究院在 AI 音乐创作领域的一系列研究成果,以及当前AI音乐生成所面临的研究挑战等。本文为此次演讲内容的完整整理,希望可以给大家在AI与艺术相互结合的研究方向上带来更多启发。

发布时间:2021-07-20 类型:深度文章

对话 | LinkedIn陆坚:打造面向未来工作模式的职场社交平台

面对竞争激烈的中国社交平台市场,后发的领英“杀出重围”的秘诀是什么?自2016年微软收购领英以来,五年之间,领英发生了哪些变化?微软与领英之间又是如何相互助力,相互成就的?近期在微软亚洲研究院的内部活动“大师论坛”上,微软亚洲研究院院长洪小文博士与领英(LinkedIn)中国总裁陆坚博士进行了一场炉边对谈。下面就让我们在精彩的对话中一起寻找问题的答案吧!

发布时间:2021-07-15 类型:深度文章

MobiSys 2021 Best Paper | 可高效、准确地预测模型推理时间的系统nn-Meter

微软亚洲研究院的论文“nn-Meter: Towards Accurate Latency Prediction of Deep-Learning Model Inference on Diverse Edge Devices”获得了 MobiSys 2021 的最佳论文奖(Best Paper),并且成为本届大会中唯一个获得了 Artifact Evaluation 全部三个最高级别徽章的工作。

发布时间:2021-07-13 类型:深度文章