OSDI 2022 | 速来围观!微软亚洲研究院计算机系统领域最新论文!

编者按:OSDI(Operating Systems Design and Implementation)是计算机系统领域最顶级的学术会议之一,汇集了全球计算机科学家们对于计算机系统的前瞻性思考。第16届 OSDI 于2022年7月11日至13日召开,本次会议共有253篇论文投稿,接收49篇,接收率为19.4%。本文中,我们将分享微软亚洲研究院被 OSDI 2022收录的3篇论文,希望可以帮助大家了解计算机系统领域的前沿趋势。欢迎感兴趣的读者阅读论文原文。

发布时间:2022-07-12 类型:深度文章

微软亚洲研究院发布高性能MoE库Tutel,为大规模DNN模型开发提速!

编者按:作为目前唯一被证明能够将深度学习模型扩展到万亿以上参数的方法,MoE 能让模型学习更多信息,并为计算机视觉、语音识别、自然语言处理和机器翻译系统等提供支持。近期,微软亚洲研究院发布了一个高性能 MoE 库——Tutel,并在 8x 80GB NVIDIA A100 和 8x 200Gbps 的 InfiniBand 网络的 Azure NDm A100 v4 节点上进行了实验。让我们来看一看,这个用于促进大规模 DNN 模型开发的高性能 MoE 库有哪些优势?其表现又如何?

发布时间:2021-11-24 类型:深度文章

Forerunner:首个面向“多未来”的推测执行技术

10月26-29日,系统领域的全球顶会 SOSP 2021 在线上举办。在本届大会上,微软亚洲研究院研究员陈洋、郭众鑫、李润怀(实习生,浙江大学)、陈硕、周礼栋、张宪以及浙江大学周亚金教授共同提出了一种新颖的基于约束的推测执行技术——Forerunner,这是第一个面向“多未来”的推测执行技术。本篇论文获得了 Artifact Evaluation 全部三个最高级别徽章(即代码可评估、代码可获取和实验结果可复制)。今天将为大家从这项研究的底层思路和逻辑进行梳理总结。

发布时间:2021-10-28 类型:深度文章

MLSys 2021 | “进击”的神经网络行为分析,为设计和性能架起了一座桥梁

编者按:MLSys 大会全称为“Conference on Machine Learning and Systems”,由 Jeff Dean、Michael Jordan 和 Yann LeCun 等计算机系统和人工智能领域的全球顶尖科学家于2019年发起。2021年的 MLSys 大会共收到221篇投稿,52篇被录用,其中微软有四篇入选。本文将为大家介绍来自微软亚洲研究院的一项工作:通过分析深度学习算法设计空间在移动端侧推理平台的行为特性,以设计针对不同平台的高效深度学习模型。

发布时间:2021-04-08 类型:深度文章

全面了解计算机系统研究的必读书目

如今,我们每天都在手机、电脑、平板等移动设备上享受着各种软件提供的便捷服务,比如新闻推荐、购物、打车、聊天、搜索等等。这些便捷服务的背后离不开底层计算机软件系统的支持,计算机系统研究的创新则为各种技术提供了持续提升与变革的肥沃“土壤”。计算机系统研究关注于创造新的方法论和工程技术,以构建高效、节能、鲁棒、可扩展、安全和交互友好的软硬件系统。为了帮助大家更好地了解、学习计算机系统研究领域的相关知识,我们邀请了微软亚洲研究院系统研究组高级研究员林昊翔为大家推荐了该领域的五本经典书籍,内容涵盖系统基础原理、操作系统、并发计算、分布式系统等。

发布时间:2021-02-24 类型:深度文章