沈向洋:微软研究院——求索不已,为全人类,打造负责任的人工智能

2019-09-01 | 作者:沈向洋

微软全球执行副总裁,微软人工智能及微软研究事业部负责人沈向洋博士

在微软研究院(MSR),我们始终都在努力解决关于未来的问题——我们努力推动计算机科学最高水平的进展;我们将最新的技术快速转化、融入到微软的产品和服务中;我们还在帮助全球各地的客户,孵化颠覆性的技术、开创崭新的业务模式和解决方案。

微软研究院遍布全球各地,在美国的雷德蒙德、纽约、麻省的剑桥,在加拿大蒙特利尔,在英国剑桥,在印度的班加罗尔,以及中国的北京和上海,我们都开设了分院。过去的一年中,全球各地的微软研究院,取得了许多了不起的成就,为微软自身的发展,乃至整个计算机科学领域的进步,做出了重大贡献。例如,我们开发出了第一个能将数据编码存储到 DNA 中的方法,能够将一座仓库那么大的数据中心,压缩到只有几个骰子大小;我们的 Project Natick 项目,在大洋深处的海底,建成了一座数据中心;我们开发了一套能够解释机器学习的开源方案,帮助人们开启人工智能的黑箱;我们还创造了一套叫做 Code Jumper 的工具,利用不同形状的模块,帮助视力障碍的孩子们,学会如何编程。

1991 年,我们创立微软研究院的时候,就立志于放眼未来,求索不已,创造能够影响未来的重大突破。为了实现这一目标,我们制定了从今天到未来,跨越 10 到 20 年的战略路线图:我们为 18 个月内可能上市的产品和服务,做好设计和准备;我们为未来 3 到 5 年的项目,明确方向和要求;最重要的,是我们会对未来 10 到 20 年的技术趋势投入更多的关注。

HoloLens 全息眼镜的发展历程最具代表性:早在 20 多年前,我们已经开始投资于 HoloLens 背后的基础性研究;随着 Kinect 传感器和 KinectFusion 的出现,我们实现了真正的突破,用 3D 传感器完整地重构出了三维结构;然后是 HoloDesk,可以将 3D 模型组装成虚拟的三维环境;过去三四年间,HoloLens 的技术和应用逐渐成熟,真正实现了混合现实技术的重大突破——今天,我们就演示了如何以 HoloLens 配合神经网络文本到语音转换技术,打造出一个会说多国外语的全息替身——简直和科幻电影中的情形一模一样。

未雨绸缪,代表了微软研究院对未来的思考。今天,以人工智能为代表的一系列技术创新,正在让很多不可思议的事情成为现实。但我们不仅要推动技术的进步,更要认真思考可能由此带来的社会影响,以及人类将要共同面对的潜在挑战,未雨绸缪,防患于未然,从头开始打造负责任的人工智能。

微软全球执行副总裁,微软人工智能及微软研究事业部负责人沈向洋博士在“二十一世纪的计算”学术研讨会上发表演讲

在科技行业里,微软率先提出了打造负责任的人工智能的决心。2016 年,微软 CEO 萨提亚·纳德拉发表了一篇关于人工智能共同责任的专栏文章,几个月后,第一次公开提出了微软的人工智能准则:公平、可靠和安全、隐私和保障、包容、透明、责任。

我们出版了《计算未来》一书,对人工智能发展过程中可能引发的道德、法律思考和社会影响,进行了全面详实的探讨。微软成立了AETHER(“工程与科研中的人工智能道德”的缩写)人工智能伦理道德委员会,这个委员会由微软公司领导、工程师、科研人员、律师等组成,负责对微软内部与人工智能伦理道德相关的事宜,进行探讨和评估。如今,微软在开发和应用人工智能的过程中,始终坚持遵循六项人工智能准则,我们推出的每一个产品,都要经过人工智能道德审查。

通过技术创新消除 AI 偏见,确保人工智能公平、包容的发展,我们在这些方面已经取得了一些进展。例如,我们的研究团队,利用称为“单词嵌入”的自然语言处理工具,解决了文本搜索中的性别偏见的问题。

所谓单词嵌入,是一种用来将单词转换为向量数字的算法,它能够以来自新闻数据或者网页数据的海量文本数据为依据,为每个单词赋予一个对应的向量数字。通过在向量坐标系中,比对常见词汇与“他”、“她”这两个性别代词之间的关联度,研究人员发现了一些明显的特征,例如“sassy(刁蛮)”、“knitting(编织)”这样的词更靠近女性,而“hero(英雄)”、“genius(天才)”更靠近男性。算法之所以会为这些词汇赋予性别特征,原因在于训练算法用的基准数据集——通常是来自新闻和网页的数据——本身,就存在着由语言习惯造成的“性别偏见”,算法也自然“继承”了人类对这些词汇理解的性别差异。

其结果就是,当我们用试验算法,根据梅林达·盖茨的 LinkedIn 信息推测其职业时,得到了“教师”的判断,但只要将人称代词换成“他”,盖茨夫人的职业就会变为“律师”。今天的很多 AI 系统都在使用这样的单词嵌入机制,为了解决由此造成的性别偏见问题,我们提出了一个简单易行的方案:在单词嵌入中,删除区分“他”和“她”的判断维度。关于这个方案的更多细节,我们发表了一篇论文,相关数据也共享在 GitHub上 供大家使用。

科学研究只尊重未来,因此,作为科学工作者,我们的使命就是挑战现实、探索新知、创造不同——这也正是微软研究院几十年来取得成功和发展的关键。在微软研究院,我们相信,所谓未来,是由我们在不断求索中创造出来的。我们要做的,就是去引导、去创新、去启迪,通过推动从今天到明天的转变,为全人类创造出更美好的世界。

标签