编者按：大模型时代的到来，使得人工智能成为了真正影响人类社会的重要技术之一，如何打造“负责任的人工智能”的问题正变得愈发迫切和关键。一直以来，微软始终致力于依照以人为本的伦理原则推进人工智能的发展，微软亚洲研究院也将“社会责任人工智能（Societal AI）”作为一个重要的研究方向。

2023年，微软亚洲研究院特别组织了“社会责任人工智能（Societal AI）”系列研讨会，为计算机领域的科研人员与社会科学领域的专家学者提供了一个深入探讨跨学科前沿问题的平台，助力塑造人工智能与人类社会和谐共处的未来。系列研讨会包括法律与伦理、心理学和社会学三大主题讨论。今天为大家带来的是该系列研讨会内容梳理的最后一期，一起听听各界学者对人工智能与人类社会及前沿科技相关的思考和讨论。

人工智能（AI）将会对人类未来产生重大的影响，这一点现在已经变得越来越清晰和明确。但对于这种影响到底涉及哪些方面，其中有哪些值得期待和着手准备的，又有哪些潜在的风险需要担忧，却是一个尚未被充分重视的问题。如同人类技术史上那些划时代的变革一样，AI 一旦真正走入世界发展的进程，对于社会的影响将是全方面的：从社会分工，到经济结构、产业形态，以及科学技术研究和青少年教育……

为了洞悉人工智能发展所带来的新问题、新挑战，更好地为世界打造负责任的人工智能，微软亚洲研究院在2023年特别组织了“社会责任人工智能（Societal AI）”系列研讨会，让计算机领域的科研人员与国内外高校及研究机构的社会科学领域的专家学者，共同深入探讨人工智能在开发、部署和应用中产生的，包括法学、心理学、社会学在内的跨学科前沿问题。

人类社会是一个诸多领域环环相扣的精微整体，任何一个部分的变化都可能影响你我每一个人。在普林斯顿大学黄俊铭博士的大力支持和协助下，微软亚洲研究院举办了“社会责任人工智能”系列研讨会的社会与科技专题讨论。研讨会上，来自社会科学和计算机领域的专家们聚焦探讨了人工智能影响下的数字平等、社会公平、经济结构变化等面向未来发展趋势的重大问题，努力为这个尚在探索阶段的议题提供严肃的思考。

AI引发的社会公平问题

在 AI 兴起所引发的种种担忧当中，最为广泛的一种便是对于 AI 大规模应用加剧社会不平等现象的隐忧。我们都能预见到 AI 应用所带来的“马太效应”：AI 竞争当中的强者不断累积资源，优势也就不断扩大；而落后者似乎会面临越来越被动的窘境。

普林斯顿大学的谢宇教授指出，在人工智能发展的起步阶段，不同国家的规模和体量可能会构成一种原始优势。例如，网民群体庞大的国家，就具有很大的数据优势。来自北京交通大学的桑基韬教授则表示，越早采用新兴技术的一方会更有机会启动正反馈循环。

相比其他科技领域，AI 领域的资源更为集中，目前主导整个行业的企业和国家仍属于少数。针对这一情况，卡内基·梅隆大学的 Patrick Park 教授认为，未来需要深入思考人们是应该追求技术的普及，将技术置于大众的手中，还是应该加强管制以防范技术滥用带来的风险？这两条道路各有优劣，也都会为社会公平议题带来新的挑战，因此需要各界共同探索不同的应对方式。

AI将如何重塑社会分工？

AI 的全面应用将很有可能在未来彻底重塑我们的工作方式。2023年微软推出的“智能副驾” Microsoft 365 Copilot 就直接带来了办公软件领域的新变革。来自纽约大学的程思薇教授强调，人工智能对于人们工作内容的直接影响将不仅限于科技领域，而是涉及各行各业。

桑基韬教授对此进行了补充，表示人工智能的应用会使得那些例行性的任务变得更加次要，一些工作将会由 AI 来完成，而这时，人们就可以更加专注于更高层次的规划和分析工作。由此可以推测，未来的职场将会更加重视发现和解决问题的能力、创造力以及批判性思维，还有主动学习和获取新技能的能力。

谢宇教授的观点更加强调人类的多样性。他表示，那些需要个体独特性的服务在未来将变得更受欢迎，比如，尽管老师上课讲授内容的工作可能会被自动化，但师生关系却是不能被取代的。

信息安全和社会观念

如今人们生活在一个被各类信息包围的社会当中，这也意味着 AI 强大的信息处理能力将会对信息安全构成潜在威胁。AI 可以通过内容生成直接改变我们所看到的内容，影响我们所接触信息的真实性，乃至通过信息手段影响每个人的社会观念。不可否认，像其他信息处理方式一样，AI 不仅会产生错误信息，而且也会受到其他错误信息的影响。

桑基韬教授将展望的视野推至了更远的方向：在未来，随着 AI 的发展，互联网上的内容会有越来越多是由 AI 生成的，模型训练的数据中 AI 生成的数据比例也将不断增加。也就是说，AI 生成的信息被用来训练 AI 的情况将普遍存在。在这种情况下，如果 AI 使用了以往模型生成的错误信息来进行训练，那么后续的模型可能会不断地放大这些错误信息。面对这样棘手的情况，学术界和工业界都需要思考如何用更加多样的数据来训练模型、在推理过程中增加验证手段，以及增加对于信息可信度的评估来协助人们进行判断。

不论如何，广泛地使用 AI 生成的内容将极有可能潜移默化地影响社会的全体成员。程思薇教授认为，随着人工智能进入到社会观念的建构过程当中，理解人们的观点将会变得更加复杂。来自长江商学院的张维宁则提醒人们注意在这种情况下，内容筛选的重要性，那些可验证的信息将会在公共空间内发挥举住轻重的作用。Patrick Park 表示，在我们用于训练的数据中建立起基础的可信信息将变得越来越重要。谢宇教授则认为，人们更应该在教育过程中强调自主思考的重要性，并充分重视起人文主义方法。

科研与教育会被自动化吗？

由人工智能带来的数字化浪潮的影响范围包含方方面面，其中当然也包括人类探索知识、传递知识的领域。毋庸置疑，人工智能将成为人类科学技术研究过程中的有力工具——促进科研的数字化进程、扩大实验范围、产生新的想法，从而达到推动科学探索的目的。来自哥本哈根信息技术大学的 Anna Rogers 提到，AI 模型还可以被用于更有效地表达科研结果，有助于非英语母语的科研人员更好地参与研究工作。

加州大学的 Bernard Koch 描述了近年来机器学习研究社区的变化，科研人员们正倾向于采用更少的基准来衡量人工智能的进展，并逐渐缩小了数据集的规模。而这可能会引发一系列问题，包括模型在特定数据集上过拟合、提出的认知问题变得更狭窄、数据集不代表完整分布时会出现的伦理风险，以及选择基准问题的参与者变得更少，等等。对于科学研究来说，提出与众不同的问题是十分重要的，但人工智能的介入可能会带来研究领域变得认知范围过窄的风险。与会者们认为，人们应该更专注于开发那些人工智能与人类互补的能力。

与此同时，AI 也可能会改变人们对教育内容、教师角色以及教育本身价值的看法，因此将对教育系统产生深远的影响。来自芝加哥大学的 James A. Evans 观察到，其实教育的很多内容是保持不变的，尽管顶尖大学的研究多种多样，但讲座和研讨会的内容通常可以追溯到课程首次教授时。大模型的到来将使得教育者可以更好地认识到此前的忽视，并充分利用技术来创建更具吸引力的教育过程。

欲了解本次研讨会的更多详细信息，请点击链接：

人工智能对于这个世界的深远影响才刚刚开始显露，它到底会走向何方还需要我们耐心的观察并持续关注。为了迎接具有全新可能性的智能未来，社会各界都需要做好各方面的准备：不论是对社会公平的守护，还是对经济秩序的维护以及对科教人文的保护，还有许多工作有待完善。微软亚洲研究院将继续以最前沿的视野和跨学科的广度，建构“社会责任人工智能”，为快速变革的世界注入微软力量。