“AI教父”等24名科学家联名呼吁：对AI采取政策行动 避免极端风险

2018年，蒙特利尔学习算法研究所主任本吉奥与谷歌前研究员辛顿、以及Meta首席人工智能科学家杨立昆（Yann LeCun）因“让深度神经网络成为计算的关键组成部分”，共同摘得计算机领域的诺贝尔奖——图灵奖。而上述三位计算机科学家也被尊称为“人工智能教父”。

此次这份文件着重强调了最先进的系统所带来的极端风险，例如使大规模犯罪或恐怖主义活动成为可能。

本吉奥表示，这篇论文旨在帮助政策制定者、媒体和公众“了解其中的风险，以及我们必须做的一些事情，才能让（人工智能）系统按照我们的意愿行事。”

怎么做？

加州大学伯克利分校计算机科学教授斯图尔特·罗素（Stuart Russell）是这封信的联合作者者之一，他在一封电子邮件表示，“我们想要呈现(我们认为的)对人工智能安全的清晰思考，合理地不受既得利益的影响。”

罗素称，本周的声明不同于以往专家主导的公开信，因为政府已经明白了存在真正风险的事实。而“该怎么做”是这份联名信对这个问题的回答。”

该论文提出了一些具体的政策建议，例如确保主要科技公司和公共资助者将至少三分之一的人工智能研发预算投入到促进安全和道德使用人工智能的项目中；确保人工智能系统的稳健性和可解释性。

新论文中还建议，要求公司在开发“非常有能力的未来模型”之前获得许可证。

本吉奥指出，授权许可所带来的监管负担将完全落在开发最大、最强大的人工智能模型的公司身上，因此开发人士不必过度担忧。

相反，本吉奥认为，需要警惕的监管真正风险是，企业是否会被允许影响立法，以至于立法不够有力。

此外，论文还呼吁建立国家和国际标准。主要的人工智能发展司法管辖区的规则处于不同的成熟阶段。

中国走在了最前面。中国的人工智能聊天机器人管理规则已于今年8月生效；欧盟人工智能法案仍在通过欧盟的监管程序；美国白宫已经获得了15家主要人工智能开发商的自愿承诺，但距离国会通过人工智能立法还有很长的路要走。

与此同时，英国首相苏纳克试图在促进人工智能问题的国际合作方面发挥关键作用。当地时间周四，英国首相苏纳克宣布，英国将设立世界上第一个人工智能安全研究所，以评估和测试新型人工智能工具，以了解其风险。

联名作者之一的罗素呼吁道，“如果政府现在就果断行动，我们就有机会学会如何让人工智能系统变得安全，而不是等到它变得无法控制。”