教皇领军反人工智能

专栏作家劳伦斯·马丁（Lawrence Martin）5月27日在《环球邮报》撰文《教宗呼吁遏制人工智能》，指“在长达42300字的通谕中，教宗指出，人工智能浪潮的风险在于，人类可能会沦为‘机器上的齿轮’”，“他的论述有力地论证了政府应加强监管，并制定全球性限制措施，以防止人类沦为数字奴役。”

这位“美国教皇”的宣言描绘了一个由大型科技亿万富翁、数字机器和失控的人工智能系统组成的新统治阶级，这些系统可能导致大规模失业、大规模不平等、大规模虚假信息传播、人类创造力下降以及独立运作的武器系统。“日益增长的……”教宗表示：“自主武器系统部署的便捷性使得战争更加‘可行’，也更难以被人类控制。”

此前一直缺乏领导者和主导声音的反人工智能运动，如今终于有了一位——一位拥有14亿天主教徒精神领袖的、极具影响力的领导者。但也有人认为教宗是在散布恐慌。一位讽刺者甚至打趣道，教宗竭尽全力诋毁人工智能，因为他担心人工智能会证明上帝不存在。

渥太华即将发布一项国家人工智能战略，但人工智能部长的表态表明，目前并没有制定任何全面的监管措施。

比起担心人类会变成亚种，加拿大更重视利用人工智能的潜力来解决长期存在的生产力低下问题。

全文如下：

教宗利奥十四世本周对人工智能发出警告。这很好，因为我们的政府对此毫无警觉。

在长达42300字的通谕中，教宗指出，人工智能浪潮的风险在于，人类可能会沦为“机器上的齿轮”。

他的论述有力地论证了政府应加强监管，并制定全球性限制措施，以防止人类沦为数字奴役。

他在通谕中宣称：“人工智能现在要求‘解除武装’，摆脱那些将其变成统治、排斥和死亡工具的逻辑。”

加拿大人工智能部长埃文·所罗门（Evan Solomon）最初对这份通谕没有做出任何回应，也没有表示支持。渥太华即将发布一项国家人工智能战略，但所罗门先生的表态表明，目前并没有制定任何全面的监管措施。

加拿大是人工智能研究领域的领导者，比起担心人类会变成亚种，加拿大更重视利用人工智能的潜力来解决长期存在的生产力低下问题。

所罗门先生上周在一次人工智能会议上表示，许多被归咎于人工智能的裁员实际上与人工智能无关。

这位“美国教皇”的宣言描绘了一个由大型科技亿万富翁、数字机器和失控的人工智能系统组成的新统治阶级，这些系统可能导致大规模失业、大规模不平等、大规模虚假信息传播、人类创造力下降以及独立运作的武器系统。“日益增长的……”教宗表示：“自主武器系统部署的便捷性使得战争更加‘可行’，也更难以被人类控制。”

人工智能先驱、加拿大计算机科学家约书亚·本吉奥(Yoshua Bengio)对教宗的通谕表示热烈欢迎，他认为必须提高公众意识，动员社会应对人工智能带来的挑战。

有人认为，这篇通谕本可以更进一步，指出人工智能构成生存威胁。也有人认为教宗是在散布恐慌。一位讽刺者甚至打趣道，教宗竭尽全力诋毁人工智能，因为他担心人工智能会证明上帝不存在。

但最终的结果是，此前一直缺乏领导者和主导声音的反人工智能运动，如今终于有了一位——一位拥有14亿天主教徒精神领袖的、极具影响力的领导者。

圣母大学法学院教授、元监督委员会联合主席保罗·卡罗扎(Paolo Carozza)在谈到这篇通谕时表示：“我确信，这将成为我们这个时代的标志性文件。”它描绘了一条“让科技服务于人类而非贬低人类”的道路。

即便并非如此，这份宣言也应该促使更多人思考关于人工智能的根本性问题。例如：为什么人类如此热衷于将越来越多的权力拱手让给非人类力量？为什么我们要将自身诸多卓越能力外包给那些我们可能无法掌控的数字和机器人力量？

人工智能的应用领域如此广泛。在哪些领域，我们真的希望技术超越我们？在教皇不愿详述的许多领域，例如医学进步，人工智能本可以显著改善人类的生存状况。但教皇传达的信息是，我们承担所有这些风险更多是为了牟利，GDP至上，而非为了公共利益。

令人惊讶的是，在教皇通谕发布会上，33岁的加拿大籍人士克里斯托弗·奥拉（Christopher Olah）——估值约9000亿美元的Anthropic公司的联合创始人——也出席了。奥拉先生是一位无神论者，他希望与天主教会和科技行业合作，为人工智能的发展制定保障措施。他完全有能力承担这笔费用。

美国经济正依靠大型科技巨头在人工智能相关领域投入的数万亿美元资本支出支撑。特朗普政府对人工智能的部署大开绿灯，就像对气候变化项目视而不见一样。美国全力推进人工智能发展，只会让加拿大更难踩下刹车。

反弹的迹象正在酝酿。左翼人士——以及在某种程度上右翼人士——对失业和人工智能最终惠及亿万富翁和大公司的不满情绪日益高涨。大学毕业生对提及人工智能的毕业典礼演讲者发出嘘声。OpenAI创始人萨姆·奥特曼（Sam Altman）的住所遭到燃烧弹袭击。温哥华数百人抗议Telus公司在该地建设人工智能数据中心的计划。

但反对力量是否有足够的实力促成有效的监管，这一点令人怀疑。教皇的全面宣言或许能为这场运动注入一些动力，但正如渥太华方面对此反应冷淡所表明的那样，这场运动的影响力仍然微弱。希望能扭转海啸的局面。