教宗良十四世警告“新型数码奴役”风险 呼吁AI必须被“缴械”

罗马天主教教宗良十四世（Pope Leo XIV）发表其任内首份重要教导文件，警告人工智能（AI，人工智慧）需要被“缴械”（disarmed）。

教宗表示：“我知道这个词语很强烈，但我刻意选用，因为当下需要能引起关注的字眼。”

通谕（encyclical）在技术上是致罗马天主教主教的书信，但过去数十年来，这类文件已成为教宗向全世界传达讯息的方式。

这封信虽主要聚焦人工智能，但良十四世同时亦就教会在奴隶制度中的角色，发表了梵蒂冈数一数二强烈且全面的道歉。

他写道，“当思及如此众多的人所承受的巨大痛苦与羞辱，令人无法不感到深切悲痛”，并补充称，他“代表教会诚挚地请求宽恕”。

良十四世在谈及人工智能时提到奴隶贸易，指世界正面临再次将对人的剥削常态化的风险——无论是在其生产过程还是应用方面。

文件中一些最强烈的比喻与奴隶制相关，警告传统奴隶制的历史悲剧，与正在浮现的“新型数码奴役”威胁之间存在相似之处。

他指出，剥削有被重新常态化的风险，而人类正站在一个相似的道德十字路口。

良十四世罕见地选择在梵蒂冈亲自发表这份题为《伟大的人类》（Magnifica Humanitas）的通谕，并与人工智能专家一同亮相，包括美国人工智能公司 Anthropic 联合创办人克里斯托弗·奥拉（Christopher Olah）。

在通谕发布后的发言中，奥拉表示，包括他所属实验室在内的每家人工智能机构，都在“一套激励与限制之中运作，而这些因素有时可能与做正确的事产生冲突”。

他补充说，若认为人工智能问题最适合由像他这样的电脑科学家处理，将是一种错误。“人工智能提出的问题，无论在影响层面还是本质上，都超越了人工智能研究社群本身。”

教宗的通谕向掌权者发出一个鲜明而直接的讯息，提醒他们有责任遏止其所带来的“威胁”，同时亦指出人工智能的多重潜在陷阱。

例如，教宗谴责将人工智能用于战争，称减少人类对武器的控制，将令战争更难被视为“正义”，并警告不要展开人工智能军备竞赛。

教宗写道：“没有任何演算法可以让战争在道德上变得可接受。”

他表示，人工智能不仅无法消除战争“内在的不人道”本质，还可能因为“降低诉诸暴力的门槛，把防御转变为威胁预测，从而将受害者化为数字”，加速冲突，并使其更为非人性化。

良十四世亦批评人工智能对政治的影响，例如其被用来操控图像与影片。他指出这让人们暴露于带有偏见或误导的观点之中。

过去，教宗曾将当今在人工智能发展面前保护人类的需求，比拟为工业革命期间保障人类尊严所必需的措施。

他指出，若未能及时应对人工智能风险，可能重演“社会与教会在谴责奴隶制这一祸害上所出现的延误”。他甚至提及“数码殖民主义”的风险，将殖民时代的虐待行为与现代科技实践相联系。

在文件的一个段落中，教宗直接向人工智能开发者发出“特别呼吁”。

他表示：“开发者肩负着特别的伦理与精神责任，因为每一项设计选择都反映了一种对人性的理解。”

然而，这能带来何种影响？

良十四世已成立一个委员会推动相关工作，但面对科技迅速发展，这些努力能否奏效，仍存在重大疑问。

2015年，已故教宗方济各（Pope Francis）曾发表《愿祢受赞颂》（Laudato Si’）通谕，聚焦应对气候危机的迫切需要。但在2023年他再度发声时，却对行动不足表达失望。

尽管良十四世对约束人工智能的必要性展现出强烈热忱，他未来数年内可能也需发出类似的警告。