教宗良十四世警告「新型數碼奴役」風險 呼籲AI必須被「繳械」

羅馬天主教教宗良十四世（Pope Leo XIV）發表其任內首份重要教導文件，警告人工智能（AI，人工智慧）需要被「繳械」（disarmed）。

教宗表示：「我知道這個詞語很強烈，但我刻意選用，因為當下需要能引起關注的字眼。」

通諭（encyclical）在技術上是致羅馬天主教主教的書信，但過去數十年來，這類文件已成為教宗向全世界傳達訊息的方式。

這封信雖主要聚焦人工智能，但良十四世同時亦就教會在奴隸制度中的角色，發表了梵蒂岡數一數二強烈且全面的道歉。

他寫道，「當思及如此眾多的人所承受的巨大痛苦與羞辱，令人無法不感到深切悲痛」，並補充稱，他「代表教會誠摯地請求寬恕」。

良十四世在談及人工智能時提到奴隸貿易，指世界正面臨再次將對人的剝削常態化的風險——無論是在其生產過程還是應用方面。

文件中一些最強烈的比喻與奴隸制相關，警告傳統奴隸制的歷史悲劇，與正在浮現的「新型數碼奴役」威脅之間存在相似之處。

他指出，剝削有被重新常態化的風險，而人類正站在一個相似的道德十字路口。

良十四世罕見地選擇在梵蒂岡親自發表這份題為《偉大的人類》（Magnifica Humanitas）的通諭，並與人工智能專家一同亮相，包括美國人工智能公司 Anthropic 聯合創辦人克里斯托弗·奧拉（Christopher Olah）。

在通諭發布後的發言中，奧拉表示，包括他所屬實驗室在內的每家人工智能機構，都在「一套激勵與限制之中運作，而這些因素有時可能與做正確的事產生衝突」。

他補充說，若認為人工智能問題最適合由像他這樣的電腦科學家處理，將是一種錯誤。「人工智能提出的問題，無論在影響層面還是本質上，都超越了人工智能研究社群本身。」

教宗的通諭向掌權者發出一個鮮明而直接的訊息，提醒他們有責任遏止其所帶來的「威脅」，同時亦指出人工智能的多重潛在陷阱。

例如，教宗譴責將人工智能用於戰爭，稱減少人類對武器的控制，將令戰爭更難被視為「正義」，並警告不要展開人工智能軍備競賽。

教宗寫道：「沒有任何演算法可以讓戰爭在道德上變得可接受。」

他表示，人工智能不僅無法消除戰爭「內在的不人道」本質，還可能因為「降低訴諸暴力的門檻，把防禦轉變為威脅預測，從而將受害者化為數字」，加速衝突，並使其更為非人性化。

良十四世亦批評人工智能對政治的影響，例如其被用來操控圖像與影片。他指出這讓人們暴露於帶有偏見或誤導的觀點之中。

過去，教宗曾將當今在人工智能發展面前保護人類的需求，比擬為工業革命期間保障人類尊嚴所必需的措施。

他指出，若未能及時應對人工智能風險，可能重演「社會與教會在譴責奴隸制這一禍害上所出現的延誤」。他甚至提及「數碼殖民主義」的風險，將殖民時代的虐待行為與現代科技實踐相聯繫。

在文件的一個段落中，教宗直接向人工智能開發者發出「特別呼籲」。

他表示：「開發者肩負着特別的倫理與精神責任，因為每一項設計選擇都反映了一種對人性的理解。」

然而，這能帶來何種影響？

良十四世已成立一個委員會推動相關工作，但面對科技迅速發展，這些努力能否奏效，仍存在重大疑問。

2015年，已故教宗方濟各（Pope Francis）曾發表《願祢受讚頌》（Laudato Si’）通諭，聚焦應對氣候危機的迫切需要。但在2023年他再度發聲時，卻對行動不足表達失望。

儘管良十四世對約束人工智能的必要性展現出強烈熱忱，他未來數年內可能也需發出類似的警告。