教皇、AIの「武装解除」訴え 初の回勅は先端技術による搾取に焦点
画像提供, Getty Images
アリーム・マクブールBBC宗教編集長、キャサリン・ワイアット記者
キリスト教カトリック教会の指導者、ローマ教皇レオ14世は25日、就任後初の回勅（かいちょく）を公布し、人工知能（AI）は「武装解除」される必要があると警告した。
「武装解除」という言葉について教皇は、「強い言葉だと分かっているが、今この時に人の注意を引く言葉が必要なので、意図的に選んだ」と述べた。
教皇はこの日、ヴァチカン（ローマ教皇庁）で異例の会合を開き、回勅の内容と意図を自ら説明した。会合には、米アンソロピックの共同創業者クリストファー・オラー氏など、AIの専門家らも参加した。
回勅は、厳密にはカトリックの司教宛ての書簡だが、ここ数十年で教皇から世界へのメッセージへと変化してきた。
「マニフィカ・フマニタス（偉大な人類）」と題された回勅で教皇は、AIに潜む多くの落とし穴を指摘するほか、AIがもたらす「脅威」を抑制する責任を、権力者に厳しく直接的に訴えた。
教皇は、戦争におけるAIの使用を非難し、人間が兵器を制御する範囲が狭くなれば、戦争を「正義」と見なすことは一層困難になると指摘。AIを使った軍拡競争の開始に警告を発した。
「戦争を道徳的に容認可能にすることは、どのようなアルゴリズムだろうとできることではない」と、教皇は記した。
また、AIは戦争の「本質的な非人間性」を取り除くどころか、「暴力に訴えるための敷居を下げ、防衛を脅威の予測へと変質させ、その結果として犠牲者をデータにしてしまい矮小（わいしょう）化する」ため、紛争が起こりやすくなり、ますます非人間的になる危険があるとも述べた。
教皇はさらに、AIが政治に与える影響のあり方についても非難。AI加工の画像や動画を通じて、偏見や誤解に満ちた物の見方に大勢がさらされていると指摘した。
教皇はそのうえで、AIの開発に携わる人々に向けて「特別の訴え」を直接発した。
「すべての設計上の選択は人間性を反映する。このため、開発者は特に倫理的・精神的な責任を負っている」と教皇は述べた。
教皇は以前にも、AIの発展に際して人々を守る安全策の必要性を、産業革命期に人間の尊厳を確保するために必要とされた対策にたとえている。
アンソロピックのオラー氏は会合で、自分の研究所を含むすべてのAI研究機関が「時に正しい行いと対立し得る、複数の動機と制約の中で運営されている」と述べた。
また、AIに関する問題を最も適切に扱えるのは、自分のようなコンピューター科学者だという考えは誤りだとも発言。「AIが提起する問いの規模は、その意味合いにおいてだけでなく、その性質においても、AI研究コミュニティーよりも大きいものだ」と述べた。
画像提供, Getty Images
先端技術による搾取と奴隷貿易を比較
教皇はAIとの関連で奴隷貿易を引き合いに出し、AIの構築と応用の双方に、人々の搾取が再び常態化する危険が潜んでいると示唆。従来の奴隷制度という悲劇と、「デジタル奴隷制」という新たな脅威との類似性を警告した。
そのうえで、人類は奴隷貿易があった時代と同様の倫理的分岐点にあると書いた。
回勅はさらに、奴隷制度でカトリック教会が果たした役割にも触れ、教会の名において「真摯にゆるしを願っている」と書いている。ヴァチカンとして、最も強く包括的な謝罪の言葉となった。
「これほど多くの人々が耐えた甚大な苦しみと屈辱を考察する際に、深い悲しみを感じずにはいられない」と、教皇は書いた。
そのうえで教皇は、「社会と教会の双方が、奴隷制という災厄を非難するまでに、社会と教会の対応はどちらも遅れた」として、過去の奴隷制への対応の遅れと、現在のAIのリスクに対する社会の不作為を比較するよう促した。
教皇は回勅の公布に伴い、自分の取り組みを前進させるための委員会を招集した。しかし、急速な技術進歩を前に、教会の施策がどれほど有効かについては大きな疑問が残る。
前教皇フランシスコは2015年、気候危機に対処する緊急性に焦点を当てた回勅「ラウダート・シ（あなたはたたえられますように）」を発表したが、2023年には、その分野での不作為に対する失望を語っている。
AI抑制の必要性について強い熱意を示しているとはいえ、教皇レオも今後数年のうちに同様の警告を発することになる可能性がある。
