ICRC総裁「新技術の発展と使用には人間中心のアプローチを」

2024年６月１日、赤十字国際委員会（ICRC）ミリアナ・スポリアリッチ総裁がシンガポールで開催されたアジア安全保障サミット（通称：シャングリラ会合）に出席。「AIとサイバー防衛、将来の戦争」と題した特別セッションで以下のスピーチを行いました。

現在、進行している武力紛争は120以上におよび、過去 30 年間で３倍以上増えました。さらに、昨今の紛争の波及効果は現地にとどまらず、地域をまたいでいます。

パネリストの方々は、「岐路」や「重大な転換点」といった言葉を多用して関心を喚起しています。しかし、政治的な表現を用いることで、ICRCやその他人道支援団体が戦地で直面している現実から目をそらすべきではありません。

新たに出現した技術は、戦闘の仕方を変え、武力紛争を複雑化させています。戦争の実相が変化を遂げる中、議論の焦点となっているのは、従来の兵器と掛け合わせたサイバー作戦の実施や兵器のシステムおよび意思決定に介在する人工知能の重大な役割をはじめとする課題です。

これらの新たな技術は、軍事上の利益をもたらすように見えます。たとえば、人間を凌駕する能力や、通信が遮断された状況下でもアジア大洋州の要所となる海域で攻撃を遂行する能力を生み出すことができるかもしれません。

しかし、こうした技術が社会に新たな危険を生み出すこともまた事実です。意図せず暴力を激化させるリスクを高め、兵器が拡散する懸念を生み、紛争被害者の苦しみをさらに悪化させます。

技術発展に伴い、私が懸念するのは次の３点です。

• 将来的には自律型兵器システムが、より広範に存在する複数の標的に対して長期的にわたって使用され、人間が介在する可能性が低くなる傾向にあること。
• 人間の認知能力を超える人工知能は、標的をどの人物または物体に定めるかという軍事的決定に影響を与え、決断を下す速度を早めること。その結果として、意思決定の質を損ない、民間人を危険にさらすリスクにつながること。
• サイバー作戦は、水道や電気といった公共サービスを無力化し、医療行為や人道支援を妨害すること。

現在、多様なツールが驚異的な速度で開発されています。軍はこれらのツールの活用を模索するため、生成モデルやその他の機械学習形態を含む複雑な人工知能が進化していくことがますます注目されています。

兵器や戦闘行為に人工知能を組み込めば、予測が不可能な事態をはらむことになります。人間のコントロールが効かないほどに戦闘行為が進行する速度を引き上げることにもなりかねません。既に極度に不安定な状態にある戦場で人工知能を利用することは、司令官や戦闘員が国際人道法を遵守するうえで数々の課題を残します。

たとえ地政学的な緊張や軍事上の必要に依拠しても、人道的配慮を無視することはできません。実際には、困難な時こそ人間性を守ることが最も重要になるのです。

新たな技術の開発と使用に対して人間を中心に据えたアプローチを採用すれば、武力紛争に苦しむ人びとを保護することにつながります。新しい技術が違法または有害な状態を急速に深刻化させるような状況を野放しにしてはなりません。

したがって、私はすべての国家に対して、次の２点を要請します。

１. 国際人道法を優先事項とし、そこに内在する普遍的な原則に従うことを再確認すること。

そのためには、自律型兵器システムを規制する新しい条約の締結が必要です。条約は、予測不可能である自律型兵器や人間を標的とする兵器を禁止し、それ以外の兵器には厳格な制約を課すものでなければなりません。ICRC総裁として私は、国連事務総長とともに、各国に対して自律型兵器システムを規制する条約を2026年までに早急に交渉し、締結するよう呼びかけたところです。

軍事上の意思決定に人工知能を使用する際には、特に人びとの生命や尊厳に危険をもたらす決定については、人間による判断を中心に据えなければなりません。

サイバー空間については、デジタルの脅威から社会を守る術を、各国が集って取りまとめる必要があります。多くの国が、デジタル脅威に関するICRC国際諮問委員会（ICRC’s Global Advisory Board on digital threats）の具体的勧告を支持しており、共にデジタルの脅威に取り組む用意はできています。

２. 国際人道法の遵守は平和への投資であること。

すべての国が批准したジュネーブ諸条約は普遍的な約束事です。軍事的な勝利のために犠牲や手段を問わないという考え方を断固として否定しています。

従来の兵器であろうが新たな技術を用いた兵器であろうが、武力紛争には漏れなく恐怖や絶望、人的／環境的損失が伴います。人類が平和を実現する効果的な手段は、軍備拡張に向けた競争を阻止し、覆し、新しい戦争技術の開発を規制することにあります。

私たちは技術革新がもたらす現実を受け入れる一方で、道徳的優位性と価値観を堅持するよう常に自分たちに言い聞かす必要があります。国際社会が今日、新技術をめぐって決定する事項は、次の時代の戦争の行く末と世界中の何十億もの人びとの生活を形作るのです。

みなで協力し合い、国際協定を遵守し、それらを推進することで、テクノロジーの中心に人間を見出すことができ、平和のために機能する未来を築くことができるのです。