未来の紛争とAI兵器

自律型殺傷兵器（LAWS）の判断エラーが国際人道法適用と責任原則にもたらす課題

はじめに

自律型殺傷兵器（LAWS）の開発と配備は、将来の紛争形態を大きく変容させる可能性を秘めています。標的の選定、交戦の決定、実行を人間の介在なしに自律的に行うLAWSは、その技術的な能力向上に伴い、軍事的な有効性が期待される一方で、深刻な法的、倫理的、人道的な課題を提起しています。特に、システムの設計や運用において避けがたい「判断エラー」の可能性は、国際人道法（IHL）の遵守や責任原則に直接的な影響を及ぼすため、国際社会における喫緊の議論対象となっています。

本稿では、LAWSにおける判断エラーがどのような性質を持ちうるかを探り、それが国際人道法上の主要原則、特に区別原則や比例性原則の適用にどう影響するかを分析します。さらに、判断エラーによってIHL違反が発生した場合の責任の所在に関する法的・倫理的な問題を検討し、関連する国際的な議論の現状を整理することで、LAWSがもたらす複雑な課題への理解を深めることを目的とします。

LAWSにおける判断エラーの性質と類型

LAWSにおける「判断エラー」とは、システムが意図しない、または設計者の予期せぬ方法で、本来の目的や国際法上の義務に反する行動をとってしまう事態を指します。これは、人間の判断ミスとは異なり、アルゴリズムの設計不備、学習データの偏り（バイアス）、センサー情報の不完全性や誤解釈、未知の環境変化への不適応など、システムの内在的または外部環境に起因する多様な要因によって発生しえます。

具体的なエラーの類型としては、以下のようなものが想定されます。

• 誤った標的識別: 文民や文民目標を軍事目標と誤って識別し、攻撃してしまう。これはデータセットの偏りや、画像認識アルゴリズムの限界によって生じうる可能性があります。
• 状況判断の誤り: 敵対行為を行っていない、または降伏の意思を示している戦闘員を攻撃してしまう。複雑な人間の行動や意図を正確に判断する能力の限界に起因します。
• 付随的損害の過小評価: 攻撃によって生じるであろう文民の生命や財産への損害を正確に予測できず、結果として過大な被害をもたらしてしまう。
• 予期せぬ連鎖反応: ある標的への攻撃が、予期せぬ形で他のシステムやインフラに影響を与え、制御不能な事態を引き起こす。

これらのエラーは、戦闘の霧（fog of war）や摩擦（friction）といった伝統的な戦争の不確実性に加え、アルゴリズムという新たな不確実性を持ち込むものです。

国際人道法（IHL）上の主要原則とLAWSの判断エラー

国際人道法は、武力紛争において適用される法の体系であり、戦闘員と文民の区別、攻撃の比例性、不必要な苦痛を与える兵器の使用禁止などを定めています。LAWSの判断エラーは、これらのIHL原則の遵守に直接的な脅威を与えます。

区別原則 (Principle of Distinction)

国際人道法上、武力紛争の当事者は、戦闘員と文民、軍事目標と文民物とを常に区別し、文民や文民物に対する攻撃を指向してはならないとされています。LAWSが誤った標的識別を行った場合、これは直接的に区別原則違反につながります。高度に発達した機械学習アルゴリズムであっても、人間の複雑な行動、偽装、環境の不確実性の中で常に正確な区別を行い、特に子供、高齢者、傷病者といった脆弱な文民を正確に識別し、攻撃対象から除外できるかは極めて不確実です。アルゴリズムのバイアスが特定の集団を過剰に敵対的と判断する可能性も指摘されており、これは非差別原則にも反する深刻な問題です。

比例性原則 (Principle of Proportionality)

比例性原則は、軍事目標への攻撃が、期待される軍事上の具体的な直接的利益と比べて、文民の生命または財産に対して過度の付随的損害を与えることが予見される場合には、その攻撃を差し控えるべきであると定めています。LAWSがこの原則を遵守するためには、攻撃の前に期待される軍事上の利益と予期される文民への付随的損害を正確に評価し、比較衡量の上で攻撃の可否を判断する必要があります。しかし、LAWSが複雑な状況下で付随的損害を正確に予測し、人間の行うような倫理的な比較衡量（これは量的な判断だけでなく質的な判断も含む）を行えるかは疑問視されています。システムの評価エラーによって、付随的損害を過小評価し、結果として不当に過大な文民被害をもたらす攻撃を実行してしまうリスクが存在します。

予防原則・注意義務 (Principle of Precaution)

国際人道法は、攻撃を行うにあたり、文民の生命・財産への被害を回避または最小限にするために、実行可能な全ての予防措置をとることを義務付けています。これには、攻撃目標の確認、攻撃方法の選択、攻撃の延期・中止、有効な事前の警告などが含まれます。LAWSがこれらの予防措置を適切に判断し、実行できるかは、その設計や運用環境に依存します。例えば、システムが警告を発することの意義や、攻撃を中止すべき状況を正確に判断できない場合、IHL上の注意義務を果たすことが困難になります。

「人間の意味ある制御（Meaningful Human Control: MHC）」の重要性

LAWSによる判断エラーのリスクに対処する上で、国際的な議論の中心となっているのが「人間の意味ある制御（MHC）」の概念です。これは、重要な決定（特に力の行使に関する決定）において、人間が単なる監視者ではなく、状況を理解し、倫理的判断を下し、必要に応じてシステムを停止または変更できるような、実質的な制御権を保持することの必要性を説くものです。

LAWSの設計段階でMHCを確保することは、システムの判断エラーによるIHL違反のリスクを低減するための重要な手段と考えられています。しかし、「意味ある制御」が具体的に何を意味するのか、技術の進化に伴いどのようにMHCを維持できるのかは、依然として議論の的となっています。完全に自律的なシステムは、原理的にMHCの確保が困難であり、その法的・倫理的な許容範囲について、国際社会で意見が分かれています。

責任の所在：判断エラーによるIHL違反が発生した場合

LAWSの判断エラーによって国際人道法違反が発生した場合、誰がその責任を負うのかという問題は、極めて複雑で解決が困難な課題です。「自律性」が高まるにつれて、従来の指揮責任や個人の戦争犯罪責任といった枠組みでは捉えきれない新たな空白が生じる可能性があります。

考えられる責任主体としては、以下のようなものが挙げられます。

• システムを設計・製造した者: アルゴリズムの欠陥や設計上の問題がエラーの原因である場合、その責任を問うべきか。しかし、開発者は特定の状況での個別の事象まで予見・制御できるのか、また彼らに国際法上の責任能力があるのかという問題があります。
• システムを展開・使用した指揮官: 指揮官は部隊の行動に対して責任を負いますが、LAWSが予期せぬ自律的な行動をとった場合、指揮官がそれを「制御」または「予見」できたのかが問われます。適切な選定、配備、監視のデューデリジェンス義務違反は責任につながりうるでしょう。
• システムを直接操作・監視していたオペレーター: システムをマニュアルで制御したり、緊急停止させたりする権限を持つオペレーターが、職務を怠った場合に責任を負う可能性はあります。しかし、システムの自律性が高まるほど、オペレーターの介入余地は限定されます。
• 国家: 国家は、その軍隊の行動に対して国際法上の責任（国家責任）を負います。LAWSの使用がIHL違反を引き起こした場合、その行為が国家に帰属する限りにおいて、国家は国際的な不法行為に対する責任を負うことになります。これは、個人の刑事責任とは異なる責任の形式です。

問題は、技術的な判断エラーが、どの責任主体の、どのレベルの過失や意図に起因すると言えるのかを特定することの困難さです。責任の「分散」や「空白」が生じるリスクは、LAWSの責任追及における最大の課題の一つです。国際刑事法における戦争犯罪の構成要件（特に主観的要素）を、AIによる自律的な行動にどう適用するのかも、喫緊の検討課題です。

国際的な議論の現状と展望

自律型兵器システムに関する法的、倫理的、軍事的課題は、特定通常兵器使用禁止制限条約（CCW）の枠組みにおいて、非公式専門家会議（GGE on LAWS）などを通じて精力的に議論されています。各国はLAWSの定義、自律性のレベル、MHCの概念、責任の所在、検証・評価の方法などについて、異なる立場から意見交換を行っています。

一部の国やNGOは、LAWSの固有の危険性、特にIHL遵守と責任追及の困難性を理由に、その開発・配備・使用の禁止を求める声（禁止論）を上げています。これに対し、技術開発の必要性や、むしろ人間の感情的判断ミスやバイアスを排除することでIHL遵守が向上する可能性を主張し、禁止ではなく規制枠組みによる対処を提案する国（規制論）もあります。

判断エラーの問題は、特に禁止論の根拠の一つとされています。システムが人間の倫理的・法的な判断能力を持たない限り、不可避的に生じるエラーが深刻な人道上の結果を招くという懸念は強いです。責任の所在の不明確さは、法の支配と正義の原則を根底から揺るがしかねません。

結論

自律型殺傷兵器（LAWS）における判断エラーの可能性は、国際人道法上の区別原則、比例性原則、注意義務といった基本的な原則の遵守に深刻な課題を突きつけます。システムの技術的な限界や内在するバイアスは、文民に対する不法な攻撃や過度の付随的損害をもたらすリスクを内包しています。

さらに、判断エラーによってIHL違反が生じた場合の責任の所在は極めて不明確であり、従来の法的枠組みでは責任の空白が生じる可能性があります。設計者、製造者、指揮官、操作員、国家といった様々な主体間の責任の分担や連関をどのように構成するかは、今後の国際法および国内法における重要な検討課題です。

LAWS開発の進展に対して、国際的な規制や規範の議論は必ずしも十分な速度で進んでいるとは言えません。技術的な側面を深く理解しつつ、法的、倫理的、人道的な観点から多角的に分析を進め、「人間の意味ある制御」の維持や、責任の追及を可能とする透明性・監査可能性の確保に向けた実効的な枠組みを構築することが、国際社会にとって急務となっています。LAWSがもたらす将来の紛争形態において、国際人道法の根幹である人道原則と法の支配をいかに守るか、その鍵は、技術的な進歩と並行して、法的・倫理的な議論を深め、国際協調を通じて具体的な規範形成を進めることにあると言えるでしょう。