自律型殺傷兵器（LAWS）における自律性のレベルと国際法・倫理的課題：Humans-in/on/out-of-the-loopを中心に
はじめに
自律型殺傷兵器（LAWS）は、標的の選定および攻撃を、人間の直接的な介入なしに実行する能力を持つ兵器システムとして定義され、その開発と配備は将来の紛争形態に多大な影響を与える可能性が指摘されています。この技術の発展は、軍事効率の向上やリスク低減といった利点をもたらす一方で、国際法、特に国際人道法（IHL）および国際人権法、そして倫理規範に対して深刻な課題を突きつけております。
LAWSに関する国際的な議論において重要な論点の一つが、その「自律性」がどのレベルに達するか、そしてそのレベルが法的・倫理的な懸念にいかに結びつくかという点です。自律性には様々な度合いがあり、一概に「自律」と括ることは困難です。兵器システムにおける自律性のレベルを理解することは、その運用が既存の国際法原則とどのように整合するのか、あるいは新たな規制や解釈が必要となるのかを検討する上で不可欠です。
本稿では、LAWSにおける自律性の概念を整理し、一般的に議論される自律性のレベル分類であるHumans-in-the-loop、Human-on-the-loop、Human-out-of-the-loopに焦点を当てます。それぞれのレベルが持つ技術的な特徴を踏まえつつ、国際法、特にIHLが求める「人間の意味ある制御（Meaningful Human Control: MHC）」の概念との関連性を分析し、各レベルが国際社会に突きつける法的・倫理的課題について考察することを目的とします。
LAWSにおける自律性のレベル分類
LAWSにおける自律性は、システムが外界をセンシングし、標的を選定し、致死的な力を行使する一連のプロセスにおいて、人間の介入がどの程度必要とされるかによって分類されることが一般的です。主要な分類として、以下の三つのレベルが議論されています。
-
Human-in-the-loop（ヒューマン・イン・ザ・ループ）: このシステムでは、標的の選定および攻撃の実行において、常に人間の明示的な承認（トリガー操作など）が必要です。システムは情報を処理し、攻撃対象候補を提示しますが、最終的な攻撃決定は人間が行います。厳密には「自律型殺傷兵器」の定義には含まれない場合が多いですが、LAWSの議論における比較対象として重要です。
-
Human-on-the-loop（ヒューマン・オン・ザ・ループ）: システムが標的の選定から攻撃の実行までを自律的に行いますが、そのプロセス中に人間が監視しており、必要に応じて介入または中止することが可能です。人間はシステムの挙動を「監視」する立場にあります。自律性の度合いは高まりますが、人間の「制御」が完全に失われるわけではありません。
-
Human-out-of-the-loop（ヒューマン・アウト・オブ・ザ・ループ）: システムが標的の選定から攻撃の実行までを完全に自律的に行い、その過程において人間の介入は想定されていません。一度システムが起動されると、特定の条件や範囲内で、人間がその判断や実行を停止させる機会は存在しないか、極めて限定的です。これが最も懸念される「真の自律型殺傷兵器」として議論されることが多いレベルです。
これらの分類は厳密なものではなく、システムや運用環境によって自律性の度合いは連続的に変化し得ますが、法的・倫理的な議論においては、人間の関与の度合いという点で明確な違いを持つ指標として用いられています。
レベルごとの法的・倫理的課題
上記のような自律性のレベル分類は、国際法、特にIHLにおける主要原則の適用可能性や、倫理的な責任の所在といった点で異なる課題を提起します。
Human-in-the-loopシステムにおける課題
このレベルは人間の最終判断が常に介在するため、既存のIHL原則（区別原則、比例性原則、攻撃に際しての予防措置など）の適用は比較的容易であると考えられます。なぜなら、これらの原則に基づく判断と意思決定を最終的に行うのは人間であるからです。しかし、システムの処理速度が人間の認知・判断速度を上回る場合、あるいは多数の標的を同時に処理する必要がある場合など、技術的な側面に起因する人間の認知負荷や判断ミスの可能性といった運用上の課題は生じ得ます。これは、技術的能力が人間の判断能力を凌駕する状況下で、いかに「意味ある制御」を維持するかという問題に繋がります。
Human-on-the-loopシステムにおける課題
Human-on-the-loopシステムでは、システムが自律的に攻撃を開始する前に人間が介入・中止する機会がありますが、ここでの主要な課題は、人間の「意味ある制御」が実質的に可能かという点です。例えば、システムが極めて迅速に標的を特定し攻撃を開始する場合、人間が介入する時間的余裕が十分にあるか、あるいは複雑な状況下でシステムが生成する情報を人間が正確に理解し、適切な判断を下せるかという疑問が提起されます。IHL上の区別原則や比例性原則は、状況の評価に基づいた複雑な判断を要求しますが、システムの自律的な判断と人間の監視・介入という関係性が、これらの原則の実効的な遵守を困難にする可能性があります。また、システムのエラーや予期せぬ挙動が発生した場合に、責任を誰が負うべきか（オペレーター、司令官、開発者、メーカーなど）という「責任の空白」問題も、Human-on-the-loopシステムにおいて深刻な議論となります。人間が「監視していた」としても、システムが自律的に行った行為の結果に対する責任を、人間のオペレーターにどこまで帰属させられるかは法的に曖昧な点を含みます。
Human-out-of-the-loopシステムにおける課題
Human-out-of-the-loopシステムは、人間の介入が完全に排除されるため、国際法および倫理的な観点から最も深刻な懸念を引き起こします。このレベルのシステムは、IHLが戦闘員に要求するような、状況に応じた微妙な判断や文民保護に対する配慮を行う能力を持つとは考えにくいからです。例えば、区別原則は文民と戦闘員、文民物と軍事目標を区別することを求めますが、状況の流動性や不確実性の高い実戦環境において、人間と同等の判断能力をAIが持つことができるのか、またその判断プロセスがどのように検証・監査され得るのかは不明瞭です。比例性原則についても同様で、予期される文民の生命・財産への付随的損害が、得られる具体的な軍事的利益と比較して過大でないかという複雑な判断を、人間を介さずに行わせることの法的・倫理的正当性は極めて疑問視されています。
最も根本的な課題は、「人間の意味ある制御（MHC）」が完全に欠如することです。MHCは、攻撃の目標設定やタイミングといった重要な決定において、人間が倫理的・法的責任を伴う形で関与すべきであるという思想に基づいています。Human-out-of-the-loopシステムは、このMHCの概念と真っ向から対立します。結果として生じる行為に対する責任の所在は極めて曖昧となり、「責任の空白」が恒常化するリスクがあります。これは、国際犯罪が発生した場合に個人責任を追及する国際刑法や、国家責任を問う国際国家責任法においても、従来の枠組みでは対応しきれない新たな課題を生じさせます。また、このようなシステムに生命を奪う決定を委ねることが、人間の尊厳や、武力行使における人間性の根幹を損なうのではないかという倫理的な懸念も強く提起されています。
「人間の意味ある制御（Meaningful Human Control）」議論との関連
「人間の意味ある制御（MHC）」は、LAWSを巡る国際的な議論、特に特定通常兵器使用禁止制限条約（CCW）の枠組みにおける専門家会議で中心的な概念となっています。MHCの具体的な内容については多様な解釈が存在しますが、一般的には、武力行使における重要な判断、特に標的の選択と攻撃の実行において、人間が十分な情報に基づき、状況を理解し、国際法および倫理原則に照らして適切な判断を下す能力と機会を持つべきである、という考え方を包含しています。
上記の自律性レベルに照らすと、Human-in-the-loopシステムは比較的MHCを維持しやすい構造と言えますが、運用上の課題は存在します。Human-on-the-loopシステムでは、監視・介入の機会がMHCをどの程度保証できるかが論点となります。特に高速・大規模な戦闘状況下での実効性が問われます。そして、Human-out-of-the-loopシステムは、根本的にMHCを排除するものであるため、多くの国や市民社会、専門家は、このようなレベルのLAWSの開発・配備・使用を禁止すべきであると主張しています。MHCを技術的に、そして運用上どのように確保するか、またMHCを保証するための技術的・法的・運用的な要件をいかに具体化するかは、今後の国際的な規範構築における重要な課題です。
国際的な議論の現状
LAWSを巡る国際的な議論は、主にCCWの枠組みで進められてきました。非公式専門家会議などを通じて、LAWSの定義、自律性のレベル、MHCの概念、そしてIHLの適用可能性や責任の所在といった論点が深く掘り下げられています。しかし、LAWSの規制または禁止について、国際社会の意見は一致しておらず、進展は限定的です。
Human-out-of-the-loopシステムのような、人間の制御が完全に排除されたLAWSに対しては、多くの国や国際機関、NGOが禁止を求める強い声を上げています。これは、そのようなシステムがMHCを欠如させ、IHL違反のリスクを高め、責任追及を困難にし、人間の尊厳を損なうという懸念に基づいています。一方で、一部の軍事大国は、特定の文脈でのLAWSの軍事的な有用性を強調し、包括的な禁止には慎重な姿勢を示しています。議論は、特定の種類のLAWSを禁止すべきか、あるいはすべての自律性レベルのLAWSについて、特定の機能や運用の方法を規制すべきか、といった方向で進行しています。自律性の異なるレベルが持つ法的・倫理的な含意を明確に理解し、それぞれのレベルに対して適切な法的・倫理的フレームワークを構築することが、喫緊の課題となっています。
結論
自律型殺傷兵器（LAWS）は、その自律性のレベルに応じて、国際法および倫理規範に対して多様かつ深刻な課題を提起しています。Humans-in-the-loop、Human-on-the-loop、Human-out-of-the-loopという分類は、これらの課題を整理し、議論を進める上で有用な枠組みを提供します。Human-in-the-loopシステムにおいても運用上の課題は存在しますが、MHCの観点から最も懸念されるのは、Human-on-the-loopおよびHuman-out-of-the-loopシステムです。特にHuman-out-of-the-loopシステムは、MHCを完全に排除する可能性が高く、IHL原則の遵守、責任の所在、人間の尊厳といった根本的な問題に直結します。
国際社会は、CCWなどの場でこれらの課題について議論を重ねていますが、自律性のレベルに応じた具体的な規制や規範について、合意形成には至っていません。今後の議論においては、自律性の技術的な側面と、それが国際法および倫理に与える影響を深く連携させて分析することが不可欠です。どのレベルの自律性が、IHLが求める人間の判断、あるいは「意味ある制御」と両立し得るのか、そしていかなるレベルの自律性を超えたシステムは許容されないのかについて、明確な基準を設けることが求められています。LAWSの開発競争が進展する中で、法と倫理が技術の進化に追いつき、人間の尊厳と国際人道法原則を確実に保護するための規範構築に向けた、より一層の努力が必要とされています。