未来の紛争とAI兵器 - 自律型殺傷兵器（LAWS）のAI判断が国際法上の『意図』・『故意』概念に与える影響：戦争犯罪責任の再検討

自律型殺傷兵器（LAWS）のAI判断が国際法上の『意図』・『故意』概念に与える影響：戦争犯罪責任の再検討

Tags: 国際法, 国際人道法, LAWS, AI倫理, 戦争犯罪, 責任原則, 意図, 故意

はじめに：LAWSと国際法上の主観的要素

自律型殺傷兵器（LAWS: Lethal Autonomous Weapons Systems）の開発と潜在的な配備は、将来の紛争形態に変革をもたらす可能性を秘めています。同時に、これらのシステムが国際法、特に国際人道法（IHL）や国際刑法における既存の規範に適合するかどうか、あるいは新たな法的・倫理的課題を突きつけるかどうかが、国際社会で喫緊の議論となっています。その中でも特に複雑かつ重要な問題の一つが、LAWSのAIが下す判断が、国際法上の責任帰属において中心的役割を果たす「意図（intent）」や「故意（mens rea）」といった主観的な概念とどのように関連づけられるかという点です。

本稿では、LAWSにおけるAIの自律的な判断が、国際法、特に戦争犯罪責任の文脈における「意図」や「故意」といった概念にどのような影響を与えるのかを分析します。これにより、既存の責任原則の適用可能性とその限界、そしてLAWS時代に求められる新たな法的議論の方向性を考察します。

国際法における「意図」・「故意」の意義

国際法、特に国際刑法において、犯罪の構成要件として行為者の主観的な要素、すなわち「意図」や「故意」が問われることは一般的です。例えば、戦争犯罪や人道に対する罪といった国際犯罪の多くは、「故意犯」として構成されており、単に結果が発生しただけでなく、行為者が特定の意図を持って行動したことや、結果の発生を認識・認容していたことが責任帰属の前提となります。

国際刑事裁判所（ICC）ローマ規程では、戦争犯罪における「故意」について、「特定の結果を発生させる意図」、「結果が発生することを認識し、かつ、かかる結果の発生を欲した、又はかかる結果の発生を認識し、かつ、かかる結果の発生から身を引かないことを選択した」場合などを定義しています。これは、人間の行為主体が特定の目的のために行動する際の精神状態を捉えようとするものです。人間の指揮官や兵士がIHLに違反する行為を行った場合、その行為の性質や状況に加え、その行為者の心的な要素（なぜその標的を攻撃したのか、文民への危害を予見できたかなど）が、戦争犯罪としての責任を問う上で不可欠な要素となります。

LAWSのAI判断と「意図」・「故意」の乖離

LAWSのAIは、センサーデータ、アルゴリズム、学習データに基づいて「標的を選定」し、「攻撃を実行」するといった「判断」を下します。しかし、このAIの「判断」プロセスは、人間の意識、感情、道徳的推論、そして伝統的な意味での「意図」や「故意」とは質的に異なるものです。

プロセスの性質: AIの判断は、プログラムされた論理や機械学習の結果に基づいており、人間のような主観的な「意図」や「欲求」を持つわけではありません。AIは特定のタスクを最適に遂行するよう設計されていますが、その「目的」はあくまで設計者や配備者によって与えられたものです。
「ブラックボックス」問題: 高度な機械学習モデルを用いたLAWSの場合、その判断プロセスが開発者にとっても完全に透明であるとは限りません（いわゆる「ブラックボックス」問題）。AIがなぜ特定の判断を下したのか、その推論過程を人間が完全に理解し、遡及的に検証することが困難な場合があります。これは、人間の行為における「意図」を事後的に立証することとは異なる課題です。
予見可能性の限界: AIの判断は、予期せぬ状況下や学習データにないシナリオにおいて、開発者が意図しなかった結果を招く可能性があります。人間の行為における「予見可能性」は故意の判断において考慮されますが、AIによる予期せぬ結果は、この予見可能性の概念を複雑にします。

このように、LAWSのAIが下す「判断」は、従来の国際法が前提としてきた人間の「意図」や「故意」といった概念に直接対応づけることが難しいという根本的な課題があります。

LAWSによる違法行為発生時の責任論の課題

LAWSによる攻撃がIHLに違反し、戦争犯罪に該当する可能性のある結果（例：文民への無差別攻撃、過大な付随的損害）を招いた場合、従来の戦争犯罪責任原則をそのまま適用することには困難が伴います。誰に、どのような根拠で責任を帰属させるべきかという問いが生じます。

AIそのものへの責任: AI自体に国際法上の責任主体性を認めることは、現時点では国際法学上一般的ではありません。AIは道具であり、人間の行為主体とは見なされないためです。
直接のオペレーター/監視者: 人間がシステムを監視し、最終的な攻撃判断に関与する形態（Human-on-the-loop, Human-in-the-loop）であれば、従来の指揮責任や個人責任の原則を適用しやすいかもしれません。しかし、LAWSが高度に自律化し、人間の「意味ある制御（Meaningful Human Control: MHC）」が限定的または欠如している場合、オペレーターにAIの判断結果に対する「意図」や「故意」を認めることは困難になります。彼らはAIの複雑な判断プロセスを完全に理解・制御できていない可能性があるからです。
指揮官: LAWSの配備・運用を命令・管理した指揮官に対して、指揮責任原則（部下の行為を知っていた、あるいは知り得たはずなのに適切な措置を取らなかった責任）を適用することが考えられます。しかし、LAWSの自律性が高まるほど、指揮官が個別のAIの判断やその結果を予見・制御することが難しくなり、この原則の適用にも限界が生じます。AIを「部下」と見なすかどうかの問題も生じえます。
開発者・製造者: LAWSの設計・製造段階における欠陥が違法な結果を招いた場合、開発者や製造者の責任を問う議論もあり得ます。しかし、これは伝統的な戦争犯罪責任とは異なる形態の責任（例えば、過失や製造物責任のようなもの）であり、国際刑法上の「意図」や「故意」の概念とは直接結びつきにくい側面があります。
国家: 国家はIHLの一次的な遵守主体であり、LAWSの使用によって発生したIHL違反に対する国家責任を負う可能性が高いです。しかし、国家責任は国際違法行為に対するものであり、個人の戦争犯罪責任とは区別されるものです。個人の戦争犯罪責任を追及する場合、国家責任とは異なる法的根拠が必要になります。

国際的な議論の現状と将来への展望

特定通常兵器使用禁止制限条約（CCW）の枠組みなど、国際的なフォーラムではLAWSを巡る議論が継続されています。「人間の意味ある制御（MHC）」の重要性が広く認識されていますが、その具体的な定義や、MHCが欠如した場合の法的帰結については依然として議論の途上にあります。

LAWS時代における「意図」や「故意」といった概念の適用可能性を検討するにあたり、以下の点が今後の議論で重要になると考えられます。

「人間の意味ある制御（MHC）」の再定義と法的意義の明確化: MHCを確保することの法的義務、およびMHCの欠如が責任帰属に与える影響をより明確にする必要があります。
新たな責任原則の探求: 既存の「意図」・「故意」や指揮責任原則の限界を踏まえ、AIの自律性や非人間的な判断プロセスに即した新たな責任帰属の枠組み（例：危険責任、設計責任など）を国際法の中で検討する必要があるかもしれません。
AIの「説明可能性」と監査可能性の向上: AIの判断プロセスの透明性を高め、事後的な検証を可能にすることが、責任追及の前提となります。これは技術的な課題であると同時に、法的規範による要求も必要となります。
予防原則の適用: LAWSの潜在的なリスク、特に「意図」や「故意」といった概念の適用困難性から生じるアカウンタビリティ・ギャップを防ぐため、開発・配備に対する予防的なアプローチ（例：特定のタイプのLAWSに対する禁止や厳格な規制）の必要性も議論されています。

結論：規範と技術の対話の必要性

自律型殺傷兵器（LAWS）におけるAIの「判断」は、従来の国際法、とりわけ戦争犯罪責任における「意図」や「故意」といった主観的な構成要件の適用に深刻な課題を突きつけています。AIの非人間的・非意識的なプロセスは、人間の精神状態を前提とする既存の責任原則と根本的な乖離を生じさせます。

この課題に対処するためには、単に既存の国際法規範をLAWSに無理やり適用しようとするだけでなく、LAWSの技術的特性を深く理解した上で、国際法、国際人道法、国際刑法の基本原則に立ち返り、「意図」・「故意」といった概念の意味合いを再検討し、必要であれば新たな責任原則や規制枠組みを構築する必要があります。これは、技術開発の速度と比べて遅行しがちな規範構築のプロセスにおいて、法学、倫理学、技術科学、軍事、そして政策決定に関わる多分野間の継続的な対話と協力が不可欠であることを示しています。LAWS時代においても、国際法が紛争における人間の行為を効果的に規律し、人道性を確保し続けるためには、この根本的な問いに誠実に向き合うことが求められています。