大臣が今おっしゃったことは、私も完全に同意であります。ＡＩの軍事利用のことについて本日は質問しておりますけれども、そもそも、様々な紛争は、武力ではなくて対話によって国際紛争を解決すべきだという前提は、私も同意をいたします。
その上で、ＡＩの軍事利用について、ここからもう少し具体的な、技術的なことについても質問をさせていただきたいと思います。
ＡＩ規制の議論で、よく、人間の関与を確保するということが非常に大きな論点になってまいります。しかし、私は、人間が関与するということだけではなく、曖昧にしてはならず、人間の関与というのは具体的には一体何を意味するのか、最後に形式的に人間が承認をすればよいのか、それとも、標的の妥当性、情報の信頼性、民間人被害のおそれ、こうしたことを人間が実質的に理解し、判断し、必要なら止められる、そうした状態であるのか、この差は非常に大きいと思います。
そこで、政府参考人にお伺いいたします。
ＡＩを活用した軍事システムにおける人間の関与について、政府は、どの段階でどの程度の関与があれば、実質的な人間の関与が確保されていると考えるのか。単なる形式的承認ではなく、人間が実質的に判断し責任を負える状態をどのように担保すべきと考えるのか、お聞かせください。この点については、まずは日本政府としてどのような基準で考えているのか、自衛隊としての運用、そうしたことを防衛省の政府参考人に伺います。
また、今申し上げた点につきまして、当然、日本だけがしっかりとした基準を持ち、それを守ればよいというわけではありません。ＡＩを活用した軍事システムにおける人間の関与について、どのような国際ルールや枠組みが必要であると考えるのか。日本政府として、国際的議論でリーダーシップを発揮する考えがあるのか。こちらは外務省の政府参考人にお伺いいたします。
20原原田直樹(中道)
積極的、建設的に議論に関わっていくと、前向きな御答弁をいただきました。
加えて、ここで大事なのは、今、ＬＡＷＳについてお伺いをしましたけれども、その議論をＬＡＷＳだけに限ってよいのかというのも大事な点であると思います。現実に問題となるのは、完全に自律した兵器だけではありません。
お手元のまた資料で、今度はＡＷＳ、またＡＩ―ＤＳＳについて少し御説明を、御紹介をしたいと思います。
ＡＷＳというのは、ＬＡＷＳよりももう少し広い概念で、致死性が必ずしも伴わなかったとしても、ボタン一つで、起動した後には人間の介入なしに標的を選択し、攻撃をできるようなシステム…
この発言のページ
21門門脇仁一外務省大臣官房参事官
お答え申し上げます。
軍事領域におけるＡＩ活用について、我が国は、ＡＩ技術の開発利用などを通じて生じる問題に対して、国際人道法を含む既存の国際法が適用されるという見解を支持してきております。
我が国は、軍事領域におけるＡＩ活用について、人道的考慮、そして安全保障上の観点を勘案したバランスの取れた議論を通じて、国際社会において共通認識が得られるよう、国際的な議論にも、今後とも積極的かつ建設的に参加していく所存でございます。
この発言のページ
22
茂木敏充(自民)外務大臣
技術的な問題については、今、参考人の方から答弁があったとおりでありますけれども、ＡＩも判断ミスを犯します。しかし、人間も判断ミスを犯す。こういったことを考えて、いかに紛争を起こさないか、戦争を起こさないか、事前の段階で話合いによって問題を解決していく、こういう姿勢を取ることが極めて私は重要だと思っております。
確かに、ＡＩによって戦い方が変わってくる、こういうお話をしましたけれども、そういう戦いを起こさないということに力点を置くことが極めて重要なんじゃないかなと考えております。
この発言のページ
- （上の発言）
23原原田直樹(中道)
大臣が今おっしゃったことは、私も完全に同意であります。ＡＩの軍事利用のことについて本日は質問しておりますけれども、そもそも、様々な紛争は、武力ではなくて対話によって国際紛争を解決すべきだという前提は、私も同意をいたします。
その上で、ＡＩの軍事利用について、ここからもう少し具体的な、技術的なことについても質問をさせていただきたいと思います。
ＡＩ規制の議論で、よく、人間の関与を確保するということが非常に大きな論点になってまいります。しかし、私は、人間が関与するということだけではなく、曖昧にしてはならず、人間の関与というのは具体的には一体何を意味するのか、最後に形式的に人間が承認をすればよいのか、それとも、標的の妥当性、情報の信頼性、民間人被害のおそれ、こうしたことを人間が実質的に理解し、判断し、必要なら止められる、そうした状態であるのか、この差は非常に大きいと思います。
そこで、政府参考人にお伺いいたします。
ＡＩを活用した軍事システムにおける人間の関与について、政府は、どの段階でどの程度の関与があれば、実質的な人間の関与が確保されていると考えるのか。単なる形式的承認ではなく、人間が実質的に判断し責任を負える状態をどのように担保すべきと考えるのか、お聞かせください。この点については、まずは日本政府としてどのような基準で考えているのか、自衛隊としての運用、そうしたことを防衛省の政府参考人に伺います。
また、今申し上げた点につきまして、当然、日本だけがしっかりとした基準を持ち、それを守ればよいというわけではありません。ＡＩを活用した軍事システムにおける人間の関与について、どのような国際ルールや枠組みが必要であると考えるのか。日本政府として、国際的議論でリーダーシップを発揮する考えがあるのか。こちらは外務省の政府参考人にお伺いいたします。
24吉吉野幸治防衛省大臣官房サイバーセキュリティ・情報化審議官
お答えいたします。
科学技術の急速な発展が、安全保障の在り方を根本的に変化させております。ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化しております。我が国としても、これに適切に対応していくことが重要でございます。
また、人口減少下にある我が国におきましては、自衛隊員の命を守って人的被害を局限することは極めて重要な課題でありまして、自衛隊における無人化、省人化も図っていく必要がございます。
このような考え方の下、令和六年に策定いたしました防衛省ＡＩ活用推進基本方針におきましては、情報収集・分析、指揮統制、無人アセットといった七つの分…
この発言のページ
25松松本恭典外務省大臣官房審議官
外務省の立場でお答えいたします。
ＬＡＷＳに関する議論につきましては、先生御指摘のＧＧＥにおいて、国際的に議論が行われておるところでございます。その中で、人間の関与につきましては、兵器システムの性能、それから使用の場面等を考慮する必要性、こういったものを多くの国が様々主張しておるところでございまして、具体的な態様や必要とされる程度につきましては、現時点で各国の立場は収れんしていないというところでございます。また、ＡＩを活用した軍事システムについて、責任は人間が負うべきとの認識はおおむね共有されておると考えておりますけれども、現在もその具体的な議論につい…
この発言のページ
26原原田直樹(中道)
御説明ありがとうございました。
今、御答弁の中でも、責任は人間が負うべきという原則について言及がございました。大事なのは責任の所在の問題、これがもう一つ大事な論点であると思います。
ＡＩが関わった軍事行動で民間人の被害が起きた、そのときに、なぜその標的が選ばれたのか、誰が判断したのか、どこに問題があったのか、こうしたことが後から分からなければ、御遺族に対して説明もできませんし、再発防止策を取ることもできません。つまり、ＡＩの問題は、性能や技術的な問題だけではなく、説明責任、そして検証可能性の問題でもあります。
そこで、政府参考人にお伺いをいたします…
この発言のページ