御説明ありがとうございました。
今、御答弁の中でも、責任は人間が負うべきという原則について言及がございました。大事なのは責任の所在の問題、これがもう一つ大事な論点であると思います。
ＡＩが関わった軍事行動で民間人の被害が起きた、そのときに、なぜその標的が選ばれたのか、誰が判断したのか、どこに問題があったのか、こうしたことが後から分からなければ、御遺族に対して説明もできませんし、再発防止策を取ることもできません。つまり、ＡＩの問題は、性能や技術的な問題だけではなく、説明責任、そして検証可能性の問題でもあります。
そこで、政府参考人にお伺いをいたします。
ＡＩを活用した軍事システムによって民間人の被害が発生した場合、判断過程の記録保存、事後検証、責任の所在の明確化について、先ほどと同じですけれども、まずは日本政府としてどのような基準で考えているのか、防衛省の政府参考人に伺います。
あわせて、どのような国際ルールや枠組みが必要と考えるのか、日本政府として、ＡＩの軍事利用に関わる説明責任と検証可能性を確保する仕組みの国際的議論を進める考えがあるのか。こちらは外務省の政府参考人にお伺いいたします。
23原原田直樹(中道)
大臣が今おっしゃったことは、私も完全に同意であります。ＡＩの軍事利用のことについて本日は質問しておりますけれども、そもそも、様々な紛争は、武力ではなくて対話によって国際紛争を解決すべきだという前提は、私も同意をいたします。
その上で、ＡＩの軍事利用について、ここからもう少し具体的な、技術的なことについても質問をさせていただきたいと思います。
ＡＩ規制の議論で、よく、人間の関与を確保するということが非常に大きな論点になってまいります。しかし、私は、人間が関与するということだけではなく、曖昧にしてはならず、人間の関与というのは具体的には一体何を意味するの…
この発言のページ
24吉吉野幸治防衛省大臣官房サイバーセキュリティ・情報化審議官
お答えいたします。
科学技術の急速な発展が、安全保障の在り方を根本的に変化させております。ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化しております。我が国としても、これに適切に対応していくことが重要でございます。
また、人口減少下にある我が国におきましては、自衛隊員の命を守って人的被害を局限することは極めて重要な課題でありまして、自衛隊における無人化、省人化も図っていく必要がございます。
このような考え方の下、令和六年に策定いたしました防衛省ＡＩ活用推進基本方針におきましては、情報収集・分析、指揮統制、無人アセットといった七つの分…
この発言のページ
25松松本恭典外務省大臣官房審議官
外務省の立場でお答えいたします。
ＬＡＷＳに関する議論につきましては、先生御指摘のＧＧＥにおいて、国際的に議論が行われておるところでございます。その中で、人間の関与につきましては、兵器システムの性能、それから使用の場面等を考慮する必要性、こういったものを多くの国が様々主張しておるところでございまして、具体的な態様や必要とされる程度につきましては、現時点で各国の立場は収れんしていないというところでございます。また、ＡＩを活用した軍事システムについて、責任は人間が負うべきとの認識はおおむね共有されておると考えておりますけれども、現在もその具体的な議論につい…
この発言のページ
- （上の発言）
26原原田直樹(中道)
御説明ありがとうございました。
今、御答弁の中でも、責任は人間が負うべきという原則について言及がございました。大事なのは責任の所在の問題、これがもう一つ大事な論点であると思います。
ＡＩが関わった軍事行動で民間人の被害が起きた、そのときに、なぜその標的が選ばれたのか、誰が判断したのか、どこに問題があったのか、こうしたことが後から分からなければ、御遺族に対して説明もできませんし、再発防止策を取ることもできません。つまり、ＡＩの問題は、性能や技術的な問題だけではなく、説明責任、そして検証可能性の問題でもあります。
そこで、政府参考人にお伺いをいたします。
ＡＩを活用した軍事システムによって民間人の被害が発生した場合、判断過程の記録保存、事後検証、責任の所在の明確化について、先ほどと同じですけれども、まずは日本政府としてどのような基準で考えているのか、防衛省の政府参考人に伺います。
あわせて、どのような国際ルールや枠組みが必要と考えるのか、日本政府として、ＡＩの軍事利用に関わる説明責任と検証可能性を確保する仕組みの国際的議論を進める考えがあるのか。こちらは外務省の政府参考人にお伺いいたします。
27吉吉野幸治防衛省大臣官房サイバーセキュリティ・情報化審議官
お答えいたします。
防衛省といたしまして、先ほど御紹介いたしました防衛省ＡＩ活用推進基本方針にも記載しておるとおり、ＡＩが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると考えてございます。
人間の関与の在り方に関しましては、委員からも御指摘ありましたとおり、国際的にも様々な議論があると承知しておりますが、最も重要な点は、指揮官や操作者が意図した形で兵器システムを運用できるような状態を確保することであると考えてございます。そのためには、使用する兵器システムに関する情報を十分把握すること、また、責任ある指揮命令系…
この発言のページ
28松松本恭典外務省大臣官房審議官
お答え申し上げます。
ＡＩを活用しました軍事システムにおけるＡＩの判断に関する追跡可能性、あるいは透明性といったことにつきましても、同じくＧＧＥの中でも様々な議論が行われておるところでございます。
先ほどの繰り返しになりますけれども、ＡＩを利用した軍事システムについて、責任は人間が負うべきとの認識についてはおおむね共有されておるところでございますけれども、具体的なＡＩの判断の検証をどのように行うのか、技術的に可能なのか、判断過程の記録保全とか事後検証の在り方、これらにつきましては、日々進化するＡＩの技術も踏まえながら様々な議論が行われておりますところ…
この発言のページ
29原原田直樹(中道)
御説明ありがとうございました。
防衛省が出されているガイドラインについても、私も本文も確認を詳細にいたしましたけれども、まだまだ具体的な、大きな方向性は、人間がしっかりと関与をすること、そして人間が責任を取るということについては明記をされておりますが、具体の細かいところについては、政府の方針としても、また国際的な認識にも大きな差があるなということを、今、御答弁の中から感じたところでございます。
今回のイランの小学校の空爆の件、そして、先ほど大臣から、ロシアによるウクライナ侵攻でもこうした技術が使われている話がございました。日々日々技術が進歩している中…
この発言のページ