国際的な議論と整合して進めていますので、現時点では技術的審査の項目には想定をしないんだが、今後検討いただくということでありました。
そこで、最後、大臣にお伺いをいたします。
やはり、軍事用ＡＩ、この使用は避けて通れないというふうに私も思っております。ただ、人間が殺傷の判断から遠ざかるために戦闘の非人道性が加速しかねない、この負の側面もまた直視をしなければならないというふうに思っております。
現に、本年二月二十八日、ＡＩシステムを用いたイラン攻撃の初日に、イラン南部のミナブの小学校がミサイル攻撃を受け、児童ら百六十人以上が死亡したというふうに報じられました。あってはならないことだと思います。報道では、主因はＡＩではなく、古いデータを用いた人間側の誤りとされておりますけれども、いずれにしても、ＡＩによる標的処理の高速化が誤りの検証を困難にし得る教訓を突きつけているわけであります。
そこで、自衛隊として、こうした自動化バイアス、圧倒的な量と速度を誇るＡＩの提案を推奨せざるを得ないような人間に対するバイアスを抑制するための訓練、あるいは、人間を形式的ではなくて実質的な意思決定者とする、ヒューマン・マシン・インタラクションといいますけれども、人間とＡＩのシステムの相互作用の在り方、この基本原則の整備、徹底にどう取り組むのか。その上で、我が国として、ＡＩ―ＤＳＳの軍事利用に関する国際規範の形成を是非リードをしていただきたい。小泉大臣、非常に外交の舞台でも御活躍なさっておりますので、大臣の御見解をいただきたいと思っております。
20堀堀江和宏防衛装備庁防衛技監
お答え申し上げます。
科学技術の急速な発展が安全保障の在り方を根本的に変化させておりまして、ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化している中、我が国としてもこれに対応していくことが重要でございます。
このような考え方の下、ＡＩのリスクを軽減しながらその効果を最大化できるよう、責任あるＡＩ装備品等の研究開発を進める指針といたしまして、先生御指摘の装備品等の研究開発における責任あるＡＩ適用ガイドライン、これを策定してございます。
本ガイドラインでは、ＡＩ装備品等の研究開発に際しまして、リスクの大小によるＡＩ装備品等の分類、事業の…
この発言のページ
21
河西宏一(中道)
技術の活用とリスクの軽減、非常にＡＩ分野で大事でありますので、よろしくお願いをいたします。
このガイドラインの技術的審査が想定するリスクなんですけれども、いわゆるバイアス、誤作動、信頼性の低下、あるいは人間の責任の明確化、また運用者の理解の醸成など、多くがシステム側の欠陥でありましたり、あるいはＡＩをどう使わせるのかに関するものでありまして、ＡＩを運用する自衛官自身に生ずる心理的、認知的負担を審査する項目、つまり、使う側、使う人間、自衛官がどう傷つくのか、この視点が欠けているというふうに感じました。
私もカーナビの開発をしているときは、絶対にその車に…
この発言のページ
22堀堀江和宏防衛装備庁防衛技監
お答え申し上げます。
ＡＩ装備品等の研究開発に際しましては、国際法及び国内法を遵守し、自律型致死兵器システムや、ＡＩと自律性の責任ある軍事利用に関する政治宣言、これらに代表されます国際的な議論と整合する形で進めることが必要でございます。
装備品等の研究開発における責任あるＡＩ適用ガイドラインにおける技術的審査におきましても、そのような国際場裏での議論等を踏まえ、詳細を検討しておるところでございまして、現時点では、運用者の心理的、健康面の負担評価について、技術的審査の要件とすることは想定してございません。
他方で、隊員の心身を守ることは重要だと考えて…
この発言のページ
- （上の発言）
23河西宏一(中道)
国際的な議論と整合して進めていますので、現時点では技術的審査の項目には想定をしないんだが、今後検討いただくということでありました。
そこで、最後、大臣にお伺いをいたします。
やはり、軍事用ＡＩ、この使用は避けて通れないというふうに私も思っております。ただ、人間が殺傷の判断から遠ざかるために戦闘の非人道性が加速しかねない、この負の側面もまた直視をしなければならないというふうに思っております。
現に、本年二月二十八日、ＡＩシステムを用いたイラン攻撃の初日に、イラン南部のミナブの小学校がミサイル攻撃を受け、児童ら百六十人以上が死亡したというふうに報じられました。あってはならないことだと思います。報道では、主因はＡＩではなく、古いデータを用いた人間側の誤りとされておりますけれども、いずれにしても、ＡＩによる標的処理の高速化が誤りの検証を困難にし得る教訓を突きつけているわけであります。
そこで、自衛隊として、こうした自動化バイアス、圧倒的な量と速度を誇るＡＩの提案を推奨せざるを得ないような人間に対するバイアスを抑制するための訓練、あるいは、人間を形式的ではなくて実質的な意思決定者とする、ヒューマン・マシン・インタラクションといいますけれども、人間とＡＩのシステムの相互作用の在り方、この基本原則の整備、徹底にどう取り組むのか。その上で、我が国として、ＡＩ―ＤＳＳの軍事利用に関する国際規範の形成を是非リードをしていただきたい。小泉大臣、非常に外交の舞台でも御活躍なさっておりますので、大臣の御見解をいただきたいと思っております。
24
小泉進次郎(自民)防衛大臣
防衛省においては、ＡＩの活用に当たっては、誤りが含まれ得ることによる信頼性の懸念や、学習データの偏りなどによるバイアスが生じるリスク、国際人道法を始めとする法的適合性や人間による適切な関与の在り方といった論点が存在するものと認識しております。
そのため、令和六年に策定した防衛省ＡＩ活用推進基本方針において、ＡＩは人間の判断を支援するものであり、その活用に当たっては人間の関与を確保することとされております。あわせて、ＡＩに単独で判断させるのではなく適切なタイミングで人間の判断を介在させること、自動化バイアス等の過度な依存リスクに対して必要な対策を講じるこ…
この発言のページ
25河西宏一(中道)
国際規範の形成、我が国に寄せられている信頼また期待は大きいものがありますので、是非よろしくお願いいたします。
急速に進展する技術革新と変容する抑止力の中で、現場の自衛官の負担を確実に軽減をしていく、この両者の両立こそ現実的で責任ある安全保障政策だというふうに思いますので、是非、大臣、よろしくお願いをいたします。
以上で終わります。ありがとうございました。
この発言のページ
26
西村明宏(自民)
次に、吉田宣弘君。
この発言のページ