立憲・社民・無所属の奥村政佳です。
改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。
先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。
〔委員長退席、理事磯崎仁彦君着席〕
つまり、今までは、初めての動きに対しては人間の動きをロボットに覚えさせたり、実際に試行錯誤をする中で、従来であれば現実のロボットで何千回も失敗をして微調整をしていくような課題を、ロボット自体の頭の中でアイデアを、自分の頭の中でシミュレーション学習をして、それで即実行に移していくというサイクルを回すと。つまり、高精度なシミュレーションをすることによって、練習をしなくても一発でできるようになるといったようなロボットだそうでございます。
このアイデアというのも、インプットするんじゃなくて、人間の映っている動き、これ動画データを見て、それを基に学習をして、こういうことかなと見てまねて、練習をしないでできちゃうということで、すごい時代だなというふうに思っております。
さらに、自律型エージェントに基づいて決定を下す最新のソフトウェアが組み込まれている、そんなロボットが普及するのは、じゃ、数年後かなと思いきや、実際にはもっと早くて、何と今年中にはテスラは社内向けに千台、そして二〇二六年には外部に発売をするということで、もう僅か数年前にはＳＦのようだったことが目の前に起こってまいります。
そして、これからは様々なデバイスにもこのＡＩが組み込まれるような世界が当たり前となって、様々な機器が何を考えているか分からないブラックボックスとなっていく未来はもうすぐそこに来ています。世界各国でＡＩの開発競争が激化している中で、いいところ、そしてさらにはＡＩの負の側面というのも表面化をしていくのかなというふうに思っております。
さらに、このブラックボックスは何を引き起こすかというと、安全保障上のリスクでもあります。
〔理事磯崎仁彦君退席、委員長着席〕
例えば、ハードウェアでいうと、先週の衆議院内閣委員会では立憲民主党の藤岡委員が、昨日の参議院の決算委員会でも柳ヶ瀬委員が質問をしていたんですけれども、中国製の太陽光発電システムの一部に何か不審な通信機器が接続されている、搭載されているというロイター通信の報道を取り上げて、こういう通信機器の遠隔操作によって広域の停電が発生するおそれなんかも指摘をしていました。更に一歩進んで、ひょっとすると、将来、ＡＩが組み込まれたこういう機器が、遠隔操作をしなくても自分の判断で止まってしまう、発電を止めてしまうみたいなことも技術的には可能になっていくのかなというふうに思っております。
昨日の質問に対しては、当該機器の設備が含まれる設置者に対し保安上必要な対応を求めると武藤経産大臣は答えておられましたけれども、もうブラックボックスになってくるとそれもできてこないということで、まさにこれから想定外を想定をするということも必要なのかなというふうに思っております。
このようなこともあるということをちょっと皆様にも共有をしながら、順次質問を進めていきたいと思います。
さて、まず一問目伺いたいと思います。
先ほどはそういうハードウェアの話をしましたけれども、一方で情報戦ですね、海外で明らかになったＡＩを利用したプロパガンダ事案について政府の見解をお聞かせをください。
二〇二四年、オープンＡＩ社の発表では、ロシアや中国など複数の国、組織が生成ＡＩを使って偽情報、偽の情報をＳＮＳ上にばらまこうとしていたという報道がありました。それはストップ、事前にストップすることができた、幸い現時点で大きな成果は上げられなかったということでしたけれども、これはひょっとすると氷山の一角かもしれません。
参考人質疑でも市川参考人が、日本において直近のＡＩリスクとして、偽情報、誤情報の問題やディープフェイクなどが重要な課題と指摘されていました。
この悪意ある者がＡＩを用いてこういう情報を拡散する現実が既にあるという中で、この国際的なＡＩプロパガンダの動きがある中で、日本政府として危機感を持っているのか、こういう事案についてまずは率直な所見をお伺いしたいと思います。この日本の世論や国民が標的にされた場合の備えなんかも考えていかなければいけないと思いますが、いかがでしょうか。
44
木戸口英司(立憲)
その上で、私、一番最初に、その国際的なルール作り、ガバナンスの在り方を日本が主導していくということ、こういった姿がまたこの開発、活用しやすい国ということに先導していく大きなテーマであろうと思いますので、改めてこの点を確認をさせていただきたいと思います。
そして、次ですけれども、ＡＩ研究開発の推進における数値目標の設定については、十六日の参議院本会議で我が党の杉尾議員の質問に対し、城内大臣は、ＡＩの開発動向は刻々と変化しており、具体的な目標や指標の設定については適時適切に議論する必要がある、今後、ＡＩ基本計画を策定する際、具体的な目標等の設定を含めて検討…
この発言のページ
45
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。
ＥＢＰＭ、エビデンスに基づく政策立案、これは非常に重要だと思いますが、いずれにしましても、本法案は我が国におけるＡＩに特化した初めての法案でありまして、今後発生し得る様々な変化に的確に対応しながら、政策のかじ取りを行っていく必要があるというふうに考えております。
まずは、本法案が成立した暁には、関係省庁とも連携しながら、本法案に基づくＡＩ基本計画の策定や、適時適切な情報収集と情報提供等の取組を通じて、国民の皆様への説明責任をしっかりと果たしていく考えであります。
今後も技術の急速な進展を始めとする環境変化にしっかり対応することを…
この発言のページ
46木戸口英司(立憲)
もう時間になりましたので、質問はもう終わりにいたします。
我が国の国民生活の向上と国民経済の発展という目的であります、ＡＩですね。アジャイルな視点で我が国のＡＩ戦略をリードしていっていただきたいと思います。
私からの質問はこれで終わります。
この発言のページ
- （上の発言）
47
奥村政佳(立憲)
立憲・社民・無所属の奥村政佳です。
改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。
先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。
〔委員長退席、理事磯崎仁彦君着席〕
つまり、今までは、初めての動きに対しては人間の動きをロボットに覚えさせたり、実際に試行錯誤をする中で、従来であれば現実のロボットで何千回も失敗をして微調整をしていくような課題を、ロボット自体の頭の中でアイデアを、自分の頭の中でシミュレーション学習をして、それで即実行に移していくというサイクルを回すと。つまり、高精度なシミュレーションをすることによって、練習をしなくても一発でできるようになるといったようなロボットだそうでございます。
このアイデアというのも、インプットするんじゃなくて、人間の映っている動き、これ動画データを見て、それを基に学習をして、こういうことかなと見てまねて、練習をしないでできちゃうということで、すごい時代だなというふうに思っております。
さらに、自律型エージェントに基づいて決定を下す最新のソフトウェアが組み込まれている、そんなロボットが普及するのは、じゃ、数年後かなと思いきや、実際にはもっと早くて、何と今年中にはテスラは社内向けに千台、そして二〇二六年には外部に発売をするということで、もう僅か数年前にはＳＦのようだったことが目の前に起こってまいります。
そして、これからは様々なデバイスにもこのＡＩが組み込まれるような世界が当たり前となって、様々な機器が何を考えているか分からないブラックボックスとなっていく未来はもうすぐそこに来ています。世界各国でＡＩの開発競争が激化している中で、いいところ、そしてさらにはＡＩの負の側面というのも表面化をしていくのかなというふうに思っております。
さらに、このブラックボックスは何を引き起こすかというと、安全保障上のリスクでもあります。
〔理事磯崎仁彦君退席、委員長着席〕
例えば、ハードウェアでいうと、先週の衆議院内閣委員会では立憲民主党の藤岡委員が、昨日の参議院の決算委員会でも柳ヶ瀬委員が質問をしていたんですけれども、中国製の太陽光発電システムの一部に何か不審な通信機器が接続されている、搭載されているというロイター通信の報道を取り上げて、こういう通信機器の遠隔操作によって広域の停電が発生するおそれなんかも指摘をしていました。更に一歩進んで、ひょっとすると、将来、ＡＩが組み込まれたこういう機器が、遠隔操作をしなくても自分の判断で止まってしまう、発電を止めてしまうみたいなことも技術的には可能になっていくのかなというふうに思っております。
昨日の質問に対しては、当該機器の設備が含まれる設置者に対し保安上必要な対応を求めると武藤経産大臣は答えておられましたけれども、もうブラックボックスになってくるとそれもできてこないということで、まさにこれから想定外を想定をするということも必要なのかなというふうに思っております。
このようなこともあるということをちょっと皆様にも共有をしながら、順次質問を進めていきたいと思います。
さて、まず一問目伺いたいと思います。
先ほどはそういうハードウェアの話をしましたけれども、一方で情報戦ですね、海外で明らかになったＡＩを利用したプロパガンダ事案について政府の見解をお聞かせをください。
二〇二四年、オープンＡＩ社の発表では、ロシアや中国など複数の国、組織が生成ＡＩを使って偽情報、偽の情報をＳＮＳ上にばらまこうとしていたという報道がありました。それはストップ、事前にストップすることができた、幸い現時点で大きな成果は上げられなかったということでしたけれども、これはひょっとすると氷山の一角かもしれません。
参考人質疑でも市川参考人が、日本において直近のＡＩリスクとして、偽情報、誤情報の問題やディープフェイクなどが重要な課題と指摘されていました。
この悪意ある者がＡＩを用いてこういう情報を拡散する現実が既にあるという中で、この国際的なＡＩプロパガンダの動きがある中で、日本政府として危機感を持っているのか、こういう事案についてまずは率直な所見をお伺いしたいと思います。この日本の世論や国民が標的にされた場合の備えなんかも考えていかなければいけないと思いますが、いかがでしょうか。
48渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ただいま御指摘のございました件は、生成ＡＩを提供する非営利団体が、ロシアと中国とイランとイスラエルに関係する五つのグループがこの団体の生成ＡＩを利用して世論操作ですとかプロパガンダの活動を行っていたと、これ特定をいたしましてこの活動を阻止したというふうに、オープンＡＩですけどね、発表されているところでございます。二〇二四年の五月三十日ということでございます。
こういった事例がやはり増えていくということが大変懸念されると、それから巧妙化して多様化していくということがまず懸念材料の一つとしてはございます。
もう一つは、これ教訓とい…
この発言のページ
49奥村政佳(立憲)
本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。
その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。
先ほど渡邊統括官もおっしゃっていましたけれども、火事のと…
この発言のページ
50城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。
生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。
こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠であり…
この発言のページ