2025年5月27日・第217回国会 参議院 内閣委員会 第17号（外部サイト、新しいタブで開きます） の 48 番目の発言（外部サイト、新しいタブで開きます）（全 226 発言）
お答え申し上げます。
ただいま御指摘のございました件は、生成ＡＩを提供する非営利団体が、ロシアと中国とイランとイスラエルに関係する五つのグループがこの団体の生成ＡＩを利用して世論操作ですとかプロパガンダの活動を行っていたと、これ特定をいたしましてこの活動を阻止したというふうに、オープンＡＩですけどね、発表されているところでございます。二〇二四年の五月三十日ということでございます。
こういった事例がやはり増えていくということが大変懸念されると、それから巧妙化して多様化していくということがまず懸念材料の一つとしてはございます。
もう一つは、これ教訓といいますか、この団体がＡＩの悪用を防ぐために実はＡＩを使っているんですね。つまり、ＡＩを使ってその悪質なものを探したということを言っておりまして、そういう意味では、その悪質な、これ参考人質疑でもございましたけれども、ＡＩに対してＡＩという技術で対抗していくというテクノロジー化、テクノロジー・ベースド・アプローチみたいなものの重要性というのを非常に感じているところでございます。
45
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。 ＥＢＰＭ、エビデンスに基づく政策立案、これは非常に重要だと思いますが、いずれにしましても、本法案は我が国におけるＡＩに特化した初めての法案でありまして、今後発生し得る様々な変化に的確に対応しながら、政策のかじ取りを行っていく必要があるというふうに考えております。 まずは、本法案が成立した暁には、関係省庁とも連携しながら、本法案に基づくＡＩ基本計画の策定や、適時適切な情報収集と情報提供等の取組を通じて、国民の皆様への説明責任をしっかりと果たしていく考えであります。 今後も技術の急速な進展を始めとする環境変化にしっかり対応することを…
46
木戸口英司(立憲)
もう時間になりましたので、質問はもう終わりにいたします。
我が国の国民生活の向上と国民経済の発展という目的であります、ＡＩですね。アジャイルな視点で我が国のＡＩ戦略をリードしていっていただきたいと思います。
私からの質問はこれで終わります。
47
奥村政佳(立憲)
立憲・社民・無所属の奥村政佳です。 改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。 先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。 〔委員長退席、理事磯崎仁彦君…
お答え申し上げます。
ただいま御指摘のございました件は、生成ＡＩを提供する非営利団体が、ロシアと中国とイランとイスラエルに関係する五つのグループがこの団体の生成ＡＩを利用して世論操作ですとかプロパガンダの活動を行っていたと、これ特定をいたしましてこの活動を阻止したというふうに、オープンＡＩですけどね、発表されているところでございます。二〇二四年の五月三十日ということでございます。
こういった事例がやはり増えていくということが大変懸念されると、それから巧妙化して多様化していくということがまず懸念材料の一つとしてはございます。
もう一つは、これ教訓といいますか、この団体がＡＩの悪用を防ぐために実はＡＩを使っているんですね。つまり、ＡＩを使ってその悪質なものを探したということを言っておりまして、そういう意味では、その悪質な、これ参考人質疑でもございましたけれども、ＡＩに対してＡＩという技術で対抗していくというテクノロジー化、テクノロジー・ベースド・アプローチみたいなものの重要性というのを非常に感じているところでございます。
49奥村政佳(立憲)
本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。 その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。 先ほど渡邊統括官もおっしゃっていましたけれども、火事のと…
50城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。 生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。 こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠であり…
51奥村政佳(立憲)
想定をしていく、しっかりやっていくということは伺ったんですけれども、実際、ＳＮＳ上でこういう発言というか、ＡＩの場合は発信というんでしょうか、これを行うＡＩについて政府はどういう対応を検討しているのか、実際の場合というのをお伺いしたいと思います。 自動で不適切な出力をするＡＩ、最近は、ＡＩアカウントが人間に成り済ましたりとか、チャットボットというものが暴言を吐いて、海外では炎上するということもあります。悪意はＡＩにはないんですよね。ただ、おかしな学習をして、差別的な投稿やデモ情報というのをツイートするということがあると。ＡＩ自体には責任は問えないという…