事前に予防、抑止、本当に大事だと思っております。
二つ目、ディープフェイク。
画面の端に日テレのロゴをつけて、あたかも日本テレビのニュース番組で首相が話しているかのようなディープフェイク画像が出て、その発信した情報が株価の暴落などの影響を及ぼしたという問題についてどう対応できるのか、伺います。
おおたけりえ (立憲民主党)
2025年4月11日・第217回国会 衆議院 内閣委員会 第13号（外部サイト、新しいタブで開きます） の 61 番目の発言（外部サイト、新しいタブで開きます）（全 245 発言）
前後のやりとり
お答えいたします。
悪質なＡＩの開発、活用事案であって、既存法令による対応が難しく、かつ放置をすると被害が生じる、あるいは増大する可能性があると判断される場合、国が事業者に対する指導や国民に対する情報提供などを講じることなどを考えております。
調査の結果を公表、国民への情報提供をする際に、具体的に問題となっている種類のＡＩやその実名などを公表するケースもあると考えておりまして、ＡＩの適正な開発、活用に向けて一定の抑止力が働くと考えているところであります。
実名を公表まで考えているということ、理解をいたしました。 先ほど橋本議員が取り上げられました、内閣府のＡＩ戦略会議が二〇二五年二月四日に発表された中間取りまとめの中の意識調査の中で、ＡＩには規制が必要だと思うと答えた人が、日本で七七％、そして、政府に求めたいことは、ＡＩの悪用や犯罪に対する法的対策の強化が六六％でトップでした。 今回の法律が施行されたら、政府として、これまでと違ってどのような対応をできるようになるのか。先ほど我が党の橋本議員が、質疑の中でいろいろ出てまいりましたけれども、さらに、ＡＩにまつわる課題と認識されている、一、誤情報、二、ディ…
委員御指摘の事例について、政府としては、既存の法令、ガイドライン等も活用して対処していくということでありますけれども、御指摘の趣旨が、今回のＡＩ法案によって対応がどう変わるのかといった変化を尋ねているという理解の下、本法案によって変わると考えられる部分に絞って具体的にお答えをさせていただきます。 本法案に基づき、国は、国際規範に沿って指針を整備をいたしますが、その指針の中で、ＡＩ開発者による安全性向上について規定する予定であります。その中には、誤情報を減らすための取組も当然含まれると考えておりまして、具体的にどういう対策を行うかは事業者によって異なりま…
- （上の発言）
事前に予防、抑止、本当に大事だと思っております。
二つ目、ディープフェイク。
画面の端に日テレのロゴをつけて、あたかも日本テレビのニュース番組で首相が話しているかのようなディープフェイク画像が出て、その発信した情報が株価の暴落などの影響を及ぼしたという問題についてどう対応できるのか、伺います。
お答えいたします。 本法案に基づき国が整備する指針の中では、ＡＩ開発者による安全性向上について規定する予定です。その中には、偽情報を減らすための取組も含まれると考えておりまして、具体的な対策は事業者によって異なるとは思いますけれども、例えば、画像生成ＡＩに関して国家元首の偽動画などが容易に作成されないような工夫が考えられます。また、本法案では、研究開発の推進も基本的な施策として掲げておりまして、偽情報対策に関する技術開発などの技術面の取組も進めたいと考えています。 このような対策によって、委員御指摘のような事案を発生前に予防して、抑制することを考えて…
それでは、三つ目の違法コンテンツについて。
家族の声のディープフェイクを使ったオレオレ詐欺の被害に遭ったという問題についてどう対応できるのか、伺います。
お答えいたします。
本法案第十五条では、国が国民に対して、ＡＩに関する教育、学習の振興、広報活動を行うこととされています。また、既存法令やガイドラインで対応しつつ、本法案第十六条に規定された情報収集や、調査、指導、助言、情報提供といった取組を活用して、関係省庁と連携の上、適切に対処することが考えられると思っております。
このような取組により、合成音声を生成するＡＩを用いたオレオレ詐欺等のリスクに対応するとともに、国民に対して注意喚起を行い、犯罪を防止することが考えられます。
以上でございます。