2025年11月28日・第219回国会 参議院 デジタル社会の形成及び人工知能の活用等に関する特別委員会 第3号（外部サイト、新しいタブで開きます） の 47 番目の発言（外部サイト、新しいタブで開きます）（全 132 発言）
御指摘のようなディープフェイク画像、動画がネットに多数見られることは重々承知しています。ＡＩが活用されているものか否かにかかわらず、虚偽の画像や動画が拡散されるということは、誤った情報の流布による社会不安の増大に係る懸念もあり得ることから、使われていても使われていなくても極めて不適切な行為であるというふうに認識をしております。
ただ、御指摘のとおり、ＡＩの技術によって見抜きにくくなるというのは非常にまた一歩進んだ問題なので、こうした行為がより容易に行われてしまう状況も鑑みて、内閣府としては、ＡＩ法十三条に基づく適正性確保のための指針を年内目途で策定して、事業者等によるＡＩの適正な利用を確保するための取組を促していくとともに、こうした状況に係る実態把握に努めるなど、引き続き動向を注視して、必要に応じて更なる対策を考えていきたいと思っています。
44
岸真紀子(立憲)
昨日ですかね、新聞協会もこの基本計画に対して、報道コンテンツの利用状況などの整備を求めているところです。多くの方が納得できる基本計画にしていただくことを重ねてお願いします。
次に、既にＡＩ法に基づく調査研究として性的なディープフェイクを生成するＡＩの結果が出ており、関係省庁と既に連携しているとは思います。具体的にどのように対策をするのか、それともこれからなのかというところも含めて、大臣にお伺いいたします。
45小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
御指摘の調査研究、その調査の結果については本年九月に実施した第一回人工知能戦略本部において報告しまして、具体的には、ＡＩ技術の進歩により性的ディープフェイクが容易に生成可能な状況となっていること、そして、その拡散についての報道件数等が増加傾向にあり、今後も拡大が懸念されること、そして、引き続き関係省庁と連携して実態把握に努め、必要な対策を検討することが重要であることを報告しています。 本年八月には、こども家庭庁主導で、インターネットの利用を巡る青少年の保護の在り方に関する関係府省庁連絡会議が設置されて、児童ディープフェイクポルノについても関係省庁が連携…
46岸真紀子(立憲)
本当に、この生成ＡＩを使った動画というのがどんどんどんどん分かりづらくなってきているというところはすごく問題ですし、特に児童の関係は、性的なディープフェイクは本当にいち早く対策を取っていくことが必要ですので、しっかりと引き続きお願いいたします。 巧妙なこの偽動画についてなんですが、私は北海道出身なんですが、東北、北海道、北陸で命を脅かす存在になっている熊についても、この偽動画というのが頻繁になってきているという状況です。いろんな報道機関でも問題にしています。熊を高齢の女性の方が棒で追い払っているという偽動画とか、そういったことで、なかなか違いが分かりに…
47小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
御指摘のようなディープフェイク画像、動画がネットに多数見られることは重々承知しています。ＡＩが活用されているものか否かにかかわらず、虚偽の画像や動画が拡散されるということは、誤った情報の流布による社会不安の増大に係る懸念もあり得ることから、使われていても使われていなくても極めて不適切な行為であるというふうに認識をしております。
ただ、御指摘のとおり、ＡＩの技術によって見抜きにくくなるというのは非常にまた一歩進んだ問題なので、こうした行為がより容易に行われてしまう状況も鑑みて、内閣府としては、ＡＩ法十三条に基づく適正性確保のための指針を年内目途で策定して、事業者等によるＡＩの適正な利用を確保するための取組を促していくとともに、こうした状況に係る実態把握に努めるなど、引き続き動向を注視して、必要に応じて更なる対策を考えていきたいと思っています。
48岸真紀子(立憲)
本当に、表現の自由とか、ＡＩを使うととても面白いとは思うんです。でも、一方でそれによって逃げ遅れてしまったり危険なところに行ってしまうということも考えられるので、しっかりと対策、必要に応じた法律ということも必要になってくるかもしれませんので、引き続きよろしくお願いいたします。 ＡＩに関しては、本人が知られていない中で様々なところでデータが利活用されかねないという問題もあります。自分が知らないところで、統計データだからといってどんどんどんどんプロファイリングにも使われてしまいかねないという懸念を私自身は持っています。難しい課題ではありますが、利便性の追求…
49小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
ＡＩの開発、活用に当たっては、個人に関する情報が不適切に扱われることがないよう、個人情報保護法の遵守はもちろんのこと、プライバシーの保護について十分な配慮が必要だというふうに私も認識しています。 こうした観点については、先ほど来お話に出していただいている、年内を目途に策定を目指すＡＩの適正性確保に向けた指針にも記載するように現在議論を重ねているところでありまして、それを踏まえて事業者の取組を促していきたいと思っています。 いずれにしても、これも関係省庁と連携をしながら、プライバシー保護の観点を含めて、信頼してもらえるＡＩの実現に向けて取り組んでいきた…
50岸真紀子(立憲)
本当にこれからというところだと思いますので、引き続き、急ぎだけど、さっきも言ったように、でもいろんな方の声は聞いていただきたいというところです。 次に、行政機関における生成ＡＩサービスについて、松本大臣にお伺いします。 松本大臣は所信で、積極的にＡＩを利活用していく、ガバメントＡＩの構築を進めると触れていましたが、一方で懸念もあります。 例えば、法案作成のチェックは個人情報があるわけではないので、こういったものは職員の事務を補完する上でも積極的に進めていくことが必要です。一方、何かを審査し決定するものは、機械的にデータだけを見ていては判断を誤ること…