今、教育現場では、先生たちに大きな負担が掛かっています。ＩＴの教育ですとか、またいじめの問題ですとか、また発達などの障害があるお子さんたちへの対応とか、大変負担が掛かっているのを減らさなければならないという方向になってきている中で、教育現場でこの生成ＡＩがもたらすリスクを防止するために、先生方の過度の負担にならないようにしなければならないというふうに思います。内閣府によってしっかりと性的ディープフェイクの対策を行うべきであるというふうに考えます。
生成ＡＩによる性的ディープフェイクの被害者を生まないようにするということが必要でございます。ＡＩで生成された私事性的画像や児童ポルノの判断に関する課題について、内閣府の認識を伺いたいというふうに思います。
先ほど来質問させていただいているように、このＡＩで生成されたものがリベンジポルノや児童ポルノに当たるのかどうかという判断ですとか、またそれが権利侵害に当たるのかという判断ですとか、あるいは子供を始めとする国民にそういった問題を周知をして被害を防いでいく、被害者にも加害者にもならせないように国民に対して周知をしていくということ、様々な課題があるというふうに思っております。こうした課題についてどのように内閣府として認識をされているのか、伺いたいと思います。
77檜檜垣重臣警察庁生活安全局長
お答えいたします。
警察におきましては、例えば男子中学生が生成ＡＩを使用して同級生女子生徒の着衣写真を裸の画像に加工しＳＮＳで複数の同級生に拡散した事案、これは名誉毀損罪を適用しておりますが、そうしたことで検挙するなどしている例を把握しております。
このような加工した性的画像を悪用する事案につきましては、被害者に寄り添いつつ、法と証拠に基づき適切に対処することはもとより、関係機関と連携してこのような事案の未然防止を図ってまいりたいと考えております。
この発言のページ
78
竹谷とし子(公明)
名誉毀損に当たるとして検挙した事例があるということでございました。レクをさせていただいたときには、あると思われますがということでありましたが、調べていただいて御回答いただいたことに感謝をしたいと思います。
このように、しっかり調査をしていくということが重要であると思いますし、氷山の一角である、検挙に至っていない、むしろ子供たちが抱え込んでいて警察にも相談していないということも水面下ではたくさんある可能性があるというふうに思いますので、調査が必要であるというふうに思います。
次に、学校教育に関して伺いたいと思います。
生成ＡＩによる児童ポルノの作成、…
この発言のページ
79日日向信和文部科学省大臣官房学習基盤審議官
お答えいたします。
子供たちが児童ポルノの作成、所持を始めとした犯罪に巻き込まれないようにすることは重要と考えております。
学校現場における生成ＡＩの利活用については、昨年十二月にガイドラインを改訂しており、学校現場において押さえておくべきポイントとして、関係法令を遵守した利用を前提として生成ＡＩサービスの適正な利活用を行うことが重要としております。さらに、同ガイドラインにおいては、生成ＡＩの登場を踏まえて、犯罪被害を含む危険の回避など、情報を正しく安全に利用できるよう、情報モラルに関する教育を一層充実することとしております。
文部科学省としては、…
この発言のページ
- （上の発言）
80竹谷とし子(公明)
今、教育現場では、先生たちに大きな負担が掛かっています。ＩＴの教育ですとか、またいじめの問題ですとか、また発達などの障害があるお子さんたちへの対応とか、大変負担が掛かっているのを減らさなければならないという方向になってきている中で、教育現場でこの生成ＡＩがもたらすリスクを防止するために、先生方の過度の負担にならないようにしなければならないというふうに思います。内閣府によってしっかりと性的ディープフェイクの対策を行うべきであるというふうに考えます。
生成ＡＩによる性的ディープフェイクの被害者を生まないようにするということが必要でございます。ＡＩで生成された私事性的画像や児童ポルノの判断に関する課題について、内閣府の認識を伺いたいというふうに思います。
先ほど来質問させていただいているように、このＡＩで生成されたものがリベンジポルノや児童ポルノに当たるのかどうかという判断ですとか、またそれが権利侵害に当たるのかという判断ですとか、あるいは子供を始めとする国民にそういった問題を周知をして被害を防いでいく、被害者にも加害者にもならせないように国民に対して周知をしていくということ、様々な課題があるというふうに思っております。こうした課題についてどのように内閣府として認識をされているのか、伺いたいと思います。
81徳徳増伸二内閣府科学技術・イノベーション推進事務局審議官
お答えいたします。
今し方各省からの答弁にあったとおり、対象となるか否かはケース・バイ・ケースであり、証拠等に基づき個別に判断されるべき事柄であると考える次第であります。その際、特定の画像が法律に抵触するものであるかどうかについて判断するに当たっては、個別の事案ごとに関係する法令の要件を満たしているかなどについてよく精査をし、慎重にかつしっかりと検討を行う必要があると認識しております。
なお、ディープフェイクに関して、本法案においては、第十三条に基づき整備をする指針において、ＡＩ開発者が違法なディープフェイクなどの不適切な出力の抑制等の取組を努めるこ…
この発言のページ
82竹谷とし子(公明)
大臣に伺いたいと思います。
当法案には、生成ＡＩによる児童ポルノ所持の防止、また生成ＡＩによる児童ポルノや私事性的画像提供の防止ができるように対策し得る措置が盛り込まれているかどうか、伺いたいと思います。
また、ＡＩによる性的ディープフェイク、先ほど来質問させていただいておりますように、被害者も加害者も生まないようにすることが必要でございます。法施行後直ちに調査分析し、対策のための立法措置も含めて必要な措置を迅速に行っていただきたいと思います。どのような措置を行うことを想定しているか、大臣に伺います。
この発言のページ
83
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
まず一点目の、法案に児童ポルノ所持等の防止対策措置が盛り込まれているかどうかについてでありますが、生成ＡＩを悪用しましたいわゆる性的ディープフェイクの問題につきましては、個別の事案ごとに、刑法やいわゆる児童ポルノ禁止法、リベンジポルノ防止法等の既存の法令にのっとり適切に対処されていくべきものと考えております。また、既存法による対処が難しい場合であって国民の権利利益が侵害されるおそれのある事案につきましては、法案第十六条に基づきます調査を行い、指導、助言、情報提供等を行うことが想定されております。
また、措置についてでありますが、法案第…
この発言のページ