最高裁の決定が一例しかないということで、キーワードとなるのが、実在する児童の姿態と評価できるかというのがポイントで、実在しない児童の姿態というものがわいせつ部分というと、わいせつ等と評価される部分というところに当たると非常にこれ難しいんじゃないかということで、例えば腕のところに特徴的なほくろとかあざみたいなものがあって、それは夏になると半袖とかタンクトップとか着ますから普通にクラスメートなんかも分かるというような状況で、その顔と腕が本物で、胸とかそういう局部の部分がディープフェイクであるというようなとき、こういった場合は、これも分からないということなんでしょうか。
石川大我 (立憲民主党)
2025年5月20日・第217回国会 参議院 内閣委員会 第15号（外部サイト、新しいタブで開きます） の 49 番目の発言（外部サイト、新しいタブで開きます）（全 208 発言）
前後のやりとり
46
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおりでありまして、ＡＩは二十四時間三百六十五日ずっと稼働し続けておりまして、そういった点から、寝ずに人間よりもまさに大量の偽情報を作り出すことも可能であるというふうに認識しております。 そのため、ＡＩやＳＮＳの利用者が、ＡＩやＳＮＳ上には常に偽情報が含まれていると、そういった認識を持つことが重要だというふうに思います。そして、分かりやすいコンテンツを作成して、全世代を対象にしっかりと広報を進めるなどの取組も必要だと考えております。 また、ＡＩの分野は技術変化が大変速く、かつ、委員から御指摘いただいた内容は、やはりその技術、倫理、法律、若者文…
47
石川大我(立憲)是非よろしくお願いしたいと思います。 話題を変えて、性的ディープフェイクについてお聞かせ願いたいというふうに思います。 衆議院の審議でも論点というふうになりました性的ディープフェイクについて伺います。まず法務省に伺いたいと思いますけれども、四月九日の衆議院内閣委員会では、このディープフェイクというのは、例えば顔を実在するお子さんの顔、そして体は生成ＡＩで作ったもので、それを拡散されてしまうと、そういった問題ですけれども、その内閣委員会、衆議院では、問題となっているその児童の姿態を、姿態というのが、実在する児童の姿態だと言える、姿態というのは姿という字…
いわゆる児童ポルノ禁止法上の児童ポルノは、犯罪構成要件の一部を成すものでございます。そのため、ある画像等を記録したものが児童ポルノに該当するか否かは犯罪の成否に関わる事柄でございまして、収集された証拠に基づいて個別に判断されるべき事柄であることから、お答えは差し控えさせていただきたいと存じますが、あくまで一般論として申し上げますと、児童ポルノ禁止法二条三項の児童ポルノについては最高裁判所の決定において次のように判示されております。 すなわち、写真、電磁的記録に係る記録媒体その他のものであって、二条三項各号に掲げる、同項というふうに判示ではなされています…
- （上の発言）
49
石川大我(立憲)最高裁の決定が一例しかないということで、キーワードとなるのが、実在する児童の姿態と評価できるかというのがポイントで、実在しない児童の姿態というものがわいせつ部分というと、わいせつ等と評価される部分というところに当たると非常にこれ難しいんじゃないかということで、例えば腕のところに特徴的なほくろとかあざみたいなものがあって、それは夏になると半袖とかタンクトップとか着ますから普通にクラスメートなんかも分かるというような状況で、その顔と腕が本物で、胸とかそういう局部の部分がディープフェイクであるというようなとき、こういった場合は、これも分からないということなんでしょうか。
今御指摘ございましたように、ディープフェイクポルノには様々な形態のものがあろうかと存じます。
それらが実際に児童ポルノ禁止法上のこの児童ポルノに該当するかどうかということは、個別の事案ごとに証拠に基づいて判断されるということになりますので、お答えは差し控えさせていただきたいと存じます。
51
石川大我(立憲)そうなんですよね。ですから、国民感情とすれば、顔がその方で、そして何かその人と分かるようなほくろなりあざなりとか特徴があったとして、そして裸にされてしまっているというようなところを見たときに、そういうものが出回っている、当然、当事者の被害者の方というのは非常に傷つくわけです。深い傷を、心に傷を負うわけですよね。 そうしたときに、それが明らかにこれは偽物だというふうに分かるという時代はもう終わって、それが本物なのか、それともディープフェイクなのか、生成ＡＩによるものなのかというのはもう分からない時代に来ているんじゃないかなと思います。当然、その被害者の女…
一般論として申し上げますと、捜査機関においては、個別の事案ごとに、刑法や児童ポルノ禁止法といった関係法令の内容及び趣旨、それから先ほど申し上げたような判例を踏まえて、刑事事件として取り上げるべきものがあれば、法と証拠に基づいて適切に対処するものと承知しております。
他方で、児童ポルノ禁止法については、議員立法により制定されたものでございまして、その後も必要に応じて議員立法により改正が重ねられてきたという事情がございます。
法務省としては、こうした制定、改正経緯を踏まえた対応が必要となるものと考えております。