次に、インターネットをめぐる課題の中でも、生成ＡＩによるディープフェイクについて、工藤参考人に伺います。
韓国では、ディープフェイクを利用した選挙運動の禁止条項が、二〇二四年一月に施行された改正公職選挙法に盛り込まれた。ＡＩで生成され、本物と見分けが付きにくい音声や画像、映像コンテンツをディープフェイクと定義し、それらを選挙で使う行為を禁じているといいます。
昨日投票が行われた韓国の大統領選挙では、中央選挙管理委員会が公選法違反に当たる投稿の削除を積極的に進めることを確認しています。しかし、ディープフェイクを利用した選挙犯罪を捜査する警察などの機関は、削除要請しても、ＳＮＳを通じて更に拡散し、取締りが追い付かない状況から、全てのディープフェイクをチェックするのは困難と語っているとも報じられています。
生成ＡＩが進化し、人間の発声が僅か数秒でもあれば音声クローンをつくることができる時代では、切取り音声どころではなく、全くゼロからフェイクの演説が可能となっています。生成ＡＩがつくり出すディープフェイクには生成ＡＩによるファクトチェックが考えられますが、生成ＡＩ対生成ＡＩの際限のない攻防となりかねません。また、生成ＡＩの利用を制限する法的制限も考えられますが、法制を整えるスピードよりも生成ＡＩによるディープフェイクの開発スピードが速く、追い付くことが難しいのではないかとも考えます。
膨大かつ爆発的に拡散され、投票行動や投票結果に多大な影響を及ぼす可能性があり、しかもチェックを擦り抜ける技術の開発スピードが速い生成ＡＩによるディープフェイクなどから、自由な技術開発と利用は尊重しつつも、どのように民主主義の健全性を守ればよいのでしょうか。工藤参考人、お願いします。
12
佐藤正久(自民)
自民党の佐藤正久です。
山本参考人、古田参考人、工藤参考人の皆様には、大変貴重な御意見をいただきましたことを感謝申し上げます。
まず、国民投票に関わる有料広告規制並びに国民投票運動等の資金に関わる規制について申し上げますが、そもそも国民投票運動は原則自由であるべきことから、投票の公正確保のための最小限の規制を課すということを基本に考えるべきであります。
しかし、昨今、政治家の発言を切り抜いて文字などを載せて編集する切り抜き動画において、偽情報や誤情報が拡散される例も急増しており、選挙等への影響力は増していると言われています。
切り抜き動画の中には…
この発言のページ
13山山本健人北九州市立大学法学部准教授
御質問いただき、ありがとうございます。
切り抜き動画への対応ということになりますが、恐らく名誉毀損として構成できるかというところが法的にはポイントになるかと思います。
国民投票法の場合は、現在のところ虚偽事項公表罪みたいなものはありませんので、そこで何か虚偽というものを違法化するような指定をして、それに該当するものであれば、その観点から対策が可能というふうに思われます。
結局のところは、このような違法化がどういう視点でできるかどうか、例えば名誉毀損、切り抜きが名誉毀損に該当するのであれば、それに該当するというふうに判断できるかどうかで対策が可能にな…
この発言のページ
14古古田大輔日本ファクトチェックセンター編集長
それでは、ファクトチェックの観点から切り抜き動画への対策を申し上げたいと思います。
切り抜き動画を検証するときのパターンは決まっています。切り抜き動画をまず検索してみて、これ元ネタは何なのかということを探す。そうすると、元ネタ動画が見付かることがあります。そうすると、元ネタを調べてみて、例えば十分間話した中の十秒間だけを切り抜いて元々の意味と反対の発言にしていないかなどを調べるという手口です。なので、一番まず重要なのは元動画がちゃんとあるかです。これがないと、この切り抜きかどうかを調べることすらできないんですよね。
なので、私から皆さんに提案したいの…
この発言のページ
- （上の発言）
15佐藤正久(自民)
次に、インターネットをめぐる課題の中でも、生成ＡＩによるディープフェイクについて、工藤参考人に伺います。
韓国では、ディープフェイクを利用した選挙運動の禁止条項が、二〇二四年一月に施行された改正公職選挙法に盛り込まれた。ＡＩで生成され、本物と見分けが付きにくい音声や画像、映像コンテンツをディープフェイクと定義し、それらを選挙で使う行為を禁じているといいます。
昨日投票が行われた韓国の大統領選挙では、中央選挙管理委員会が公選法違反に当たる投稿の削除を積極的に進めることを確認しています。しかし、ディープフェイクを利用した選挙犯罪を捜査する警察などの機関は、削除要請しても、ＳＮＳを通じて更に拡散し、取締りが追い付かない状況から、全てのディープフェイクをチェックするのは困難と語っているとも報じられています。
生成ＡＩが進化し、人間の発声が僅か数秒でもあれば音声クローンをつくることができる時代では、切取り音声どころではなく、全くゼロからフェイクの演説が可能となっています。生成ＡＩがつくり出すディープフェイクには生成ＡＩによるファクトチェックが考えられますが、生成ＡＩ対生成ＡＩの際限のない攻防となりかねません。また、生成ＡＩの利用を制限する法的制限も考えられますが、法制を整えるスピードよりも生成ＡＩによるディープフェイクの開発スピードが速く、追い付くことが難しいのではないかとも考えます。
膨大かつ爆発的に拡散され、投票行動や投票結果に多大な影響を及ぼす可能性があり、しかもチェックを擦り抜ける技術の開発スピードが速い生成ＡＩによるディープフェイクなどから、自由な技術開発と利用は尊重しつつも、どのように民主主義の健全性を守ればよいのでしょうか。工藤参考人、お願いします。
16工工藤郁子大阪大学社会技術共創研究センター特任准教授
御質問ありがとうございます。
御指摘いただいたとおり、非常に難しい、イタチごっことなっている問題となっております。
御指摘いただいたとおり、ＡＩがディープフェイクを見抜くという技術も開発されているところですが、十分な開発速度になっているかどうか心もとなく、また法制度対応も十分にはできていない、あるいはキャッチアップできない可能性があります。
ただ、対策をしないよりはした方がいいということは確実に言えると思いますし、また、たとえイタチごっこだったり見逃したものがあるとしても、一般的な信頼がその対象、ターゲットとなった著名人の方にあるのであれば、その方…
この発言のページ
17佐藤正久(自民)
終わります。
この発言のページ
18
中曽根弘文(自民)
小沢雅仁君。
この発言のページ