2025年5月22日・第217回国会 衆議院 憲法審査会 第7号（外部サイト、新しいタブで開きます） の 11 番目の発言（外部サイト、新しいタブで開きます）（全 81 発言）
ありがとうございます。
生成ＡＩのリスクとしては、先ほど説明の中でも触れましたけれども、従来、偽情報、誤情報というのは、労働集約型で、ローテーションを組んで人間が発信をするということが行われていましたけれども、それが生成ＡＩの利用によって、全体的に自動化をする、しかも非常に人間らしい形での文面、あるいは画像、自然な動画、こういったものになってくる。
これに対しては、人間の力でそれを判別する、見破るというのはなかなか限界もございますので、技術的な進展、開発の促進、そういったものを検知する、そこにもＡＩを使っていって検知を進めていくというようなことも重要になってくるのではないかと考えています。
先ほど少し触れましたけれども、国内では、新エネルギー・産業技術総合開発機構のプログラムで、昨年から二〇二七年までの予定で偽情報の検知・評価・システム化に関する研究開発も行われており、要素技術についても総務省のファンディングで開発が取り組まれておりますので、そのような研究開発の進展に期待をしたいと考えております。
8
寺田稔(自民)
両先生におかれては、大変お忙しい中、当憲法審査会にお出ましを賜り、貴重な御意見を賜り、誠にありがとうございます。 それでは、限られた時間ですので、早速質疑の方を進めさせていただきます。 まず、鳥海先生にお伺いをさせていただきます。 先生は、今の意見陳述でも、ビジネスモデルとしてのアテンションエコノミーの問題点また影響について陳述をされました。事業者の経済的利益を最大化するアルゴリズムの構築によって、各ユーザーが自律的ではなく他律的に情報を摂取させられている、これは情報的健康を害するんだという御主張であり、まさしく私も賛同するものでございます。 し…
ありがとうございます。 アテンションエコノミーに対する、それに代わる新しいビジネスモデルというのを考えるというのは現状ではまだ少し見えていないところでありますので、直近で何かこれを全て解決するというのは難しいというふうに考えております。 ただ、先ほども申し上げて、御指摘もありましたとおり、非日常モードであるとか、今回はお話ししませんでしたけれども、例えば未成年者に対するモードであるとか、そういった対処すべき問題がある場面において何らかの規制をかけるということは可能ではないかと思いますので、そういった形で、単なるアテンションエコノミーではない形というの…
10寺田稔(自民)
ありがとうございます。 平先生に対してお伺いいたします。 先生、今の陳述にも、また先生の著書の生成ＡＩと認知戦の中でも、生成ＡＩの問題について深く触れておられます。生成ＡＩが、大規模化、低コスト化、巧妙化、迅速化の四つの点について大変大きな影響を及ぼしているんだということで、そのインパクトは、情報の真贋、真偽の境界を非常に曖昧にして、その判別を大変困難にしています。そのことは、偽・誤情報を本物だと信じてしまうという現象に加えて、先生も触れられたとおり、本来本物なのに、実はそれが偽物だと誤認をさせる、いわゆるうそつきの分け前、ライアーズディビデンドを引…
ありがとうございます。
生成ＡＩのリスクとしては、先ほど説明の中でも触れましたけれども、従来、偽情報、誤情報というのは、労働集約型で、ローテーションを組んで人間が発信をするということが行われていましたけれども、それが生成ＡＩの利用によって、全体的に自動化をする、しかも非常に人間らしい形での文面、あるいは画像、自然な動画、こういったものになってくる。
これに対しては、人間の力でそれを判別する、見破るというのはなかなか限界もございますので、技術的な進展、開発の促進、そういったものを検知する、そこにもＡＩを使っていって検知を進めていくというようなことも重要になってくるのではないかと考えています。
先ほど少し触れましたけれども、国内では、新エネルギー・産業技術総合開発機構のプログラムで、昨年から二〇二七年までの予定で偽情報の検知・評価・システム化に関する研究開発も行われており、要素技術についても総務省のファンディングで開発が取り組まれておりますので、そのような研究開発の進展に期待をしたいと考えております。
12寺田稔(自民)
ありがとうございます。 それでは次に、かつてこの場でＦＩＪの楊井参考人にお越しをいただき、これはファクトチェック・イニシアティブというファクトチェック機関の方でございます。ファクトチェックの活性化が望ましいんだけれども、日本では人材あるいは資金が非常に不足をしていて、十分なファクトチェック体制あるいはファクトチェック機関の整備が進んでいないという問題点を指摘になられました。 ではどういうふうにすれば、日本で、ファクトチェック団体あるいは機関、またファクトチェック体制が整っていくようになるのでしょうか。もちろん政府の直接介入はしないという前提の下で。こ…
非常に難しい問題ではあると思いますけれども、やはり一つはビジネス化をきちんと行うということではないかと思います。
現在は、ファクトチェック団体というのは恐らく資金提供を受けて行っているのではないかと思いますけれども、一定のファクトチェックを行うことによってのビジネスというのが成り立つ、新聞社等が海外でやっているのは、そういったビジネスの中でファクトチェックを行うことが企業のインセンティブになっているということがあるために行っているんだと思いますけれども、そういったような形というのが取れることは一定必要ではないかなというふうに思います。
社会全体のファクトチェック機能を強化するためには、何らかの公的な支援も選択肢には入ってくるんだろうと思います。ただし、その支援は、ファクトチェック団体が最も重視すべき非党派性、独立性を損なわない形で、具体的な支援方法としては、例えば、特定の団体を直接的に財政支援するのではなくて、偽情報対策のリテラシー啓発などプロジェクトベースの公募型のファンディング、あるいはガバナンス構造を持つ第三者機関を通じた支援など、こういった形で、ファクトチェック団体の独立性、非党派性を損なわない支援策というものを考えていく必要はあるのかなと思っております。