ポリグル

鳥海不二夫東京大学大学院工学系研究科教授

2025年5月22日・第217回国会 衆議院 憲法審査会 第7号（外部サイト、新しいタブで開きます） の 3 番目の発言（外部サイト、新しいタブで開きます）（全 81 発言）

東京大学の鳥海です。よろしくお願いいたします。

本日は、憲法審査会という非常に重要な場にお呼びいただきまして、ありがとうございます。

それでは、私の方から、本日は、デジタル情報空間における偽・誤情報の拡散ということにつきまして、データ分析の観点から、我々が持っている知見についてお話しさせていただきたいと思います。

なお、私は、計算社会科学という分野の研究を行っておりますので、そのほかの部分につきましてはなかなか、政治等、法律等については専門ではないので、その辺に関しては余りお答えできない部分もございますけれども、御了承いただければと思います。

それでは、資料の方を御覧いただければと思います。

まずは、「偽誤情報の拡散ルート」というページがございますので、そちらを御覧いただければと思います。

現在、様々な調査によって、偽・誤情報がどのように国民に伝わっているのかというところを調査されておりますけれども、調査の結果から、偽・誤情報の受信は主にＳＮＳ、ネットニュース、動画共有サービスといったところが多いということが分かっております。

発信する側は対面等での発信が多いということが分かっておりますが、対面は家族等に個人的に伝わるだけなのに対して、ＳＮＳ上に拡散されたものというのは大量の人に伝わるという意味で影響力が大きいということが現在分かっております。

次のページに行きまして、「偽誤情報の拡散の性質」というところについての、サイエンスという論文誌に掲載されている論文のデータを少し御紹介したいと思います。

こちらは、偽・誤情報といったものと正しい情報といったものがインターネット上でどのように拡散しているのかというものを調査したものになりますが、ここで、偽・誤情報の方は、深さ、どのぐらいの人まで何ステップで伝わっていくのかといったことであったり、その規模、幅、速度あるいは到達人数等の観点で、そういった偽・誤情報の方が正しい情報よりも広がりやすいということが分かっております。

偽・誤情報というのは、偽物の情報ですので自由につくれるということから、より人々の心に訴求するような内容を多く入れることができるということで、人々の関心を得やすいというのが大きな要因ではないかというふうに考えられております。

続きまして、「偽誤情報の拡散の背景要因」というところを少しお話しさせていただきたいと思います。

現在の情報空間というのは、通常の、これまでのいわゆるオールドメディアと言われるマスメディアのほかに、ソーシャルメディアであるとかネットメディアと呼ばれるようなものが複雑に絡み合って存在しているわけですけれども、そういったものが存在することによって、これまでになかった新しい社会現象というのが生まれております。

その中で、キーワードとなるものが三つございます。

一つが、アテンションエコノミーと呼ばれるもので、関心経済と日本語では言いますけれども、これは、ネット空間の情報というのが広告収入モデルによって人々に伝えられているというのが大きな要因で起きている、現在のネット空間を支配している経済原理ということになります。

広告収入のモデルによって我々は情報を見ているのですけれども、それによって、人々の関心を集める、特定のところにアクセスが増えることによって経営している人に収入が入るというようなシステムに現在なっております。そのため、我々の関心をいかに得るのかということが経済的なインセンティブに直結しているというのがこのアテンションエコノミーの本質ということになります。

ただ、これによって、関心さえ得られれば質を問わない情報提供というのを求めてしまうということがございます。これがアテンションエコノミーという一つ目のキーワード。

二つ目が、エコーチェンバーと呼ばれるものになります。

人々は同じような価値観の意見を好むために、同じような意見を持った人たちが集まりがちであるというところで、特に現在ＳＮＳが様々なところで利用されておりますけれども、ＳＮＳでは同じ価値観を持つユーザーが容易に発見できることから、同じ人たちが集まりがちであるということになります。そのため、同一の価値観を持つコミュニティーが形成されるということが起きまして、これをエコーチェンバーというふうに呼んでおります。

エコーチェンバーの中にいますと、視界に入る範囲では皆同じ意見を持っており、多様な意見に接する機会を喪失するというおそれがあると言われております。

三つ目が、フィルターバブルと言われる現象です。

こちらは、エコーチェンバーと類似してはいるんですけれども、同じように、多様な情報に接する機会を喪失するものではありますが、その要因が、推薦システムなどのアルゴリズムによってつくられる、ＡＩによって、我々が情報に接触するところが制限されてしまうといったところがございます。つまり、ＡＩによって、我々が見る情報に偏りが生じてしまうという現象ですね。これをフィルターバブルというふうに呼びます。

これら三つのものが要因で偽・誤情報というのが拡散しがちであるということが言われております。

一つ目、アテンションエコノミーについてもう少し詳しく説明させていただきます。

「アテンションエコノミーと情報提供」というページでございますけれども、右側にグラフを描いておりますけれども、こちらはユーチューブの動画の投稿数と再生数というふうに書いております。

右側のグラフの上側が、とある選挙において候補者Ａを支持するような動画の投稿数を示したものになりますけれども、再生回数が増えると動画の投稿数が増えているということがこちらから見て取れます。下側は、この候補者に対して支持しない動画の再生数と投稿数なんですけれども、再生数が伸びないと投稿数が増えないということが実際に起きていました。こちらは必ずしも偽・誤情報の話ではないんですけれども、再生数が増えると動画の投稿数が増える、これはまさにアテンションエコノミーの影響ということが言えるかなと思います。

この際、特定の内容であれば偽・誤情報であっても再生数が伸びるということであれば、そちらを投稿するインセンティブがここに存在してしまうということを示しているかなと思います。つまり、アテンションを獲得できる情報が大量に投稿される、これが偽・誤情報が広まる要因になり得るということになるかなと考えられます。

このとき、動画投稿サイト等の問題点といたしまして、信頼の非対称性というのがございます。マスメディア等では、信頼確保のために十分に裏づけを取った情報というのを発信しているわけですけれども、そのためには非常に大きなコストがかかるということで、多くの情報を提供できない。一方で、動画サイト等では、余り正しくないかもしれない情報であってもそれほど気にせずに投稿することができるために、しかも大量の人が投稿することができるということで、誤った情報であっても大量に投稿されてしまうということが生じ得る。わざわざ投稿するのは金銭的な収入のためであるということを考えますと、アテンションエコノミーは大きな影響を与えていると言うことができるかと思います。

次のページに行きまして、こちらはエコーチェンバーの話となります。

このエコーチェンバーという現象が発生しますと、我々は特定のコミュニティーの中に入ってしまう可能性があるんですけれども、ここで、偽・誤情報をよく拡散する人たちのコミュニティーというのが実際に存在していることが分かっておりまして、かつ、そのコミュニティーにおいては、特定の偽・誤情報だけではなくて、それ以外の偽・誤情報も発信しがちであるということが分かっております。

右側のグラフは、ワクチンに関係するような情報に関する発信者がそのほかの偽・誤情報に対してどのような態度を取っていたのかというのを示しているものですけれども、ワクチンに関する偽・誤情報、ここで偽・誤情報と言っているものは、国や公的機関が発信している正しいと言われている情報ではないものを偽・誤情報としておりますけれども、そういったものを発信している方というのは、それ以外の情報に関しても偽・誤情報を発信しがちであるということが分かっております。

こういったコミュニティーにいることによって、偽・誤情報の連鎖にのまれる可能性というのがあります。訂正情報に接する機会がない、訂正情報との接触を避けるようになる、あるいは、確証バイアスと呼ばれるものが人間にはありますけれども、信じている情報と矛盾しない情報を信じやすいということで、そういう情報がたくさん来ることによってより信じるようになったり、そのコミュニティーの中で信じられているものを外部から否定されると、自分が好きなものを否定されると否定してきたものを拒否するという認知的均衡と呼ばれる人間のバイアスが働いて、より強固に反対するようになってしまうといったような可能性が考えられます。

そして、次のページですけれども、こういったコミュニティーに入った場合、この偽・誤情報コミュニティーからの脱出は非常に困難であるということが分かっています。

こちらは先ほどと同じワクチン関連情報のコミュニティーの方たちについて分析したものですけれども、二〇二〇年の一月に偽・誤情報発信率の高いグループに所属していた方は、二〇二一年の十二月にも同じグループに存在し続けている、九五％は変化がないということが分かっております。この間に様々なことがあったにもかかわらず、一度こういったコミュニティーに入ると、なかなか出づらい。これは様々なところで、家族でさえこういったものは説得が難しいということが分かっておりますので、こういったコミュニティーというのは一度入るともう出ることはできないというふうに考えた方がいいかなと。

一度落ちた人を救うためには非常に高いコストがかかるため、こういったコミュニティーにそもそも入らないようにするためのコストをかける必要があるのではないかというふうに現在考えられております。

次のページに行きまして、こちらはフィルターバブルのお話となります。

こちらは、フィルターバブルというものが情報を偏らせるよというお話なんですけれども、この右上のグラフは、動画共有サイトで特定の動画を見るとどのような動画が推薦されるのかというのを示したグラフになりますが、とある何らかのカテゴリーの動画を見ると、推薦される動画のほとんどがそのカテゴリーになるということがこちらの調査から分かっております。

さらに、こういった偏った情報ばかりが動画サイト等で提供されることによって、これが特定の、例えば先ほど申し上げたような偽・誤情報のコミュニティーへの入口になってしまうというような可能性があるということが分かっております。

我々の調査でも、不誠実な陰謀論者というふうに呼んでいますけれども、初めに申し上げたアテンションエコノミーのために、陰謀論のようなものをお金もうけのために投稿している方たちというのが一定数いるんですけれども、そういった動画を楽しんで見ているうちに、本当の陰謀論を信じている方たちの動画まで到達してしまって、そちらのコミュニティーにのまれてしまうことがあるということで、フィルターバブルというのが偽・誤情報の拡散に大きな影響を与えているということが分かっております。

では、続きまして、偽・誤情報に対して訂正をするというお話と、その限界についてお話ししたいと思います。

まず、偽・誤情報と訂正情報ということを考えますと、偽・誤情報に対しては、やはり訂正をするということが最も重要であるということは分かっております。

その訂正情報をどこから見ているのかというのに関しましては、調査の結果から、やはり旧来のメディア、テレビや新聞というのが正しい情報の主な情報源になっているということが分かっております。これは、必ずしもテレビや新聞を見るということではなく、こういったところがネットに発信しているものを見るということも多々含まれてはおりますけれども、こういった信頼性の高いメディアというところが重要な情報源となっており、特に日本はメディアの信頼性が諸外国に比べると高いということが調査で分かっております。ニュースを信頼する方が四三％、信頼しないという方は一六％しかいないということで、現在でもマスメディアへの信頼は高いので、これを維持するというのは、訂正情報を流す上で非常に重要なことかなというふうに考えられております。

また、日本特有の条件でいいますと、日本においては、先ほど偽・誤情報の方が拡散が早いというお話をしましたけれども、特定のジャンルの話に限るのかもしれませんけれども、必ずしも偽・誤情報の方が拡散が早いというわけではないということも分かっておりまして、訂正情報が比較的早く日本では拡散されているという事実もございますので、やはりファクトチェックというのは一定の効果があるということが考えられます。

ただ一方で、ファクトチェックがあれば全ての問題が解決するかというと、そうではないということも分かっておりまして、例えば、訂正情報がかえって社会的混乱をもたらすという事例も存在しました。

これは、具体例としましては、二〇二〇年、新型コロナが始まった頃、トイレットペーパーが品切れになるというようなデマが出回ったことがあるんですけれども、その際に、すぐに訂正情報が拡散されたにもかかわらず、トイレットペーパーの品切れが各所で起きたという事実がございます。これは、訂正情報がかえって人々の行動をコントロールしてしまったというところがございます。

その要因としましては、例えば、多元的無知と呼ばれる人間の心理的バイアス、つまり、自分は正しい情報を知っているけれどもほかの人は知らないに違いないと思うと、知らない人が多数の場合に、正しい行動というのを取ってしまうというようなことがあり得るであったり、トイレットペーパーの案件は多元的無知と呼ばれるものがあったのかなと考えられますけれども、それ以外の場面でも、バックファイア効果、例えば、自分の考えを否定されると、かえって強固にそれを信じてしまうであるとか、個人の認知要素間の整合性を保とうとする、要は、信じている情報を偽・誤情報だとするメディアにかえって不信感を持ってしまうというようなことが起きてしまうということが分かっております。

次のページに行きまして、またもう一つ、情報訂正の限界というものに時間的限界というのがございます。

訂正情報というのは一定の効果があるということは分かっておりまして、こちらは新型コロナのワクチンに関する偽・誤情報に関するお話ですけれども、右側にグラフを示しておりますが、これは、ソーシャルメディアのＸ上、当時はツイッターですね、に流れた偽・誤情報が全体の関連する情報の中に占める割合を示したグラフとなります。二〇二一年頃から新型コロナワクチンに関する情報がたくさん出始めまして、その中に一定数の偽・誤情報があったんですけれども、ある程度、訂正情報を国等が出すことによって訂正ができたということが分かっております。

ただ一方で、その後、ワクチンに関する話題が低下すると、皆さんが興味をなくしてくると、反対する側の方たちだけが、自分たちの意見が通っていないので情報を発信し続けるということが起きまして、現時点では、反対派の情報、ワクチンに関する偽・誤情報の方がより多くネット上には拡散しているという状況になっております。ですので、今からワクチンに関して情報を調べると、多くの場合、誤った情報に接してしまう可能性があるということが分かっております。したがって、コストをかけて長期の訂正というのは行っていく必要がある。偽・誤情報の根絶は極めて困難であると言うことができると思います。

では、こういった偽・誤情報に対する包括的な対策として何が必要なのかというところを考えていきたいと思います。

大きくは、ユーザーリテラシーを向上させること、また、ユーザーをきちんと支援すること、そして、プラットフォーマーへの規制を行うことという三点が考えられるかと思います。

では、リテラシー向上の方に行きたいと思います。

リテラシーの向上という観点から考えますと、現在のリテラシー状況がどうかということを考えますと、右上にグラフを描いておりますけれども、フェイクニュース、偽・誤情報といったものに関しては認知率は高いんですけれども、先ほど御説明しました例えばアテンションエコノミー等の認知率というのは二〇％を下回っているということで、現在、そこまでリテラシーが高いとは言えない。ちなみに、他国での調査ですと、アテンションエコノミー等の認知率は五〇％程度あるということで、日本は極めて低いと言えるかなと思います。一方で、不安は感じているというところではあります。

では、プラットフォーマーが偽・誤情報の対応ができるのかということに関しましては、メタ社が第三者ファクトチェックプログラムに関して方針を転向するなどのこともございまして、こちらに全てをお任せするのはかなり難しい状況ということで、やはり、情報リテラシー、メディアリテラシーというのをきちんと考えていく必要はあるだろうと考えられます。

ただ一方で、こちらもやはり限界がございまして、人間は理性的な行動を取るのが苦手というふうに言われております。人間の考えには、二重過程理論と呼ばれる行動経済学の理論によると、本能であるシステム１と、理性であるシステム２という二つのシステムがございますが、基本的には本能で動いてしまうために、理性的に一々ファクトチェックをするというのはなかなか難しいということで、事実、ファクトチェックを行ったことがない方が四七％、そもそもファクトチェックのやり方を知らない方が六四％ということが分かっております。したがって、ファクトチェックができないという状況下で我々は支援をする必要があるのではないかというふうに考えられておりまして、ネット上の情報に信頼性を確認できる仕組みがあるとよいと考えている方が六五％いるということになります。

そこで、支援が必要ということで、次のページ。

「情報的健康とその支援」ということで、情報的健康というのは、私と慶応義塾大学の山本龍彦先生、憲法学者と提案している考え方でありますけれども、肉体的健康を支援するということは、現在、食育、食品表示法、健康増進法等で様々行われておりますし、フードテック等のビジネスもあるので、肉体的健康のためには我々はかなり支援をされているということになりますが、同じように、情報のためにも、よりよい情報を得るために何か支援をする必要があるのではないかというふうに考えられます。

一つは、例えば、我々が何か物を買うときにカロリー表示を見たりアレルゲンを確認したりするということと同じように、何か情報を見るときには、その情報に関して何らかの付加情報がついているような状態になるとそれが支援になるのではないかというメタ情報の可視化というものと、健康診断や人間ドックを受けるように、現在の自分の情報空間がどのようなものか、自分の情報に対する態度がどのようなものかを理解する情報ドックと呼ばれるものを実現するといったことが考えられ、そういったものを支援するということがあり得るのではないかと考えられております。

また、プラットフォーマーへの規制という観点に関しましては、プラットフォーマーへの規制は様々なものがあると思いますけれども、偽・誤情報対策は、検閲するというのはなかなか難しいので、ユーザーの判断材料を提供するといったところが重要ではないかというふうに考えられております。例えば、訂正情報を提示する、エンゲージメント制御をする、リテラシーを支援するといった形が考えられるかなと考えられております。

また、場合によっては、選挙や災害時などは、そのときだけでもプラットフォーマー側に非日常モードというのを要請しまして、より偽・誤情報が広がりづらいようにするということが必要かなと思います。

また、最後に、最も重要なポイントとして、データ、情報の提供を促進するということが考えられるかなというふうに考えられます。現在、多くのプラットフォーマーがデータ等を自分たちのところに、手元に確保しているという現状がございますので、そういったところを開放することによって様々なビジネス等も展開されると期待できますので、その辺をプラットフォーマーに期待するということが重要かと思います。

最後に、データ分析の重要性ということで、データ分析を行うことによって様々な偽・誤情報対策ということが見えてくるというのもございますので、こちらも、例えば、偽・誤情報の訂正の一番よい出し方というものの一つとして、偽・誤情報を見たユーザーだけが改めて訂正をするといったことが最も効率的であるということが分かったり、あるいは、災害時の偽・誤情報の多くが実は被災地以外で拡散しているということが分かったりということがございますので、プラットフォーマーにデータの提供を依頼するというのが必要かなと思います。

最後になりますけれども、我々自身、国民一人一人もそうですけれども、社会全体としても、様々な偽・誤情報に関しての知識を得る、知るということ自体が最大の対策になるのではないかと考えております。

以上をもちまして、私の方からの報告を終わりたいと思います。ありがとうございました。（拍手）

前後のやりとり

7の発言を見る