ありがとうございます。丁寧な御答弁、ありがとうございます。
続いて、ＡＩ開発等における推測、復元リスクと技術的エビデンスについてお伺いしたいと思います。
これも同じように、先週の本会議において松本大臣から、統計作成等特例について復元防止措置が求められることや、個人情報保護法において違法又は不当に利用することが禁止されていることによって、個人の権利利益は十分に保護されるとの答弁がございました。
しかしながら、近年は複数の属性の束を組み合わせた個人像を推定する高度なプロファイリング技術が商用レベルで普及しております。匿名化されたデータであっても再識別のリスクがあると指摘されております。
例えばですが、購買履歴そして位置情報というデータは、本来、それぞれは単体では個人の政治的思想まで分かる性質のデータではございません。本来、独立した行動、移動情報にすぎません。しかしながら、現在の高度なデータ分析やＡＩによるプロファイリング技術は、こうした一見無関係なデータを組み合わせることで個人の政治的傾向まで推定できるという段階に達しております。例えば、特定の書籍の購入、特定施設周辺への訪問頻度といった行動パターンが重なると、統計的に特定の政治的立場を持つ可能性が高いと判断されることもあり得るかと思います。つまり、匿名的なデータであっても、複数の属性を束ねて分析することで、思想、信条といったセンシティブな情報まで推測されてしまうリスクが現実に存在するという点が大きな懸念となっております。
こうした状況下で、政府が挙げる措置を講ずればＡＩモデル等から再識別や権利侵害が起こり得ないと断言できるだけの技術的根拠が本当に存在するのか、その科学的、実証的な裏付けを明確に示すようお伺いいたします。
54
石垣のりこ(立憲)
いや、だから、あくまでも作成の段階で、できたものを、更に一応いただいた情報を読み込ませるという話じゃないです。作成の段階で、既存のものも含めた、今言ったチャットＧＰＴだ、Ｇｅｍｉｎｉだ、ほかにもいろいろありますけれども、を使うと。そこに読み込ませるということも含めて、私たちはこういう生成ＡＩを作りたいんです、生成というかＡＩを作りたいんですということを基に、本人の了解を取らないで要配慮個人情報も含むそういう情報をそのまま使うことができるというのが今回の法案だというところで。
ちょっと最後まで質問は行きませんでしたけれども、ここまでの話の中でも、皆さんに…
この発言のページ
55平平戸航太(国民)
国民民主党・新緑風会の平戸航太です。
先週の金曜日、六月十二日、本会議で、両法案、デジタル行政推進法、個人情報保護法の改正案について質問をさせていただきました。引き続き、本日のデジタルＡＩ特別委員会でも質問をさせていただきます。よろしくお願いいたします。
本会議でも申し上げたとおり、少し私のバックグラウンドといいますか、思いをお伝えしたいと思います。私はこれまで、電機産業において技術者として、がん治療装置、医療機器や鉄道のシステムといった私たちの命や生活に関わるシステムの開発に携わっておりました。
医療機器でも鉄道のシステムでも、現場では既に高度な…
この発言のページ
56佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
まず、統計作成の特例は、提供を受けた個人情報等を用いて開発するという局面に着目しておりますので、一番最初に請求する対象は、大臣から御答弁したように、学習データで持ち続けているものになろうかと思います。
一方で、委員は恐らく開発されるＡＩのアウトプットが個人データとなる場合を念頭にお尋ねになっておられるというふうに考えておりますが、前提といたしまして、そのような、何と申しますか、元々特例の対象になりますのは、特定の個人との対応関係が排斥されたＡＩモデルの作成に限定しておりますので、学習した個人データを、何と申しますか、繰り返しアウ…
この発言のページ
- （上の発言）
57平平戸航太(国民)
ありがとうございます。丁寧な御答弁、ありがとうございます。
続いて、ＡＩ開発等における推測、復元リスクと技術的エビデンスについてお伺いしたいと思います。
これも同じように、先週の本会議において松本大臣から、統計作成等特例について復元防止措置が求められることや、個人情報保護法において違法又は不当に利用することが禁止されていることによって、個人の権利利益は十分に保護されるとの答弁がございました。
しかしながら、近年は複数の属性の束を組み合わせた個人像を推定する高度なプロファイリング技術が商用レベルで普及しております。匿名化されたデータであっても再識別のリスクがあると指摘されております。
例えばですが、購買履歴そして位置情報というデータは、本来、それぞれは単体では個人の政治的思想まで分かる性質のデータではございません。本来、独立した行動、移動情報にすぎません。しかしながら、現在の高度なデータ分析やＡＩによるプロファイリング技術は、こうした一見無関係なデータを組み合わせることで個人の政治的傾向まで推定できるという段階に達しております。例えば、特定の書籍の購入、特定施設周辺への訪問頻度といった行動パターンが重なると、統計的に特定の政治的立場を持つ可能性が高いと判断されることもあり得るかと思います。つまり、匿名的なデータであっても、複数の属性を束ねて分析することで、思想、信条といったセンシティブな情報まで推測されてしまうリスクが現実に存在するという点が大きな懸念となっております。
こうした状況下で、政府が挙げる措置を講ずればＡＩモデル等から再識別や権利侵害が起こり得ないと断言できるだけの技術的根拠が本当に存在するのか、その科学的、実証的な裏付けを明確に示すようお伺いいたします。
58佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
科学技術の世界は、やはり確率の問題に最終的には還元される限界がございますので、一〇〇％ということを理論上保証するようなものというのは、正直申しまして、ある前提で制度設計はできないものだというふうに思います。ただ、制度設計に当たりましては、技術的に合理的に可能なものを最大限導入するということで、いわゆる徹底的にリスクを低減させるための最高位の技術ということを求めていくことになろうかと思います。
また、仮にＡＩモデルから学習データを復元させようというようなものが出てきた場合には、そうやって個人情報を引き出した場合には現行の不正取得に…
この発言のページ
59平平戸航太(国民)
ありがとうございます。
私も技術者でした。数字というものを非常に大切にしておりました。いろんな分析、解析、計算等を行っておりましたが、やはり一〇〇％はないことは理解しております。
ただ、今の答弁と先ほどの質問の答弁でも、その前提が私は古いのではないかと思っております。現在の高度なデータ分析、ＡＩによるプロファイリング技術の実態に今の政府側の認識が追い付いていないのではないかと思います。複数データの組合せによってセンシティブな情報が推測され得るリスクは現に存在しております。この再識別の可能性を政府としても正面からまずは認識していただきたいと思います。
…
この発言のページ
60佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
個人情報保護委員会は、分野を問わず、個人情報を取り扱う民間事業者、あるいは営利、非営利問わず民間事業、さらには行政機関、地方自治体など、幅広い主体を規制対象としてございまして、偏りのない監視、監督を行う機関として高い独立性を有する必要がございます。
国際的にも、個人情報やプライバシーの保護を任務とする行政機関は、他の行政機関からも独立した機関ということが潮流でございます。したがいまして、こういった機関として日本の法制で位置付けるとなりますと、内閣府設置法四十九条三項の規定に基づく外局たる三条委員会として設置し、法律上も委員会の委…
この発言のページ