お答え申し上げます。
まず、統計作成の特例は、提供を受けた個人情報等を用いて開発するという局面に着目しておりますので、一番最初に請求する対象は、大臣から御答弁したように、学習データで持ち続けているものになろうかと思います。
一方で、委員は恐らく開発されるＡＩのアウトプットが個人データとなる場合を念頭にお尋ねになっておられるというふうに考えておりますが、前提といたしまして、そのような、何と申しますか、元々特例の対象になりますのは、特定の個人との対応関係が排斥されたＡＩモデルの作成に限定しておりますので、学習した個人データを、何と申しますか、繰り返しアウトプットしてしまうようなＡＩだったような場合は、そのような開発は元々特例の対象外になりますので、違法な開発ということになります。
したがいまして、そのようなＡＩ開発を行った事業者が開発されたＡＩを自ら利用し、あるいは開発されたＡＩを用いたサービスを提供する過程でそういった個人データのアウトプットが行われまして、それをその開発事業者が持っていると、それを活用するといった場合には、まさしく違法な特例の利用によって新たな個人情報をＡＩのアウトプットによってデータベース化して持っているということになりますから、それはそれに対する利用停止請求ができることになりますし、場合によりましては、それは違法でございますので、私どもがある意味停止をさせまして、特例の取消しをさせまして、廃棄その他の対処を命じることになろうかと思います。
53佐佐脇紀代志個人情報保護委員会事務局長
御指摘の生成ＡＩに読み込ませるということにつきましては、恐らく、開発のための一般的に使えるＡＩ基盤モデルのようなものを事業者が調達し、それを使って社内で利用する特殊なＡＩモデルを作るという場合に、基盤モデルに内蔵されている様々なパラメーターを自社用に加工する際に提供を受けた個人情報を使う可能性があるというその限りにおいて、つまり、まさに自社の中での基盤モデルを使った開発における利用ということはございます。それを、生成ＡＩの通常の利用の局面における読み込ませるということと混同のないように御説明をするという趣旨で大臣が御答弁したことかと思いますけれども、その…
この発言のページ
54
石垣のりこ(立憲)
いや、だから、あくまでも作成の段階で、できたものを、更に一応いただいた情報を読み込ませるという話じゃないです。作成の段階で、既存のものも含めた、今言ったチャットＧＰＴだ、Ｇｅｍｉｎｉだ、ほかにもいろいろありますけれども、を使うと。そこに読み込ませるということも含めて、私たちはこういう生成ＡＩを作りたいんです、生成というかＡＩを作りたいんですということを基に、本人の了解を取らないで要配慮個人情報も含むそういう情報をそのまま使うことができるというのが今回の法案だというところで。
ちょっと最後まで質問は行きませんでしたけれども、ここまでの話の中でも、皆さんに…
この発言のページ
55平平戸航太(国民)
国民民主党・新緑風会の平戸航太です。
先週の金曜日、六月十二日、本会議で、両法案、デジタル行政推進法、個人情報保護法の改正案について質問をさせていただきました。引き続き、本日のデジタルＡＩ特別委員会でも質問をさせていただきます。よろしくお願いいたします。
本会議でも申し上げたとおり、少し私のバックグラウンドといいますか、思いをお伝えしたいと思います。私はこれまで、電機産業において技術者として、がん治療装置、医療機器や鉄道のシステムといった私たちの命や生活に関わるシステムの開発に携わっておりました。
医療機器でも鉄道のシステムでも、現場では既に高度な…
この発言のページ
- （上の発言）
56佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
まず、統計作成の特例は、提供を受けた個人情報等を用いて開発するという局面に着目しておりますので、一番最初に請求する対象は、大臣から御答弁したように、学習データで持ち続けているものになろうかと思います。
一方で、委員は恐らく開発されるＡＩのアウトプットが個人データとなる場合を念頭にお尋ねになっておられるというふうに考えておりますが、前提といたしまして、そのような、何と申しますか、元々特例の対象になりますのは、特定の個人との対応関係が排斥されたＡＩモデルの作成に限定しておりますので、学習した個人データを、何と申しますか、繰り返しアウトプットしてしまうようなＡＩだったような場合は、そのような開発は元々特例の対象外になりますので、違法な開発ということになります。
したがいまして、そのようなＡＩ開発を行った事業者が開発されたＡＩを自ら利用し、あるいは開発されたＡＩを用いたサービスを提供する過程でそういった個人データのアウトプットが行われまして、それをその開発事業者が持っていると、それを活用するといった場合には、まさしく違法な特例の利用によって新たな個人情報をＡＩのアウトプットによってデータベース化して持っているということになりますから、それはそれに対する利用停止請求ができることになりますし、場合によりましては、それは違法でございますので、私どもがある意味停止をさせまして、特例の取消しをさせまして、廃棄その他の対処を命じることになろうかと思います。
57平平戸航太(国民)
ありがとうございます。丁寧な御答弁、ありがとうございます。
続いて、ＡＩ開発等における推測、復元リスクと技術的エビデンスについてお伺いしたいと思います。
これも同じように、先週の本会議において松本大臣から、統計作成等特例について復元防止措置が求められることや、個人情報保護法において違法又は不当に利用することが禁止されていることによって、個人の権利利益は十分に保護されるとの答弁がございました。
しかしながら、近年は複数の属性の束を組み合わせた個人像を推定する高度なプロファイリング技術が商用レベルで普及しております。匿名化されたデータであっても再識別の…
この発言のページ
58佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
科学技術の世界は、やはり確率の問題に最終的には還元される限界がございますので、一〇〇％ということを理論上保証するようなものというのは、正直申しまして、ある前提で制度設計はできないものだというふうに思います。ただ、制度設計に当たりましては、技術的に合理的に可能なものを最大限導入するということで、いわゆる徹底的にリスクを低減させるための最高位の技術ということを求めていくことになろうかと思います。
また、仮にＡＩモデルから学習データを復元させようというようなものが出てきた場合には、そうやって個人情報を引き出した場合には現行の不正取得に…
この発言のページ
59平平戸航太(国民)
ありがとうございます。
私も技術者でした。数字というものを非常に大切にしておりました。いろんな分析、解析、計算等を行っておりましたが、やはり一〇〇％はないことは理解しております。
ただ、今の答弁と先ほどの質問の答弁でも、その前提が私は古いのではないかと思っております。現在の高度なデータ分析、ＡＩによるプロファイリング技術の実態に今の政府側の認識が追い付いていないのではないかと思います。複数データの組合せによってセンシティブな情報が推測され得るリスクは現に存在しております。この再識別の可能性を政府としても正面からまずは認識していただきたいと思います。
…
この発言のページ