御答弁いただき、ありがとうございます。
前回の委員会から申し上げておりますが、ガイドラインを読めば事業者が何をすればよいか分かる状態になっているということが実質的な個人情報の保護につながると考えておりますので、是非、提供元と提供先の双方が保護に責任を持つ環境を整備いただくようお願いしたいと思います。
続いて、ＡＩモデルに対する外部攻撃への備えについて伺います。
統計作成等特例はＡＩ開発を対象に含んでおります。しかし、ＡＩモデルをめぐっては、急速な進化に伴い、新たな攻撃手法が次々と生まれております。例えば、前回の委員会で指摘させていただいたメンバーシップ推論もありますし、ＡＩの出力から逆算して学習データの中身を復元するモデル反転攻撃というものも最近は出てきております。
このように、個人データをＡＩの学習に使うことには、この技術に特有の固有のリスクが伴います。だからこそ、最新の攻撃手法と企業が取るべき防御体制を具体的に、かつ継続的に政府が示す、そして事業者が逐次対応するサイクルを構築することが個人情報保護に直結すると考えます。
そこで、松本大臣にお伺いしたいです。
ＡＩモデルに対する外部攻撃の類型と求められる防御体制の具体例をガイドラインやＱアンドＡで示していただけますでしょうか。あわせて、攻撃手法は日々進化いたしますので、公開資料の更新頻度など、最新の状況を反映し続けるための取組方針をお聞かせください。
165
伊波洋一政府参考人など
法案では、氏名、住所とひも付けられた要配慮個人情報が、匿名化などのデータ加工されることなく、生のままデータとしてＡＩ開発事業者に取得、提供されます。このような法案は、ＡＩ開発の目的のために個人情報保護を大きく後退させるものになりかねません。
撤回することを求めて、質問を終わります。
この発言のページ
166
安野貴博(みらい)
チームみらいの安野貴博でございます。
今回の統計作成等特例では、非公開の病歴やゲノム情報といった最も慎重に扱われるべき要配慮個人情報がＡＩ開発事業者に提供できるようになります。これは、データの利活用が進み、日本の成長に資する可能性がある一方で、制度としては極めて重い変更でございます。
データの利活用は、データの先にいる個人の信頼の上にしか成り立ちません。そして、信頼は個人情報が本当に守られているかどうかという事実の積み重ねからしか生まれません。守りが甘いまま利活用だけを急げば、一たびの重大な漏えいや再識別事故で信頼が失われ、結局は利活用そのものが止ま…
この発言のページ
167佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
統計作成等の特例におきましては、条文上、提供先がＡＩ開発等の統計作成等目的で取り扱う必要がある場合ということに限定していることを要件としてございます。また、本法案におきましては、統計作成等につきまして、委員会規則において、安全管理のために必要かつ適切な措置を講じた上で行われるものに限定することを想定してございます。
そのため、適法にデータ提供を実施する観点からは、提供する時点において、提供先がどのような安全管理措置を講じた上でどのようなＡＩモデルを開発するのか、そのためにどのような個人情報が必要となるのかなどについて提供先が十分…
この発言のページ
- （上の発言）
168安野貴博(みらい)
御答弁いただき、ありがとうございます。
前回の委員会から申し上げておりますが、ガイドラインを読めば事業者が何をすればよいか分かる状態になっているということが実質的な個人情報の保護につながると考えておりますので、是非、提供元と提供先の双方が保護に責任を持つ環境を整備いただくようお願いしたいと思います。
続いて、ＡＩモデルに対する外部攻撃への備えについて伺います。
統計作成等特例はＡＩ開発を対象に含んでおります。しかし、ＡＩモデルをめぐっては、急速な進化に伴い、新たな攻撃手法が次々と生まれております。例えば、前回の委員会で指摘させていただいたメンバーシップ推論もありますし、ＡＩの出力から逆算して学習データの中身を復元するモデル反転攻撃というものも最近は出てきております。
このように、個人データをＡＩの学習に使うことには、この技術に特有の固有のリスクが伴います。だからこそ、最新の攻撃手法と企業が取るべき防御体制を具体的に、かつ継続的に政府が示す、そして事業者が逐次対応するサイクルを構築することが個人情報保護に直結すると考えます。
そこで、松本大臣にお伺いしたいです。
ＡＩモデルに対する外部攻撃の類型と求められる防御体制の具体例をガイドラインやＱアンドＡで示していただけますでしょうか。あわせて、攻撃手法は日々進化いたしますので、公開資料の更新頻度など、最新の状況を反映し続けるための取組方針をお聞かせください。
169
松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
委員会規則において、復元等のリスクに応じて技術的な見地から合理的、効果的な復元防止措置を確実に実装することが重要でございます。それがある意味、この特例の肝でもあるかと思いますので、今お話のあった想定されるＡＩモデルに対する攻撃手法等を踏まえたリスク、それに対して講じるべき措置等の内容や技術的な手法についてはガイドライン等でしっかりと例示をしてまいりたいと思います。
また、特にこの技術動向の変化が非常に速いので、適時適切に必要に応じた見直しをしてまいりたいというふうに思って、確実に情報発信を進めるということはお約束します。
この発言のページ
170安野貴博(みらい)
心強い御答弁、ありがとうございます。
守りの技術を国が率先して示すということは安全性の向上につながると思いますので、是非継続的なモニタリングと情報発信をお願いいたします。
次に、個人情報保護法で新たに設けられる第百八十条の罰則規定について、個人情報保護委員会にお伺いします。
この規定は、個人情報を取得した時点での罰則を名宛て人を定めずに新たに設けるものです。条文を読む限り、対象となる取得行為がかなり広く解釈できるようにも見えます。
そこで、まずは確認をさせてください。この罰則で政府として想定している主な対象事例とは具体的にどのようなものでしょうか…
この発言のページ
171佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
例えば、行政機関の調査などをかたって個人情報をだまし取る、いわゆるかたり調査の事例でございますとか、あと、フィッシングの手口により個人情報をだまし取る、そういった事例が想定されようかと思います。
この発言のページ