参政党の岩本麻奈です。
本日は、ＡＩ時代の国家のＯＳ、すなわち行政や制度の土台となる仕組みについてお伺いします。
個人情報がＡＩの学習や解析に用いられる時代に行政がＡＩを利活用するのであれば、単にＡＩを導入するだけでは不十分だと思います。そのＡＩがどのようなデータを用い、どのような診断を行い、どのようなリスクを持つのかを行政自身が理解し、説明し、必要に応じて監督できる体制というのが必要であると思います。ＡＩ時代に問われるのは、ＡＩを理解し、個人情報の取扱い、データの品質、診断のバイアスですね、隔たり、説明責任を確認できる専門性を備えた監督体制そのものではないかと思います。
さて、その監督体制に関連して一つ御提案したいと思います。それは、行政の個人情報を用いてＡＩを活用する場合のＡＩシステム自体を継続的に点検、検証する、言わばＡＩ監査の仕組みを整備するべきではないかという点です。
ここで申し上げるＡＩ監査とは、ＡＩを使って監査を行うことではございません。先日、私は、ＡＩを活用した個人情報漏えいの監査について御提案したんですが、今回申し上げるのは、そのＡＩ監査、ＡＩを使った監査ではなく、行政が利用するＡＩシステムそのものを人間が点検、検証する仕組みのことです。
具体的には、どのようなデータで開発、運用されているのか、判断に不合理な隔たりはないか、個人情報は適切に取り扱われているか、人間による関与や監督は担保、確保されているか、こうした点を専門家が必要に応じて技術的な検証を交えながら継続的に確認する仕組みのことです。
海外では、ＡＩオーディットを始めＡＩアシュアランス、アルゴリズミックオーディットなど、ＡＩシステムの信頼性を担保する考え方が広く論議されております。アメリカではＮＩＳＴがＡＩリスクマネジメントフレームワークを公表し、ＥＵのＡＩアクトでも、高リスクＡＩについてリスク管理、データ品質、人間による監査、監督などが求められております。一方、日本でも、総務省及び経済産業省のＡＩ事業者ガイドラインは策定されていることは存じております。
そこで、伺います。
今後、行政におけるＡＩの利活用は急速に広がっていくと思いますが、その際、ＡＩを導入すること自体を急ぐだけでなく、このＡＩシステムについて、開発段階、導入段階、運用段階を通じて継続的に点検するＡＩ監査の仕組みを整備していくことは極めて重要な視点ではないかと思いますが、この点について政府の認識と今後の方向性をお伺いします。
94上上野ほたる(維新)
そうですね、今もう既に教育としまして、子供たちに対してですとか保護者の方へとか、いろんな情報を発信はされていると思うんですけれども、こうした保護者側であったりとかお子さんの方に制限を求めるだけではなく、事業者側ですね、プラットフォーム側に対してシステム設計であったりとか広告の在り方の見直しなどを促していくことが必要だと考えます。
今後どのような枠組みを設けていかれるつもりなのか、御意見お聞かせください。
この発言のページ
95竹竹林悟史こども家庭庁長官官房審議官
お答え申し上げます。
先ほども申し上げたとおり、青少年インターネット環境整備法の在り方について検討を進めております。
その中で、先生今御指摘いただいたような、ＳＮＳ等プラットフォーム事業者を含めた事業者の役割のリバランス、これまでは携帯電話事業者にフィルタリングの義務を課すということが中心でしたが、それ以外の幅広い事業者に対しても役割を果たしてもらおうと。その具体的な内容につきましては、引き続き有識者会議の方で具体的な内容の検討を深めてまいりたいと思っております。
この発言のページ
96上上野ほたる(維新)
やはり諸外国の動向も見据えて、日本国内でも安心して使えるような状況にしていただきたいというふうに思います。
時間も限られていますので、大臣、申し訳ございません、「源内」のことはまた別の機会に聞かせていただければと思います。
これで質問を終わります。ありがとうございました。
この発言のページ
- （上の発言）
97
岩本麻奈(参政)
参政党の岩本麻奈です。
本日は、ＡＩ時代の国家のＯＳ、すなわち行政や制度の土台となる仕組みについてお伺いします。
個人情報がＡＩの学習や解析に用いられる時代に行政がＡＩを利活用するのであれば、単にＡＩを導入するだけでは不十分だと思います。そのＡＩがどのようなデータを用い、どのような診断を行い、どのようなリスクを持つのかを行政自身が理解し、説明し、必要に応じて監督できる体制というのが必要であると思います。ＡＩ時代に問われるのは、ＡＩを理解し、個人情報の取扱い、データの品質、診断のバイアスですね、隔たり、説明責任を確認できる専門性を備えた監督体制そのものではないかと思います。
さて、その監督体制に関連して一つ御提案したいと思います。それは、行政の個人情報を用いてＡＩを活用する場合のＡＩシステム自体を継続的に点検、検証する、言わばＡＩ監査の仕組みを整備するべきではないかという点です。
ここで申し上げるＡＩ監査とは、ＡＩを使って監査を行うことではございません。先日、私は、ＡＩを活用した個人情報漏えいの監査について御提案したんですが、今回申し上げるのは、そのＡＩ監査、ＡＩを使った監査ではなく、行政が利用するＡＩシステムそのものを人間が点検、検証する仕組みのことです。
具体的には、どのようなデータで開発、運用されているのか、判断に不合理な隔たりはないか、個人情報は適切に取り扱われているか、人間による関与や監督は担保、確保されているか、こうした点を専門家が必要に応じて技術的な検証を交えながら継続的に確認する仕組みのことです。
海外では、ＡＩオーディットを始めＡＩアシュアランス、アルゴリズミックオーディットなど、ＡＩシステムの信頼性を担保する考え方が広く論議されております。アメリカではＮＩＳＴがＡＩリスクマネジメントフレームワークを公表し、ＥＵのＡＩアクトでも、高リスクＡＩについてリスク管理、データ品質、人間による監査、監督などが求められております。一方、日本でも、総務省及び経済産業省のＡＩ事業者ガイドラインは策定されていることは存じております。
そこで、伺います。
今後、行政におけるＡＩの利活用は急速に広がっていくと思いますが、その際、ＡＩを導入すること自体を急ぐだけでなく、このＡＩシステムについて、開発段階、導入段階、運用段階を通じて継続的に点検するＡＩ監査の仕組みを整備していくことは極めて重要な視点ではないかと思いますが、この点について政府の認識と今後の方向性をお伺いします。
98荻荻原直彦デジタル庁統括官
お答え申し上げます。
ただいま委員に御指摘いただきましたとおり、ＡＩにつきましては、行政の質の向上と効率化を図る観点から導入を進めると同時に、その適切な利活用を確保することが重要であると認識しております。
このため、政府におきましては、行政の進化と革新のためのＡＩ調達・利活用に係るガイドラインを定めまして、生成ＡＩの利活用促進とリスク管理を表裏一体で進めているところでございます。
このガイドラインにおきましては、生成ＡＩシステムの企画者、開発者、提供者、それから利用者ごとに必要な対応事項を定めておりまして、これにより各府省庁において生成ＡＩシステム…
この発言のページ
99岩本麻奈(参政)
済みません、ちょっと確認なんですけれども、そのガイドラインというか、それを請け負っているのは政府の中でという形でしょうか、それともまた別に立ててなさっているのか、教えてください。
この発言のページ
100荻荻原直彦デジタル庁統括官
ガイドラインは政府として定めたものでございまして、そのガイドラインに基づきまして各省庁におきまして生成ＡＩの利活用に関するガイドラインを定めているというふうに認識しておりまして、それに基づいて実施されております。
この発言のページ