ＥＵのＡＩ法の四段階のリスクベースアプローチにつきましてお答えを申し上げます。
ＥＵのＡＩ法のアプローチにつきましては、法案の検討段階で参考にさせていただいております。ＥＵのＡＩ法は大きく二つのパートに分かれておりまして、一つが、この四つの段階のリスクに分けた規制部分でありまして、もう一つは、生成ＡＩに関するマクロなといいますか、全体、まあＥＵの言葉では、生成ＡＩとは言わず、ジェネラルパーパスＡＩというふうに呼んでおりますけれども、に関する包括的な規制、この二つのパートから成りますけれども。
その片方の四段階のものについて申し上げますと、まず、最上位のリスクにつきましては、許容できないリスクということで、そういったＡＩシステムは禁止というふうにされています。また、二段階目、これはハイリスクなＡＩシステムということになりますけれども、これを扱う事業者には基準適合義務が課されるというような規制だというふうに承知をしております。
一方で、我が国においても、ＥＵで禁止をされておりますような、許容できないようなリスクを持つＡＩシステムにつきましては、日本の法令、刑法ですとか個人情報保護法等により規制をされるものというふうに考えております。
また、今の、二段階目のハイリスクにつきましては、例えばＡＩを用いた医療機器等が該当すると思いますけれども、これは我が国においても大臣承認とかがなければ使えないということになっておりまして、ＥＵはＡＩ法の規定でありまして、日本の場合はそれぞれの個別法ということかもしれませんけれども、ハイリスクなものに対して、リスクに応じて対応していくという考え方においては共通する部分があろうかというふうに思います。
もちろん細かく言うといろいろな違いはあるものの、これは、各国のこれまでの法体系ですとか歴史とかいろいろなものが背景にございますけれども、基本的な、リスクに対して対応していくという考え方については、ＥＵと共通する部分があるというふうに考えております。
35
橋本慧悟(立憲)
御答弁を丁寧にいただきました。調達チェックシートを定めるとか、いろいろな手法で適正な利用に向けて取り組まれると思いますが、本当にこの公的部門がしっかりと信頼性を維持していくためにもそういった取組は重要だと思いますので、是非今後もよろしくお願いします。
そして、中間取りまとめにおきましては、ＡＩに関する意識調査の結果によると、日本では、現在の規則や法律でＡＩを安全に利用できると思う回答者は一三％と低く、逆に、七七％の人がＡＩには規制が必要だと考えていると記載されています。また、品質の不安定さとか、プロセスのブラックボックス化、見えないですね、そういった状…
この発言のページ
36渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
勧告、命令等の規定につきましては、これを設けない理由につきましては、罰則を設けない理由と共通する部分があると思っておりまして、答弁を申し上げます。
まず、現在顕在化しているリスクにつきましては、これは実際に事例もあるわけですけれども、現行法令に基づいて対処をしているというところでございます。
その上で、ＡＩは、技術の変化が速くて、また、どういうリスクが生じるか予測が難しいというところがございます。そういう中で、命令ということになりますと、これは非常に重い処分ということになりますので、命令の前提になります禁止行為ですとか基準を不公平なく明確に定めていく…
この発言のページ
37橋本慧悟(立憲)
臨機応変に対応するためにもというお話がありましたが、やはり、我々は推進をしっかりしていく立場ではありますが、それと同時に、そういったリスクへの対応というのを国民に対してもしっかりと周知していく必要があると考えています。
例えばＥＵのＡＩ法におきましては、ＡＩのリスクに応じて規制内容を変えるリスクベースアプローチという方針に基づいて、規制対象を四段階のリスクレベルのＡＩアプリケーション及びシステムというものに分類をして、それぞれに対して異なる規制を課すこととされていると思います。これに対して、本法案では、やはり、リスク対応に係る措置に関する勧告、命令等の…
この発言のページ
- （上の発言）
38渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
ＥＵのＡＩ法の四段階のリスクベースアプローチにつきましてお答えを申し上げます。
ＥＵのＡＩ法のアプローチにつきましては、法案の検討段階で参考にさせていただいております。ＥＵのＡＩ法は大きく二つのパートに分かれておりまして、一つが、この四つの段階のリスクに分けた規制部分でありまして、もう一つは、生成ＡＩに関するマクロなといいますか、全体、まあＥＵの言葉では、生成ＡＩとは言わず、ジェネラルパーパスＡＩというふうに呼んでおりますけれども、に関する包括的な規制、この二つのパートから成りますけれども。
その片方の四段階のものについて申し上げますと、まず、最上位のリスクにつきましては、許容できないリスクということで、そういったＡＩシステムは禁止というふうにされています。また、二段階目、これはハイリスクなＡＩシステムということになりますけれども、これを扱う事業者には基準適合義務が課されるというような規制だというふうに承知をしております。
一方で、我が国においても、ＥＵで禁止をされておりますような、許容できないようなリスクを持つＡＩシステムにつきましては、日本の法令、刑法ですとか個人情報保護法等により規制をされるものというふうに考えております。
また、今の、二段階目のハイリスクにつきましては、例えばＡＩを用いた医療機器等が該当すると思いますけれども、これは我が国においても大臣承認とかがなければ使えないということになっておりまして、ＥＵはＡＩ法の規定でありまして、日本の場合はそれぞれの個別法ということかもしれませんけれども、ハイリスクなものに対して、リスクに応じて対応していくという考え方においては共通する部分があろうかというふうに思います。
もちろん細かく言うといろいろな違いはあるものの、これは、各国のこれまでの法体系ですとか歴史とかいろいろなものが背景にございますけれども、基本的な、リスクに対して対応していくという考え方については、ＥＵと共通する部分があるというふうに考えております。
39橋本慧悟(立憲)
御答弁をいただきました。
時間の関係で一つ飛ばさせていただいて、ＥＵの対策についても、我が国との比較についても述べていただきましたが、じゃ、ＥＵの一般データ保護規則、いわゆるＧＤＰＲについてです。
これは、データ主体に関する法的効果を発生させる、又はデータ主体に対して同様の重大な影響を及ぼすプロファイリング、これは個人の経済状況でありますとか健康でありますとか興味、関心、行動や位置情報とかの一定の個人情報の側面の評価のことだと思いますが、このプロファイリングには規制がかけられ、個人の権利が保障されていると認識をしています。
このように、意思決定がＡ…
この発言のページ
40渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ＥＵのＧＤＰＲ二十二条におきましては、これは個人データに関する法令でございますけれども、専ら自動化された取扱いに基づいた意思決定の対象とされない権利というのが規定されているものと承知しております。ちょっと、やや難しいんですけれども、平易に申し上げると、コンピュータープログラム等が人の評価をしてしまうというか、それは避けるべきであるというようなことが規定されているということでございます。
一方、日本におきましても、コンピューターのプログラムのアルゴリズムが提案する内容が違法な行為を助長するような場合、不適切な場合には、既存の現行法…
この発言のページ
41橋本慧悟(立憲)
御答弁をいただきました。既存の現行法とか各業法での規制を行う、それが今回、日本のＡＩ推進法においては大分キーになるというか、しっかり議論していくべきところかなと改めて感じました。
そうなると、個人情報についての質問に移らせていただきます。
ＡＩが収集する学習データの中には、特定の個人を識別できる個人情報がやはり含まれている場合があると思いますが、あらかじめ本人の同意が得られていない個人情報をＡＩが収集した場合は、個人情報保護法に違反するのではないかというような議論とか懸念もあると思います。
個人情報保護法第三十五条に基づき、本人から例えばＡＩ利用事…
この発言のページ