れいわ新選組の上村英明です。よろしくお願いします。
この審議が始まったときには、本当に、私は天然知性という話をしましたけれども、ＡＩとはちょっとほど遠いなというふうに思っていたんですけれども、さっき黄川田委員がおっしゃっていたように、学習していくと、だんだんだんだんレベルが上がってきたなというふうに思っていて、案外、何か私も、うそをつくし、裏切るし、人間というのは元々ＡＩに近いのかなというふうなことも考え始めたという、とんでもない勘違いなんですけれども、そういうことを前提に、さくさくといきたいと思います。
まず、ＥＵのＡＩ対策というものが午前中の話でも出たんですけれども、どちらかというとハードロー的な法規制を取るもので、日本は放任主義の強いアメリカとＥＵの中間的な位置を占めたいと城内大臣がおっしゃったというふうに覚えております。
しかし、ＥＵのＡＩ法も、細かく見ると結構よくできているなと思うところがあるんですけれども、法規制の分野で細かい配慮があって、むしろ放任的な領域も認めています。例えば、リスク全体はレベルを四つに分けて、許容できないリスク、それからハイリスク、限定的なリスク、最小リスクという四つのリスクの分類をした後、それぞれに対応が違っているという、かなり柔軟な構造を持っているのではないかなというふうに思っています。特に、最小リスクの場合は、リスクの対応はほとんど必要ないということになっています。
では、例えば、容認できないリスクというのはどういうリスクがあるかといいますと、これは八項目が挙げられているわけですけれども、例えば、意思決定を無意識のうちに操作するサブリミナル技術、こういうことがよくあるというふうな、聞かれたことがあると思いますけれども。
それから、これは四番目なんですけれども、プロファイリングなどに基づく犯罪リスク評価と犯罪予測。これは何なのかというと、いわゆる冤罪事件を生んできたような捜査のやり方をＡＩがやるとこうなるということです。つまり、この人が犯人だろうという情報を集めて、犯人を逆に最初から特定するということです。
それから、五番目ですけれども、インターネットあるいは監視カメラの映像を使った顔認証のデータベースの作成。六番目には、職場や教育における感情を推測するための感情認識、これはちょっとまだ私も理解できていないんですけれども。七番目には、人種、政治的意見、労働組合への加入、宗教又は哲学的信条、性的指向などのデータを集めて人間を分類してデータ化する。こういうことは禁止項目になっています。
こうした八項目のＡＩシステムを使っちゃいけないという領域があるんですけれども、この領域はどういうふうな基準で選ばれたかというと、一つは、基本的人権の尊重です、そしてもう一つが、普遍的価値。この二つは、日本政府でいっても、安保三文書の中に、日本は世界でも進んだ民主主義国家であり、こうした価値は共有できるんだということは明確に書かれています。その意味では、こうした価値を共有することは日本では何ら問題ないのではないかなというようなことを思っています。
ただ、若干違うのが三番目の原則でして、これは何かというと、ＥＵは厳しい規定を設けているんですけれども、この厳しさの背景にある判断基準は何かというと、予防原則というものです。
ここにいらっしゃる方はちょっと記憶があるかもしれませんが、食品安全委員会の基準設定のときに、日本はこの予防原則を取っていない。つまり、何かあったときの被害は甚大なので、先駆けて厳しい規制を作るというのが予防原則の在り方なんですけれども、こうした基準の下に先ほどの容認できないリスクというものが設定されているということがあります。
先ほど、午前中の委員会でもお話があったんですけれども、やはり変化が激しいＡＩの世界ということは言えているんですけれども、それにも増して、逆に言えば、先手先手で予知していくということがむしろ日常的に行われないとこの世界に対応できないのではないかという専門家の御意見を午前中は伺いました。
その意味でいけば、やはり容認できないリスクのようなものを日本もきちんとこうした法案に書き込まなくちゃいけないんじゃないかというふうなことを考えるんですけれども、城内大臣の御見解をお伺いいたします。
206
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
御指摘のとおり、投資を呼び込むそのインセンティブというのは非常に重要でありまして、我が国のＡＩ分野におきます国際競争力の確保、そのためには、当然、民間投資の充実を図っていくということは大事で、御指摘のとおりだと思います。
そのためにも、具体的に、内閣府においても研究開発プログラムを進めておりまして、これはＡＩに特化したものではないんですけれども、ＳＩＰ、いわゆる戦略的イノベーション創造プログラムがございまして、ここで、民間企業の積極的な投資を呼び込みつつ、府省連携で基礎研究から社会実装まで見据えた一気通貫の研究開発を推進しております。…
この発言のページ
207
菊池大二郎(国民)
午前中の参考人質疑の中でも、既存の企業を、スタートアップも含め、チャレンジしている企業を応援していく、この既存の企業を奮わせていくという視点が必要になってくると思いますので、どうぞよろしくお願いしたいと思います。
以上で終わります。ありがとうございました。
この発言のページ
208
大岡敏孝(自民)
次に、上村英明君。
この発言のページ
- （上の発言）
209
上村英明(れいわ)
れいわ新選組の上村英明です。よろしくお願いします。
この審議が始まったときには、本当に、私は天然知性という話をしましたけれども、ＡＩとはちょっとほど遠いなというふうに思っていたんですけれども、さっき黄川田委員がおっしゃっていたように、学習していくと、だんだんだんだんレベルが上がってきたなというふうに思っていて、案外、何か私も、うそをつくし、裏切るし、人間というのは元々ＡＩに近いのかなというふうなことも考え始めたという、とんでもない勘違いなんですけれども、そういうことを前提に、さくさくといきたいと思います。
まず、ＥＵのＡＩ対策というものが午前中の話でも出たんですけれども、どちらかというとハードロー的な法規制を取るもので、日本は放任主義の強いアメリカとＥＵの中間的な位置を占めたいと城内大臣がおっしゃったというふうに覚えております。
しかし、ＥＵのＡＩ法も、細かく見ると結構よくできているなと思うところがあるんですけれども、法規制の分野で細かい配慮があって、むしろ放任的な領域も認めています。例えば、リスク全体はレベルを四つに分けて、許容できないリスク、それからハイリスク、限定的なリスク、最小リスクという四つのリスクの分類をした後、それぞれに対応が違っているという、かなり柔軟な構造を持っているのではないかなというふうに思っています。特に、最小リスクの場合は、リスクの対応はほとんど必要ないということになっています。
では、例えば、容認できないリスクというのはどういうリスクがあるかといいますと、これは八項目が挙げられているわけですけれども、例えば、意思決定を無意識のうちに操作するサブリミナル技術、こういうことがよくあるというふうな、聞かれたことがあると思いますけれども。
それから、これは四番目なんですけれども、プロファイリングなどに基づく犯罪リスク評価と犯罪予測。これは何なのかというと、いわゆる冤罪事件を生んできたような捜査のやり方をＡＩがやるとこうなるということです。つまり、この人が犯人だろうという情報を集めて、犯人を逆に最初から特定するということです。
それから、五番目ですけれども、インターネットあるいは監視カメラの映像を使った顔認証のデータベースの作成。六番目には、職場や教育における感情を推測するための感情認識、これはちょっとまだ私も理解できていないんですけれども。七番目には、人種、政治的意見、労働組合への加入、宗教又は哲学的信条、性的指向などのデータを集めて人間を分類してデータ化する。こういうことは禁止項目になっています。
こうした八項目のＡＩシステムを使っちゃいけないという領域があるんですけれども、この領域はどういうふうな基準で選ばれたかというと、一つは、基本的人権の尊重です、そしてもう一つが、普遍的価値。この二つは、日本政府でいっても、安保三文書の中に、日本は世界でも進んだ民主主義国家であり、こうした価値は共有できるんだということは明確に書かれています。その意味では、こうした価値を共有することは日本では何ら問題ないのではないかなというようなことを思っています。
ただ、若干違うのが三番目の原則でして、これは何かというと、ＥＵは厳しい規定を設けているんですけれども、この厳しさの背景にある判断基準は何かというと、予防原則というものです。
ここにいらっしゃる方はちょっと記憶があるかもしれませんが、食品安全委員会の基準設定のときに、日本はこの予防原則を取っていない。つまり、何かあったときの被害は甚大なので、先駆けて厳しい規制を作るというのが予防原則の在り方なんですけれども、こうした基準の下に先ほどの容認できないリスクというものが設定されているということがあります。
先ほど、午前中の委員会でもお話があったんですけれども、やはり変化が激しいＡＩの世界ということは言えているんですけれども、それにも増して、逆に言えば、先手先手で予知していくということがむしろ日常的に行われないとこの世界に対応できないのではないかという専門家の御意見を午前中は伺いました。
その意味でいけば、やはり容認できないリスクのようなものを日本もきちんとこうした法案に書き込まなくちゃいけないんじゃないかというふうなことを考えるんですけれども、城内大臣の御見解をお伺いいたします。
210城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
ＥＵについては、御指摘のとおり、ＡＩのリスクに基づきまして四つのランクに分けまして、最上位の容認できないリスクを持つＡＩシステムは禁止されておりますし、二段階目のハイリスクなＡＩシステムを扱う事業者には基準遵守義務が課されているということになっております。
ただ、この点、我が国におきましても、例えば個人情報を無断で収集、利用するようなＡＩの提供は違法でありますし、また、ＡＩ利用の有無にかかわらず、基準を遵守していないＡＩを使った自動運転の自動車とか、あるいはＡＩを使った医療機器の販売、これらは、いわゆる業法である自動車の運送に関連する…
この発言のページ
211上村英明(れいわ)
どこに落とすかという、ハードローかソフトローかという話はあるんですけれども、アメリカもヨーロッパも、例えば基本的人権とか普遍的価値に関してはかなり共有されているんですけれども、日本がちょっと怪しい段階の中で、どこに落とすかの議論が先走っちゃうというのは、少し、大丈夫かなと思っちゃうんですけれども、政府参考人としてはいかがでしょうか。
この発言のページ
212渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
少しダブってしまいますけれども、まず、ＥＵの法律は大きく二つに分かれていまして、その片方は、四つのリスクに分けて、高いレベルのものは禁止、次のものはハイリスクということで、段階に応じてということでございます。
日本の場合は、ＡＩ法でということではないんですけれども、要は、ＡＩを使っているか使っていないかにかかわらず、リスクの高いものについては禁止をされている、あるいは規制をされているということで、それは、先ほど来ありました個人情報保護法に違反するようなものですとかは当然禁止ということになりますし、機械安全ですとか、あるいは差別を…
この発言のページ