四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。
それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。
市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかというところも非常に分かりづらいと。ＡＩ技術に対してリスクベースアプローチにより効果的に法規制を行うためには、その社会的リスクの特定が不可欠であるが、そもそも、ＡＩなどの新興技術がもたらす社会的リスクについては、その普及が進展する前に事前に予測することは困難であることが読み取れるというような記載がございまして、この点に関しては、それぞれの参考人の御意見も基本的なところは一致されているところがあるのかなと思うんですけれども。
としますと、今回の法案が、規制に重きを置かずに、ある意味推進法に重きを置いているということも鑑みまして、事後に様々なリスクに対応しなければならないということになると思います。そのことについて、このイノベーション促進とリスク対応のバランスという今回の非常に重要なポイントがあると思いますが、どういう点に、やっぱり、今回この法案が成立したとして、政府として最もこの事後に対応しなければならないというリスクに対してやっておくべきこと、政府としてやっておくべきこと、それぞれお一つずつ、これだというものを挙げていただけますでしょうか。
28永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
私も技術の会社におりまして、ほとんどの者が技術の開発者であったりエンジニアの方々でありますので、彼らはいろいろとやりたいというところもあるし、あるかと思いますが。
ＡＩにはなかなか取って代われないような職業とか、そういった話は昨今いろいろなところであると思うんですけれども、今日のお話のところで一つ、恐らくここはないだろう、人間の関与は絶対に必要になるのは、やはり先ほどから出ているルールメークの部分でございます。
ここの部分というのは、やはり交渉事があると同時に、これは官でも民でもどんなレベルでもそうだと思いますが、我々はコロ…
この発言のページ
29大大屋雄裕慶應義塾大学法学部法律学科教授
お答えいたします。
ＡＩというのは、特定の評価基準を前提としたときに、それをより効率的に実現する機械だというふうに言えようかと思います。したがって、あらかじめ評価基準が定まっているチェスや囲碁、将棋といったゲームでは、これは人類の大方をとっくに追い越してしまったということになるわけです。
ところで、例えば現代アートというのはそういうものではなくて、むしろ新たな評価基準を提案する、そういう営みであります。あるいは、法解釈、私の専門領域について申し上げますと、例えばこれまでの判例があるのでそれに沿って判断するという比較的機械化できそうな部分も当然あるわけ…
この発言のページ
30市市川類一橋大学イノベーション研究センター特任教授／東京科学大学データサイエンス・ＡＩ全学教育機構特任教授
御質問ありがとうございます。これまでの皆様の、参考人とほぼ同じような答えになってくるとは思いますが。
やはりＡＩというのは、基本的には、工学的に見ると、目標を与えてそれに対して回答する話です。その中で、こういうふうにしたらこういう感情を返せとか、こういうふうに怒っている顔をしろとか、目標を入れれば何でもできるんですけれど、それが本当の感情かという話と、先ほど、例えば最適化をする際に何を最適化するかという目標を入れなきゃいけないんですけど、やはり人間の感覚でいうと、今までどおりの平均値の答えを出してくださいとやれば出るんですけど、これがやっぱりいいよなと…
この発言のページ
- （上の発言）
31
石垣のりこ(立憲)
四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。
それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。
市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかというところも非常に分かりづらいと。ＡＩ技術に対してリスクベースアプローチにより効果的に法規制を行うためには、その社会的リスクの特定が不可欠であるが、そもそも、ＡＩなどの新興技術がもたらす社会的リスクについては、その普及が進展する前に事前に予測することは困難であることが読み取れるというような記載がございまして、この点に関しては、それぞれの参考人の御意見も基本的なところは一致されているところがあるのかなと思うんですけれども。
としますと、今回の法案が、規制に重きを置かずに、ある意味推進法に重きを置いているということも鑑みまして、事後に様々なリスクに対応しなければならないということになると思います。そのことについて、このイノベーション促進とリスク対応のバランスという今回の非常に重要なポイントがあると思いますが、どういう点に、やっぱり、今回この法案が成立したとして、政府として最もこの事後に対応しなければならないというリスクに対してやっておくべきこと、政府としてやっておくべきこと、それぞれお一つずつ、これだというものを挙げていただけますでしょうか。
32村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。
今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術…
この発言のページ
33永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。
今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉…
この発言のページ
34大大屋雄裕慶應義塾大学法学部法律学科教授
ありがとうございます。
我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。
そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない…
この発言のページ