度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。
今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。
一方で、これまでの議論を振り返ってみますと、結局、じゃ、現状起きているリスクに対してどの程度対応できているのかという疑問に対しても、個々のケース、その都度ケース・バイ・ケースで対応している。どこまでそういうリスクに対応できるかは、それを見てみないと分からないというような政府からの答弁が基本にあるかというふうに感じております。
かつ、先ほどアンケートのお話がありましたけれども、実際に六六％の方が政府に求めたいこととして、ＡＩの活用に関して、やっぱりＡＩの悪用、犯罪に対する法的対策の強化というものを挙げていますので、先ほど大屋参考人の方からもありましたけれども、その教育の面ということも含めて、しっかりとやっぱり皆さんにまだまだ認識が届いていないということが非常に大きな問題として私も感じております。
その上でといいますか、どんどんその技術が発達していく上で、じゃ、そのＡＩが暴走をしないように、先ほど、そのルールメークの部分をやっぱり担えるであったり、新たな価値の部分はなかなか人間じゃないとできないというところはあると思うんですが、より技術がやっぱり進歩していくと、ごくごく限られた能力、その知識のある方しかそのＡＩの技術が本当に正しく動いているか、誤っているところがどこにあるかということを見極めるのが非常に厳しくなってくるのではないかということが推測されます。
その際に、そのＡＩを更にチェックするＡＩというような形で、そういう想定がされた場合にどういうリスクがあり得るのか、そもそもそういう立て付けが可能であるのかということに関して、どうでしょうかね、大屋参考人と永沼参考人、お二人に伺いたいと思います。
33永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。
今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉…
この発言のページ
34大大屋雄裕慶應義塾大学法学部法律学科教授
ありがとうございます。
我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。
そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない…
この発言のページ
35市市川類一橋大学イノベーション研究センター特任教授／東京科学大学データサイエンス・ＡＩ全学教育機構特任教授
御質問ありがとうございます。
今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。
以上です。
この発言のページ
- （上の発言）
36
石垣のりこ(立憲)
度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。
今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。
一方で、これまでの議論を振り返ってみますと、結局、じゃ、現状起きているリスクに対してどの程度対応できているのかという疑問に対しても、個々のケース、その都度ケース・バイ・ケースで対応している。どこまでそういうリスクに対応できるかは、それを見てみないと分からないというような政府からの答弁が基本にあるかというふうに感じております。
かつ、先ほどアンケートのお話がありましたけれども、実際に六六％の方が政府に求めたいこととして、ＡＩの活用に関して、やっぱりＡＩの悪用、犯罪に対する法的対策の強化というものを挙げていますので、先ほど大屋参考人の方からもありましたけれども、その教育の面ということも含めて、しっかりとやっぱり皆さんにまだまだ認識が届いていないということが非常に大きな問題として私も感じております。
その上でといいますか、どんどんその技術が発達していく上で、じゃ、そのＡＩが暴走をしないように、先ほど、そのルールメークの部分をやっぱり担えるであったり、新たな価値の部分はなかなか人間じゃないとできないというところはあると思うんですが、より技術がやっぱり進歩していくと、ごくごく限られた能力、その知識のある方しかそのＡＩの技術が本当に正しく動いているか、誤っているところがどこにあるかということを見極めるのが非常に厳しくなってくるのではないかということが推測されます。
その際に、そのＡＩを更にチェックするＡＩというような形で、そういう想定がされた場合にどういうリスクがあり得るのか、そもそもそういう立て付けが可能であるのかということに関して、どうでしょうかね、大屋参考人と永沼参考人、お二人に伺いたいと思います。
37大大屋雄裕慶應義塾大学法学部法律学科教授
ありがとうございます。
おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。
これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。
ただ、この技術の方向性は、私自身の評価としては余り明…
この発言のページ
38永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。
これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩の…
この発言のページ
39石垣のりこ(立憲)
ありがとうございます。
大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。
たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。
先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこう…
この発言のページ