済みません、先ほどちょっと具体性がないということでお叱りを受けましたので、ちょっと具体的に申し上げます。ちょっと五つぐらいのことを申し上げます、ガイドラインに盛り込みたいということで。
一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。
二つ目は、そのＡＩを、製品を市場に出した後もインシデントとか問題がないかのその情報を集めて、それで必要に応じて改善をしていくということであります。この改善の方法というのもいろいろございまして、いわゆるチェックツールみたいなものを使って、ソフトウェアでその安全性がないかどうかをチェックするとか、レッドチームみたいなものをつくって、会社の中で敵対的に攻撃するチームをつくってチェックするとか、あるいはＡＩ同士で戦わせて安全かどうかをチェックするとかいろんな方法が提案されていますけど、いずれにしましても、そういう安全性を高めるということをやっていただくと。
それから、各ＡＩ開発者とか提供者がＡＩの概要とか、どういうリスクがあるかとか、こうやって使ってほしいとか、こうやって使っちゃ駄目だとか、そういう情報を開示するということも重要だと思います。そして、出てきたインシデント情報を関係者間で共有するとか、そして一番申し上げたかったことは、事業者ごとにやっぱりリスクは全然違いますので、事業者ごとにそのガバナンスポリシーみたいなものを作って、それを公表して実践していくということが重要なんではないかと思います。
ほかにもいろいろ定めたいことはございますけれども、そういったことをそのガイドラインに分かりやすく定めたいと思います。どうしても分かりやすくというのがありますので、分量的に余り長くなってしまうとかえって分かりにくくなるので非常に難しい部分ではありますけれども、いろんなことをなるべく分かりやすく書いていきたいというふうに考えております。
99
片山大介(維新)
分かりました。
それで、もう一つ、この定義には、生成ＡＩには全然触れていないんですよね。というか、この定義に限らずなんですけど、今回の条文全てに生成ＡＩという言葉、一言も実は入っていないんですよ。私、これも若干違和感を持った。今、世の中の人というと、ＡＩというと、大体みんなすぐ真っ先に思い浮かべるのは生成ＡＩなんですよ。だけど、これ全く入れていない。
それで、これもどういうことなのかというふうに聞いたら、今後この法案が成立したら、基本戦略を作るわ、それから指針、ガイドラインも作るわ、その中に書き込んでいくんだというふうには言っているんですけど、やっぱ…
この発言のページ
100渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
まず、大変鋭い御質問でお答えが大変難しいんですけれども、海外では生成ＡＩを含むアドバンストＡＩシステム、先進ＡＩシステムみたいな言い方をすることが多くて、やっぱり生成ＡＩを含むんだけど、もうちょっと広めに取っているというのが一般的ではないかと思います。
要は、生成ＡＩというのは、質問に対して情報を作り出すみたいなそういうことなんですけれども、人間が質問しなくても情報を作り出すようなＡＩというのもあり得ると思いますので、そういうものも含めて、その高度なＡＩというのを割と法律の、そういうルールの対象にしていこうという動きが、海外でもそういう動きがあるんでは…
この発言のページ
101片山大介(維新)
だから、それで今回書いていないと。
そうなると、今回のこの法ができた後に、だから、基本計画、それからやっぱり指針、ガイドラインを作る、このやっぱりガイドラインがすごく大切になってくるんだと思います。そこには生成ＡＩも入れるんだとかとおっしゃっていましたけれども、そうすると、じゃ、このガイドラインをどのようなレベルまで詳しく作って、そしてそれをいつ頃までにやるのか、それで生成ＡＩについてはどのようなことまで落とし込むのか、これを併せて教えていただきたいんですが。
この発言のページ
- （上の発言）
102渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
済みません、先ほどちょっと具体性がないということでお叱りを受けましたので、ちょっと具体的に申し上げます。ちょっと五つぐらいのことを申し上げます、ガイドラインに盛り込みたいということで。
一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。
二つ目は、そのＡＩを、製品を市場に出した後もインシデントとか問題がないかのその情報を集めて、それで必要に応じて改善をしていくということであります。この改善の方法というのもいろいろございまして、いわゆるチェックツールみたいなものを使って、ソフトウェアでその安全性がないかどうかをチェックするとか、レッドチームみたいなものをつくって、会社の中で敵対的に攻撃するチームをつくってチェックするとか、あるいはＡＩ同士で戦わせて安全かどうかをチェックするとかいろんな方法が提案されていますけど、いずれにしましても、そういう安全性を高めるということをやっていただくと。
それから、各ＡＩ開発者とか提供者がＡＩの概要とか、どういうリスクがあるかとか、こうやって使ってほしいとか、こうやって使っちゃ駄目だとか、そういう情報を開示するということも重要だと思います。そして、出てきたインシデント情報を関係者間で共有するとか、そして一番申し上げたかったことは、事業者ごとにやっぱりリスクは全然違いますので、事業者ごとにそのガバナンスポリシーみたいなものを作って、それを公表して実践していくということが重要なんではないかと思います。
ほかにもいろいろ定めたいことはございますけれども、そういったことをそのガイドラインに分かりやすく定めたいと思います。どうしても分かりやすくというのがありますので、分量的に余り長くなってしまうとかえって分かりにくくなるので非常に難しい部分ではありますけれども、いろんなことをなるべく分かりやすく書いていきたいというふうに考えております。
103片山大介(維新)
そうすると、その生成ＡＩの部分はどんなふうに書き込むのか、ちょっとここをもう少し教えてもらえると有り難いんですが。
この発言のページ
104渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
現時点では、生成ＡＩが出てきたことを念頭に作るガイドラインになると思いますので、生成ＡＩとそうじゃないものを書き分けるということは今の時点では想定していないんですけれども、これから指針の策定作業に入っていって、その間に例えばＡＧＩがかなりもう具体化してきたとか、それから、生成ＡＩ以外のＡＩでも、過去のというか、以前の一般的なＡＩもいろいろ問題が起きているよということであれば、それは何かその指針の中でちょっと別のセクションを作って注釈を付けるとか、そういう方法もあり得るかなと思っていまして、まさに今後有識者の意見等も聞きながら検討させていただきたいというふ…
この発言のページ
105片山大介(維新)
是非それはしっかりやっていただきたいというふうに思います。
それで、あと、その次に、今回の法案の審議でもやっぱり一番議論にもなったかなと思うのが、これ第十六条の調査研究の部分なんですよね。それで、これ条文見ると分かるんですが、ここの条文だけ物すごく長くなっているんですよ。妙に長くなっている。
それで、ちょっとこれ皆さんに紹介したいなと思って読むんですが、これでも略して読むことになるんですけど、ＡＩの開発、活用の動向に関する情報収集のほか、不正な目的などによって国民の権利利益の侵害が起きた場合の分析や、それに基づく対策の検討、それにＡＩの推進に資する調…
この発言のページ