とにかく悪質なものをやめさせ止める、被害を最小限に抑えていく、そして、今おっしゃったように、良いものは良い、成功事例とか好事例を広げていけるというようなことを考えていく必要があるんだろうと思いますが、これから、具体的なやり方はこれからお決めになるんでしょうけど、そこら辺しっかり念頭にやっていただきたいと思います。
次に、行政における活用についてお尋ねをしますが、この本法案の第四条は、国の責務として、国は、行政事務の効率化及び高度化を図るため、国の行政機関における人工知能関連技術の積極的な活用を進めるものとしております。
そして、中間とりまとめでも、国内のＡＩ市場の発展等にも貢献できるため、政府が率先してＡＩを利用していくことは重要というふうになっています。ただ一方で、ＡＩの活用においては、この機械学習に用いるデータ等の偏りによるバイアスであったり、あるいは判断過程のブラックボックス化などの問題が指摘をされていまして、同じく中間とりまとめでは、国民の権利利益に重大な影響を及ぼしかねないものについては、ＡＩの出力結果を自動的に採用することのリスクを踏まえて慎重に取り組むべきであるというふうになされていると思います。
そこで、この行政機関におけるＡＩの活用に当たって特に注意が求められるこの国民の権利利益に重大な影響を及ぼしかねないものとは具体的にどのような場合が該当するのか、お尋ねをします。
126渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
御指摘の点は、その発生した被害、あるいはインシデントと言ったらいいんですかね、こういった情報を関係者が共有することが非常に重要だということでございまして、そのためのデジタルプラットフォームといいますか、ある種のサイトといいますか、ウェブサイトというか、そういうものを作って共有していくということが重要だと思います。
その際、先ほどの議論とも絡むんですけれども、余り詳細に書き過ぎるとちょっと読みにくいみたいなこともありますので、いろんな方が読みやすいように、すごく大きな事例を分かりやすく書いたり、プロの方が読んでも多少満足できるように詳しく書いたり、いろん…
この発言のページ
127
柴田巧(維新)
やはり、いろんな被害の迅速なこの共有であったりですね、それがやっぱりこの拡大防止や原因を究明する上で非常に有効なものだと思いますので、その具体的な、どういうふうにやっていくかというのはよく、制度設計というかしていただきたいというふうに思って、改めて求めておきたいと思います。
次に、この事業者名等の公表を行う際の手続の在り方についてお聞きをしたいと思っておりますが、この本法案の第十六条では、調査、研究の結果に基づき、指導、助言、情報提供等の必要な措置を講ずるものとされており、政府はこの必要な措置には事業者名等の公表が含まれていると答弁をしているというふう…
この発言のページ
128渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
まず、事業者名等を公表することについては、公表した場合としない場合のデメリット、メリットといいますか、今御指摘ありましたように、公表してしまうと愉快犯みたいな人が、あるいは模倣犯みたいな人が出てきて、その悪質なものを使ってしまうとかいう可能性もあります。
また、余り言いたくない話ではあるんですけど、結局、公表したところで、また別の事業者に名前を変えて次の日から同じことをやったりとかそういうこともありますので、むしろ、その個別の事業者名を公表するというよりは、似たような事象といいますか、そういう現象について調査をして公表するという…
この発言のページ
- （上の発言）
129柴田巧(維新)
とにかく悪質なものをやめさせ止める、被害を最小限に抑えていく、そして、今おっしゃったように、良いものは良い、成功事例とか好事例を広げていけるというようなことを考えていく必要があるんだろうと思いますが、これから、具体的なやり方はこれからお決めになるんでしょうけど、そこら辺しっかり念頭にやっていただきたいと思います。
次に、行政における活用についてお尋ねをしますが、この本法案の第四条は、国の責務として、国は、行政事務の効率化及び高度化を図るため、国の行政機関における人工知能関連技術の積極的な活用を進めるものとしております。
そして、中間とりまとめでも、国内のＡＩ市場の発展等にも貢献できるため、政府が率先してＡＩを利用していくことは重要というふうになっています。ただ一方で、ＡＩの活用においては、この機械学習に用いるデータ等の偏りによるバイアスであったり、あるいは判断過程のブラックボックス化などの問題が指摘をされていまして、同じく中間とりまとめでは、国民の権利利益に重大な影響を及ぼしかねないものについては、ＡＩの出力結果を自動的に採用することのリスクを踏まえて慎重に取り組むべきであるというふうになされていると思います。
そこで、この行政機関におけるＡＩの活用に当たって特に注意が求められるこの国民の権利利益に重大な影響を及ぼしかねないものとは具体的にどのような場合が該当するのか、お尋ねをします。
130渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
行政で利用する場合は、内部で利用する、内部業務の効率化とか高度化のために利用するというのもあれば、外部サービス、住民との関係ですとか事業者との関係でＡＩを使っていくという両方の可能性があると思います。
そういう中で、例えば給付金の支給の判断をＡＩがやるとか、あるいは何らかの認可とか、そういった判断をそのＡＩがやるということになりますと、これはもし間違いがあったときとかには非常に大きな影響ございますので、こういったものが今のこの重大な影響を及ぼしかねないものという例の一つかというふうに思います。
この発言のページ
131柴田巧(維新)
では、それを踏まえて次にお聞きをしますが、先ほど午前中も取り上げられていましたが、補助金の交付であったり保育所の選考に係る事務など、地方公共団体を含め、行政ではもう既にＡＩの活用が進んでいるわけです。
ただ、先ほども触れましたように、ＡＩのこの判断過程というのは非常にブラックボックスというか不透明なわけですね。どのようなデータを用いたのかとか、あるいは出力結果が公平性を欠いていないかなど、このＡＩを利用した際には特に説明責任を果たすことがこれ必須になってくると思っています。
また、このＡＩを利用した行政の判断に疑義があった場合や誤った判断がなされた場…
この発言のページ
132渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
御指摘のとおり、行政においてＡＩを積極的に使う場合、やはり透明性とか説明責任というのはしっかり果たしていく必要があるというふうに考えています。
一つ申し上げますと、デジタル庁が今作っているガイドラインがございまして、行政の進化と革新のための生成ＡＩの調達・利活用に係るガイドラインというものでございます。これ、本年五月に、目途にその策定予定と聞いておりますけれども、この中では、出力結果に基づいて行われた判断、要するに最終的には人間が判断するということなんですけど、その出力結果に基づいて行われた判断も説明責任の対象の中に含まれるんだと、そこに留意をしましょ…
この発言のページ