やはり、いろんな被害の迅速なこの共有であったりですね、それがやっぱりこの拡大防止や原因を究明する上で非常に有効なものだと思いますので、その具体的な、どういうふうにやっていくかというのはよく、制度設計というかしていただきたいというふうに思って、改めて求めておきたいと思います。
次に、この事業者名等の公表を行う際の手続の在り方についてお聞きをしたいと思っておりますが、この本法案の第十六条では、調査、研究の結果に基づき、指導、助言、情報提供等の必要な措置を講ずるものとされており、政府はこの必要な措置には事業者名等の公表が含まれていると答弁をしているというふうに理解をしています。
この事業者名等の公表については、国がそれを行うとアナウンスすることで、悪質なＡＩの開発、利用に対する効果的な抑止力になると考えられるとは思います。しかし一方で、実際に公表された事業者は経営面などで不利益を受ける可能性もあって、この公表に当たってはその適切な運用が求められるということになると思います。
今回の法案の一つのポイント、ここは一つのポイントかなと思っていますが、そこで、実際の運用に当たっては、この指導、助言によっても業務が改善されなかった事業者のみを公表することになるのか、国民に情報の周知を図る観点から、事業者を公表する理由等も加えて公表することになるのか、あるいはまた、公表に至る決定プロセスの透明性をどのように確保するかなどが課題になると考えられますが、事業者名の公表手続の在り方、方向性について内閣府にお聞きをします。
124渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
十六条の調査研究につきましてお答えを申し上げます。
御指摘のとおり、まず、既存の法令でその調査研究をしたりいろんな対応が可能ではございますので、まずそれはしっかりやっていただくということだと思います。
その上で、なかなかちょっと誰がどの法律で対応したらいいのか分からないとか、もう予測不可能な事態がやっぱりＡＩは起きてくると思います。そういったときに、この法案で国がしっかり調査をするということが明記されていることによって、私ども調査ができるというふうに思っております。
それで、既存法令では対応できない、でも、不正な目的あるいは不適切な活用方法で国民の…
この発言のページ
125
柴田巧(維新)
分かりました。
次に、被害事例の収集、共有を目的としたプラットフォームについてお尋ねをします。
ＡＩ制度研究会で行われたヒアリングでは、ＮＴＴから、被害事例の収集、共有を目的としたデジタルプラットフォームの整備について要望が出されたというふうに承知をしています。
この被害情報の迅速な共有というのは、同様の被害の拡大防止であったりこの原因究明等に極めて有効なものと思いますが、より安心してＡＩを活用できる環境整備にもそれはつながるものと考えますが、こうした取組をこれからやっていくという考えはおありなのかどうなのか、内閣府にお聞きをします。
この発言のページ
126渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
御指摘の点は、その発生した被害、あるいはインシデントと言ったらいいんですかね、こういった情報を関係者が共有することが非常に重要だということでございまして、そのためのデジタルプラットフォームといいますか、ある種のサイトといいますか、ウェブサイトというか、そういうものを作って共有していくということが重要だと思います。
その際、先ほどの議論とも絡むんですけれども、余り詳細に書き過ぎるとちょっと読みにくいみたいなこともありますので、いろんな方が読みやすいように、すごく大きな事例を分かりやすく書いたり、プロの方が読んでも多少満足できるように詳しく書いたり、いろん…
この発言のページ
- （上の発言）
127柴田巧(維新)
やはり、いろんな被害の迅速なこの共有であったりですね、それがやっぱりこの拡大防止や原因を究明する上で非常に有効なものだと思いますので、その具体的な、どういうふうにやっていくかというのはよく、制度設計というかしていただきたいというふうに思って、改めて求めておきたいと思います。
次に、この事業者名等の公表を行う際の手続の在り方についてお聞きをしたいと思っておりますが、この本法案の第十六条では、調査、研究の結果に基づき、指導、助言、情報提供等の必要な措置を講ずるものとされており、政府はこの必要な措置には事業者名等の公表が含まれていると答弁をしているというふうに理解をしています。
この事業者名等の公表については、国がそれを行うとアナウンスすることで、悪質なＡＩの開発、利用に対する効果的な抑止力になると考えられるとは思います。しかし一方で、実際に公表された事業者は経営面などで不利益を受ける可能性もあって、この公表に当たってはその適切な運用が求められるということになると思います。
今回の法案の一つのポイント、ここは一つのポイントかなと思っていますが、そこで、実際の運用に当たっては、この指導、助言によっても業務が改善されなかった事業者のみを公表することになるのか、国民に情報の周知を図る観点から、事業者を公表する理由等も加えて公表することになるのか、あるいはまた、公表に至る決定プロセスの透明性をどのように確保するかなどが課題になると考えられますが、事業者名の公表手続の在り方、方向性について内閣府にお聞きをします。
128渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
まず、事業者名等を公表することについては、公表した場合としない場合のデメリット、メリットといいますか、今御指摘ありましたように、公表してしまうと愉快犯みたいな人が、あるいは模倣犯みたいな人が出てきて、その悪質なものを使ってしまうとかいう可能性もあります。
また、余り言いたくない話ではあるんですけど、結局、公表したところで、また別の事業者に名前を変えて次の日から同じことをやったりとかそういうこともありますので、むしろ、その個別の事業者名を公表するというよりは、似たような事象といいますか、そういう現象について調査をして公表するという…
この発言のページ
129柴田巧(維新)
とにかく悪質なものをやめさせ止める、被害を最小限に抑えていく、そして、今おっしゃったように、良いものは良い、成功事例とか好事例を広げていけるというようなことを考えていく必要があるんだろうと思いますが、これから、具体的なやり方はこれからお決めになるんでしょうけど、そこら辺しっかり念頭にやっていただきたいと思います。
次に、行政における活用についてお尋ねをしますが、この本法案の第四条は、国の責務として、国は、行政事務の効率化及び高度化を図るため、国の行政機関における人工知能関連技術の積極的な活用を進めるものとしております。
そして、中間とりまとめでも、国…
この発言のページ
130渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
行政で利用する場合は、内部で利用する、内部業務の効率化とか高度化のために利用するというのもあれば、外部サービス、住民との関係ですとか事業者との関係でＡＩを使っていくという両方の可能性があると思います。
そういう中で、例えば給付金の支給の判断をＡＩがやるとか、あるいは何らかの認可とか、そういった判断をそのＡＩがやるということになりますと、これはもし間違いがあったときとかには非常に大きな影響ございますので、こういったものが今のこの重大な影響を及ぼしかねないものという例の一つかというふうに思います。
この発言のページ