お答えしたいと思います。
まず、人類がＡＩに支配される可能性についての御懸念に関しましては、人間中心の考え方がやはり極めて重要だと考えております。我が国におきましては、平成三十一年、二〇一九年に策定いたしました、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書におきまして、その考え方をしっかりと示してきたところでございます。
したがいまして、本法案に基づき策定することになりますＡＩ基本計画においても、市村委員始め多くの方から、人間中心の考え方をしっかり明示すべきだという御指摘がございますので、その方向で検討を進めてまいりたいというふうに考えております。
その上で、ＡＩに関するリスクというのは非常に多種多様でございまして、事業者によって対応すべき事項は異なり得るものであるため、各事業者において適切にリスク評価等に対応していただく必要があると考えております。
その際、例えば、全てのＡＩ関係者向けの広島プロセス国際指針におきましては、ＡＩのライフサイクル全体にわたるリスクを特定、評価、軽減するために、適切な措置を講ずること等が規定されておりまして、こうしたことは、本法案に基づき整備し、事業者に準備を求める指針にもしっかりと反映させていきたいと考えております。
いずれにしましても、本法案が成立した暁には、関係省庁や関係機関と連携いたしまして、国際的な規範の趣旨に即した指針の整備を進めるとともに、ＡＩセーフティ・インスティテュートが公開しておりますＡＩの安全性に関する各種ガイドラインの周知など、国としても、そこに掲げられていますリスクにしっかり対応するよう取り組んでまいる考えであります。
130
市村浩一郎(維新)
もう一点、「能力を代替する」という表現があるんですね。「能力を代替する機能を実現するために」ということであります。
これは、何か言葉尻を捉えるような質問になるかもしれませんが、人間が僅かでも関与する場合には、能力を代替するとは言えなくなるんでしょうか。これはいかがでしょうか。
この発言のページ
131渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
個別の事案についてはなかなかお答えが難しいところがあるんですけれども、基本的には、人間が行えることを代替するもの、人間の脳の働きを模倣して代替するものにつきましては、この中に該当するというふうに考えております。
この発言のページ
132市村浩一郎(維新)
済みません。一番最初ですので、これからだということを分かった上で質問していますので。決して、ここで議論して、何か、こうしなさい、こうしましょうということではないので。率直にお答えいただきまして、感謝申し上げます。
では、これで定義ということで、状況が、我々の予測を超えるような大きなことが起これば、定義そのものもまた変わる可能性ももちろんゼロじゃない、いかなることにもそれは言えるということであります。そういうことで、まずはこの定義でスタートをしましょうということであります。
ここで、ＡＩというと、それこそ、実は最初、私は結構ネガティブな感じでＡＩを捉え…
この発言のページ
- （上の発言）
133
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えしたいと思います。
まず、人類がＡＩに支配される可能性についての御懸念に関しましては、人間中心の考え方がやはり極めて重要だと考えております。我が国におきましては、平成三十一年、二〇一九年に策定いたしました、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書におきまして、その考え方をしっかりと示してきたところでございます。
したがいまして、本法案に基づき策定することになりますＡＩ基本計画においても、市村委員始め多くの方から、人間中心の考え方をしっかり明示すべきだという御指摘がございますので、その方向で検討を進めてまいりたいというふうに考えております。
その上で、ＡＩに関するリスクというのは非常に多種多様でございまして、事業者によって対応すべき事項は異なり得るものであるため、各事業者において適切にリスク評価等に対応していただく必要があると考えております。
その際、例えば、全てのＡＩ関係者向けの広島プロセス国際指針におきましては、ＡＩのライフサイクル全体にわたるリスクを特定、評価、軽減するために、適切な措置を講ずること等が規定されておりまして、こうしたことは、本法案に基づき整備し、事業者に準備を求める指針にもしっかりと反映させていきたいと考えております。
いずれにしましても、本法案が成立した暁には、関係省庁や関係機関と連携いたしまして、国際的な規範の趣旨に即した指針の整備を進めるとともに、ＡＩセーフティ・インスティテュートが公開しておりますＡＩの安全性に関する各種ガイドラインの周知など、国としても、そこに掲げられていますリスクにしっかり対応するよう取り組んでまいる考えであります。
134市村浩一郎(維新)
この法案は、恐らく苦心の作だと。この間のサイバー安全保障関連法も、日本はある種、後発だからこそ、非常に、各国のいろいろな状況を見ながら、日本らしさをというか、追求した法律だということで、前の、さっきのサイバー安全保障関連法案もそうおっしゃっていましたが、今回も、恐らくそういう思いで作られた法案だと思いますし、非常に、国際協調ということも、十七条ですね、国際協調を推進するということも書かれてありまして、大変、日本らしさというのは分かるんです。
ただ、リスクというのを、例えば軍事転用、軍事利用というリスクも当然あるわけでありまして、我々が一方的に国際協調を…
この発言のページ
135城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
委員お尋ねのＡＩの軍事利用につきましては、実は、必ずしも私の所掌ではございませんが、科学技術政策を担当する大臣の立場からお答えさせていただきますと、やはり、ＡＩはデュアルユース技術でありまして、本法案においても、「経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術である」とした上で、その研究開発能力の保持や関連産業の国際競争力の向上を図ることを基本理念の中で示しているところでございます。
こうした基本理念に基づきまして、ＡＩの研究開発及び活用に関する施策の総合的かつ計画的な推進をしっかりと進めてまいると同時に、価値観を共有する…
この発言のページ
136市村浩一郎(維新)
それで、次に、ＡＩがいろいろな、今度は、例えば、事故や不利益なことを起こした場合ということもリスクということで考えられてきます。
ＡＩを操作して何か不利益なことを起こした人は、それが特定できれば多分刑罰の対象になるんでしょうけれども、もうこれから、ＡＩが独自に新しい知識を身につけて、ＡＩが独自にいろいろなものを勝手に作り出した場合に、それが、何か事件や事故、不利益なこと、例えば人権侵害とか倫理的なものでの侵害とかを起こした場合、対処はどうすればいいのか。お答えいただけますでしょうか。
この発言のページ