済みません。一番最初ですので、これからだということを分かった上で質問していますので。決して、ここで議論して、何か、こうしなさい、こうしましょうということではないので。率直にお答えいただきまして、感謝申し上げます。
では、これで定義ということで、状況が、我々の予測を超えるような大きなことが起これば、定義そのものもまた変わる可能性ももちろんゼロじゃない、いかなることにもそれは言えるということであります。そういうことで、まずはこの定義でスタートをしましょうということであります。
ここで、ＡＩというと、それこそ、実は最初、私は結構ネガティブな感じでＡＩを捉えてしまっていたんです。さっき申し上げた「二〇〇一年宇宙の旅」のＨＡＬ９０００とか、あと、残念ながら二〇一八年に亡くなられたスティーブン・ホーキング先生も、このＡＩの脅威については大変警告を発しておられた。もちろん、もう不可避だということでありますから、ＡＩ時代が来るのは不可避だけれども、非常に、ＡＩが人間を超える可能性もあるということをおっしゃっていて、大変脅威に感じておかなくちゃいけない、でも、ちゃんと使えるようにしなくちゃいけない。まさに、ここはリスクの問題というのが出てくるわけであります。
今回も、もちろんリスクを想定されているということなんですが、この法案が想定するリスクについて、リスク分類に盛り込まれていない不明瞭なものというのはあるんでしょうか。これも、まだ最初ですから、その辺の率直なお考えを聞かせていただければと存じます。
129渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
今回の定義は、まず、工学的に人間の知能の、脳の働きを代替するものを想定をしておりますので、よほど大きな、想像を絶するような、もう本当に、バイオ的にというか、生物学的に人間の脳を作ってしまうようなものでない限りは、この法案の定義に該当するのではないかというふうに考えております。
しかしながら、御指摘のとおり、予想もしないような技術が出てくることもありますので、できる限り工学的に広い定義を捉えて、しかも、「関連技術」というふうにしておりますけれども、もし予想を超えるようなことが起きた場合には検討しなければならないというふうに考えてお…
この発言のページ
130
市村浩一郎(維新)
もう一点、「能力を代替する」という表現があるんですね。「能力を代替する機能を実現するために」ということであります。
これは、何か言葉尻を捉えるような質問になるかもしれませんが、人間が僅かでも関与する場合には、能力を代替するとは言えなくなるんでしょうか。これはいかがでしょうか。
この発言のページ
131渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
個別の事案についてはなかなかお答えが難しいところがあるんですけれども、基本的には、人間が行えることを代替するもの、人間の脳の働きを模倣して代替するものにつきましては、この中に該当するというふうに考えております。
この発言のページ
- （上の発言）
132市村浩一郎(維新)
済みません。一番最初ですので、これからだということを分かった上で質問していますので。決して、ここで議論して、何か、こうしなさい、こうしましょうということではないので。率直にお答えいただきまして、感謝申し上げます。
では、これで定義ということで、状況が、我々の予測を超えるような大きなことが起これば、定義そのものもまた変わる可能性ももちろんゼロじゃない、いかなることにもそれは言えるということであります。そういうことで、まずはこの定義でスタートをしましょうということであります。
ここで、ＡＩというと、それこそ、実は最初、私は結構ネガティブな感じでＡＩを捉えてしまっていたんです。さっき申し上げた「二〇〇一年宇宙の旅」のＨＡＬ９０００とか、あと、残念ながら二〇一八年に亡くなられたスティーブン・ホーキング先生も、このＡＩの脅威については大変警告を発しておられた。もちろん、もう不可避だということでありますから、ＡＩ時代が来るのは不可避だけれども、非常に、ＡＩが人間を超える可能性もあるということをおっしゃっていて、大変脅威に感じておかなくちゃいけない、でも、ちゃんと使えるようにしなくちゃいけない。まさに、ここはリスクの問題というのが出てくるわけであります。
今回も、もちろんリスクを想定されているということなんですが、この法案が想定するリスクについて、リスク分類に盛り込まれていない不明瞭なものというのはあるんでしょうか。これも、まだ最初ですから、その辺の率直なお考えを聞かせていただければと存じます。
133
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えしたいと思います。
まず、人類がＡＩに支配される可能性についての御懸念に関しましては、人間中心の考え方がやはり極めて重要だと考えております。我が国におきましては、平成三十一年、二〇一九年に策定いたしました、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書におきまして、その考え方をしっかりと示してきたところでございます。
したがいまして、本法案に基づき策定することになりますＡＩ基本計画においても、市村委員始め多くの方から、人間中心の考え方をしっかり明示すべきだという御指摘がございますので、その方向で検討を進めてまいりたいというふう…
この発言のページ
134市村浩一郎(維新)
この法案は、恐らく苦心の作だと。この間のサイバー安全保障関連法も、日本はある種、後発だからこそ、非常に、各国のいろいろな状況を見ながら、日本らしさをというか、追求した法律だということで、前の、さっきのサイバー安全保障関連法案もそうおっしゃっていましたが、今回も、恐らくそういう思いで作られた法案だと思いますし、非常に、国際協調ということも、十七条ですね、国際協調を推進するということも書かれてありまして、大変、日本らしさというのは分かるんです。
ただ、リスクというのを、例えば軍事転用、軍事利用というリスクも当然あるわけでありまして、我々が一方的に国際協調を…
この発言のページ
135城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
委員お尋ねのＡＩの軍事利用につきましては、実は、必ずしも私の所掌ではございませんが、科学技術政策を担当する大臣の立場からお答えさせていただきますと、やはり、ＡＩはデュアルユース技術でありまして、本法案においても、「経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術である」とした上で、その研究開発能力の保持や関連産業の国際競争力の向上を図ることを基本理念の中で示しているところでございます。
こうした基本理念に基づきまして、ＡＩの研究開発及び活用に関する施策の総合的かつ計画的な推進をしっかりと進めてまいると同時に、価値観を共有する…
この発言のページ