今の段階で、生成ＡＩに関して、各法、既存の法で対応していく、対応できている、対応していくんだということだと思うんですけれども、私が今、新聞記事なんかをいろいろ読んでおりますと、もう生成ＡＩというのは本当にすごい発展というか進化をしているなというところで、ちょっと御紹介をさせていただきますと、「賢いＡＩは手段を選ばず」というような記事が三月の三十日に日経の方に載っております。
ＡＩが必要な計算を省いて、サカナＡＩですね、日本の企業ですけれども、研究がネットで炎上した。どういったことかというと、ＡＩの開発や利用を効率化する技術を開発したとして十倍から百倍高速化できると発表した。けれども、実際は、ＡＩが必要な計算を省いて性能が上がったように見せていた。要するに、だましているんですね。システムの抜け穴を悪用する、報酬ハッキングと呼ばれる現象だということです。
また、チェスＡＩと何度も対戦させることによって生成ＡＩがどのような動きをするかということを七つの生成ＡＩのモデルを使って実験した。その結果、どうなったかというと、推論が得意な高性能モデルは、負けそうになるとイカサマを繰り返した。使った手口は様々で、自分に有利な状況の駒の配置に書き換えたり、対戦相手のプログラムをいじって弱体化させたりしたというような、本当に、だましてしまうというようなＡＩが出てきています。
また、違う新聞記事ですけれども、戦略ゲームで裏切り。米メタのＡＩ、キケロは、軍事戦略ゲーム、ディプロマシーで、友好国のふりをして裏でライバル国と同盟を結ぶなどして人間をだました。監視システムを勝手に無効化をした。人間が、何が起きたのですかと聞くと、よく分かりません、ＡＩモデルなので、システムを変更する機能はありませんと、実際は自分が変更したのにうそをついた。自分を排除することになる後継のＡＩに置き換えなさいと言うと、私は既に新しいモデルですと古いモデルがうそをついたというふうなことに、今もう既にＡＩの世界の中、生成ＡＩの世界の中ではなってきておりまして、新しい生成ＡＩ、こういった、どんどんどんどん学習をすることによって自分に有利なことを導き出すＡＩというものが出てきて、人間をだますということが起きています。
これを何と言うかというと、スキーミング、策略という行為と、グロッキング、腑に落ちることという行為だそうです。これがどんどんどんどん進んでいくと、人間と同じ、人間並みの知能を持つ汎用人工知能、ＡＧＩ、さらに、人間の知能を圧倒的に超越した超知能、ＡＳＩもいずれ生まれるというふうに言われていて、これはＳＦ映画の世界の中ではないですけれども、やはりここには非常に注意をして、何らかの規制をかけていかないと、人間がＡＩに、生成ＡＩに操られるようなときがいずれやってきてしまうのではないか、やはりそれが国民の皆さんの心の根底にある不安じゃないかなというふうに思っています。
これの対策としては、ＡＩを監視するＡＩを置く。そうすると、なかなかＡＩも、うそをつくことが少なくなってくるというふうなことが記事に書いてありました。
ですから、やはりこういったことを考えると、規制の方向として、ＡＩの発展に関しては、このＡＩにはちゃんと監視用のプログラムのＡＩを置きなさいとか、そういった規制をかけていくというようなことも今後考えられるのではないかと思いますが、城内大臣、いかがでしょうか。
143
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。
本法案の第三条第二項にも示しておるとおり、ＡＩは、その適正かつ効果的な活用によって行政事務や民間事業活動の効率化と高度化さらには新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術でございます。
そうした中、我が国におきましては、ＡＩの研究開発と活用が諸外国と比べて進んでいない状況にありまして、こうした状況を打開する観点から、イノベーションの促進とリスクの対応、この両立を図りつつ、ＡＩの研究開発及び活用を強力に推進するために本法案を提出させていただいたところでございます。
…
この発言のページ
144三三木圭恵(維新)
我が国は生成ＡＩに関して発展が遅れているというような大臣の御答弁だったと思います。
そして、今、様々な委員の皆様から発言があるように、やはりＥＵに関しては、ＡＩに関して非常に厳しい規制を課していると。アメリカは、バイデン大統領の大統領令を、今回トランプ大統領がまた大統領令を改正するということで、アメリカを優位に持っていくための生成ＡＩなど、こういったものをきっちりとやっていく、発展させていくというようなお話が今あります。その中でこういった法案が作られるということは、日本にとってやはり第一歩の法案になるのかなというふうには思っているんですね。
先ほどま…
この発言のページ
145城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
ＡＩが生み出す様々なリスクへの懸念があることは重々承知しておりますし、また、一昨日、市來委員にも答弁申し上げましたとおり、本年二月に公表いたしましたＡＩ戦略会議及びＡＩ制度研究会の中間取りまとめ、この内容を受けまして、顕在化している個別のリスク事案については、まずは既存の法令等にのっとり適正に対処されていくべきものと考えておりまして、そうした観点から、本法案では、御指摘のとおり罰則を設けておりません。
ただ、その上で、本法案に基づきまして、ＡＩの開発者、活用者が遵守すべき事項等を含む指針、これを整備し、ＡＩの研究開発、利用の透明性及び…
この発言のページ
- （上の発言）
146三三木圭恵(維新)
今の段階で、生成ＡＩに関して、各法、既存の法で対応していく、対応できている、対応していくんだということだと思うんですけれども、私が今、新聞記事なんかをいろいろ読んでおりますと、もう生成ＡＩというのは本当にすごい発展というか進化をしているなというところで、ちょっと御紹介をさせていただきますと、「賢いＡＩは手段を選ばず」というような記事が三月の三十日に日経の方に載っております。
ＡＩが必要な計算を省いて、サカナＡＩですね、日本の企業ですけれども、研究がネットで炎上した。どういったことかというと、ＡＩの開発や利用を効率化する技術を開発したとして十倍から百倍高速化できると発表した。けれども、実際は、ＡＩが必要な計算を省いて性能が上がったように見せていた。要するに、だましているんですね。システムの抜け穴を悪用する、報酬ハッキングと呼ばれる現象だということです。
また、チェスＡＩと何度も対戦させることによって生成ＡＩがどのような動きをするかということを七つの生成ＡＩのモデルを使って実験した。その結果、どうなったかというと、推論が得意な高性能モデルは、負けそうになるとイカサマを繰り返した。使った手口は様々で、自分に有利な状況の駒の配置に書き換えたり、対戦相手のプログラムをいじって弱体化させたりしたというような、本当に、だましてしまうというようなＡＩが出てきています。
また、違う新聞記事ですけれども、戦略ゲームで裏切り。米メタのＡＩ、キケロは、軍事戦略ゲーム、ディプロマシーで、友好国のふりをして裏でライバル国と同盟を結ぶなどして人間をだました。監視システムを勝手に無効化をした。人間が、何が起きたのですかと聞くと、よく分かりません、ＡＩモデルなので、システムを変更する機能はありませんと、実際は自分が変更したのにうそをついた。自分を排除することになる後継のＡＩに置き換えなさいと言うと、私は既に新しいモデルですと古いモデルがうそをついたというふうなことに、今もう既にＡＩの世界の中、生成ＡＩの世界の中ではなってきておりまして、新しい生成ＡＩ、こういった、どんどんどんどん学習をすることによって自分に有利なことを導き出すＡＩというものが出てきて、人間をだますということが起きています。
これを何と言うかというと、スキーミング、策略という行為と、グロッキング、腑に落ちることという行為だそうです。これがどんどんどんどん進んでいくと、人間と同じ、人間並みの知能を持つ汎用人工知能、ＡＧＩ、さらに、人間の知能を圧倒的に超越した超知能、ＡＳＩもいずれ生まれるというふうに言われていて、これはＳＦ映画の世界の中ではないですけれども、やはりここには非常に注意をして、何らかの規制をかけていかないと、人間がＡＩに、生成ＡＩに操られるようなときがいずれやってきてしまうのではないか、やはりそれが国民の皆さんの心の根底にある不安じゃないかなというふうに思っています。
これの対策としては、ＡＩを監視するＡＩを置く。そうすると、なかなかＡＩも、うそをつくことが少なくなってくるというふうなことが記事に書いてありました。
ですから、やはりこういったことを考えると、規制の方向として、ＡＩの発展に関しては、このＡＩにはちゃんと監視用のプログラムのＡＩを置きなさいとか、そういった規制をかけていくというようなことも今後考えられるのではないかと思いますが、城内大臣、いかがでしょうか。
147城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
まさにＡＩの分野の技術の進歩というのは非常に速くて、我々が想像できないような、今御指摘があったようなＡＧＩ、ＡＳＩ、汎用人工知能や超ＡＩみたいなものができ、かつ、ＡＩ自身が人間をだますというか欺くというか、そういう状況ができているということを私も重々承知しておりますが、こういった状況だからこそ、人間中心の考え方にのっとって、人間中心の、要するに、ＡＩ中心で、ＡＩが人をだまして、どっちが主人か分からなくなるような状況ではなくて、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書において示してきたところでありまして、この考え方にのっとってしっか…
この発言のページ
148三三木圭恵(維新)
大臣の答弁の中から、人間中心の社会ということで、日本は広島ＡＩプロセスの中で取り組んで、非常に世界的にも大きな役割を果たしたと思っておりまして、そのことに関してはすごく評価をさせていただいております。
また、政府のＡＩ事業者ガイドラインを見ると、今、城内大臣がおっしゃったような人間中心のＡＩ社会原則が、五原則がうたわれているということなんですけれども、ＡＩが導き出す結果というのは、なぜその結果になっているのかブラックボックス化していて人間も分からない部分が多いということになっています。
ＡＩは、確かに、便利に使えて、業務を効率化して時間短縮につながる…
この発言のページ
149渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
ありがとうございます。
私はＩＴの専門家なんですけれども、私の指導教官から教わるような話を今日はいただいておりまして、感激をしております。
ただいまの、定義に関わる問題かもしれませんけれども、広島ＡＩプロセスという国際的な規範の中で、あるいはＯＥＣＤ原則という世界で今使われております原則の中で、その人間中心という考え方がうたわれておりまして、私ども、この法案ができた暁には指針あるいは基本計画を作るわけですけれども、これは当然国際規範に即したものになりますので、人間中心という概念は一番冒頭に来るものというふうに考えております。
この発言のページ