ＡＩ法という中での不正な目的には入らないということだと思いますが、しかし、ＡＩ一般を取ってみると、そもそもインターネットも米軍のＤＡＲＰＡで、ＡＲＰＡネットというところから出てきたものが今のインターネットでありますし、ＡＩというのも、そもそもやはり軍事目的で開発されたものが民間転用されたということの歴史もあると私は存じておりますので、そもそも軍事目的で開発されたものだというところから考えますと、やはりこれが軍事目的に使われないということはないわけでありまして、しかし、そこを別途、このＡＩ法は最初ですから、これからいろいろな流れが出てくる中で、当然、ＡＩが平和利用ができるように、特に人間中心というところでありますれば、特に我が国は平和国家を標榜している国家でありますから、当然、我が国としてはそれを前面に押し出して議論をしていくということが必要だと思いますが、大臣、いかがでございますか。
市村浩一郎 (日本維新の会)
2025年4月16日・第217回国会 衆議院 内閣委員会 第14号（外部サイト、新しいタブで開きます） の 179 番目の発言（外部サイト、新しいタブで開きます）（全 237 発言）
前後のやりとり
お答えいたします。
例えば、不正の目的としては、サイバー攻撃を行うことを目的としコンピューターウイルスの作成方法等に関するデータを学習させるもの、詐欺に用いる目的で他人の合成音声を出力させるものなどが挙げられます。
また、不適切な方法としては、開発したＡＩの評価中に有害な情報が出力されることを知りながら対策等を行わずにＡＩを提供すること、あるいは、企業の従業員が入力された情報の管理方法を把握しないまま顧客の個人情報や会社の営業秘密を入力するものなどが挙げられます。
177
市村浩一郎(維新)そこには、大臣、不正の目的には、例えば人を殺害するような軍事利用というのは含まれると考えていいんでしょうか。
178
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 人を殺害するような軍事利用は含まれるかどうかでありますが、デュアルユース技術でありますＡＩ技術は、経済社会の発展へ寄与するのみならず、我が国の安全保障に寄与することも考えられます。 他方で、御指摘のような、人間を殺害するような軍事利用につきましては、国民生活の向上及び国民経済の健全な発展に寄与することを目的とする、これは第一条にございますけれども、ＡＩ法案の対象とする不正な目的ではないと考えておりまして、これは別途国際的な議論が行われておりまして、そのところで別途適切に対応すべきだと考えておりまして、具体的には、自律型致死兵器システム…
- （上の発言）
179
市村浩一郎(維新)ＡＩ法という中での不正な目的には入らないということだと思いますが、しかし、ＡＩ一般を取ってみると、そもそもインターネットも米軍のＤＡＲＰＡで、ＡＲＰＡネットというところから出てきたものが今のインターネットでありますし、ＡＩというのも、そもそもやはり軍事目的で開発されたものが民間転用されたということの歴史もあると私は存じておりますので、そもそも軍事目的で開発されたものだというところから考えますと、やはりこれが軍事目的に使われないということはないわけでありまして、しかし、そこを別途、このＡＩ法は最初ですから、これからいろいろな流れが出てくる中で、当然、ＡＩが平和利用ができるように、特に人間中心というところでありますれば、特に我が国は平和国家を標榜している国家でありますから、当然、我が国としてはそれを前面に押し出して議論をしていくということが必要だと思いますが、大臣、いかがでございますか。
180
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおりでございまして、ＡＩの軍事利用については今申しましたように国際的な議論が別途なされておりますが、当然、人道と安全保障の視点を勘案したバランスの取れた議論を通じまして、最大の目標というか目的であります人間中心のＡＩ、人間中心の原則、これが維持され又は責任ある形での利用が促進されることが重要であることは言うまでもございません。
いずれにしましても、その国際的な議論を踏まえつつ、政府としても適切に対応してまいる考えであります。
181
市村浩一郎(維新)ありがとうございます。 これはよく言われるように、これからはＡＩ対ＡＩという時代になっていきます。そのＡＩがどういうＡＩであるのかということが大変重要になってくるわけでありまして、実はこれから二、三年で、これまで我々人類が生み出してきた情報量をＡＩが生み出す情報量が超えるということになるというふうに指摘される方がおられるんですね。 となると、その中には恐らく、先ほどからずっとフェイクの話が大変出ていますが、フェイクが多分に含まれる情報がいろいろ広がっていく。その情報を基に、その情報をデータにＡＩが取り込ませるようなことをしますと、もはやそれはフェイク…
182
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）市村委員と御懸念は本当に共有しております。 御指摘のとおり、誤情報の生成、拡散への懸念に関して、例えば、ＡＩが生成したデータを別のＡＩが学習して、元のＡＩの誤り、偏り、差別的な表現とか、そういうものがどんどん増幅されてしまって、かえってＡＩの精度が低下する、信頼性がなくなる、そういったような研究結果も報告されております。 こうした中、あるデータがＡＩによって生成されたか否かを識別する研究開発も進められております。今後、あるデータがＡＩ生成物なのか否かに加えまして、ＡＩの学習に適した学習データなのか否かを判別できる技術が実用化されることも想定されますの…