2025年4月16日・第217回国会 衆議院 内閣委員会 第14号（外部サイト、新しいタブで開きます） の 40 番目の発言（外部サイト、新しいタブで開きます）（全 237 発言）
ありがとうございます。
おっしゃるとおり、人間の知能を超えるようなＡＩ、ＡＧＩというふうな言い方もされますけれども、そういった開発に向けて世界がしのぎを削っているということかと思います。
そういった中で、いろいろなリスクがあるわけですけれども、先生がおっしゃられたような人をだます知能、これは少し注意が必要でして、人をだますＡＩというのはあるわけですけれども、ただ、ＡＩが自ら人をだまそうと思ってだましているわけではなくて、その裏には人がいて、それがＡＩを使って人をだまそうとしている、そういうふうに技術を使っているということです。ですから、技術そのものが悪いということではなくて、やはりそこの裏側にいる人が悪いということだと思います。
したがって、こういったリスクを減らしていくためにも、今回の法案でつくられますＡＩ戦略本部が中心になって、どういった使われ方をしているのか、そこにそういったリスクがないのかというのを素早く察知して対応していくということが重要かと思います。
三木先生、ありがとうございます。 私、この法案に関して思うのは、やはり法治国家として、法律の下にＡＩをしっかりと管理をしていくということの重要性であります。 といいますのも、ソフトローでということで、ＡＩ戦略会議の中で二年前から議論しておりましたけれども、ヨーロッパでＡＩアクトが発動し、そして、やはり法律的なバックグラウンドがない中で、しっかりと日本の権利が主張できない状態というのは絶対に避けないといけないというふうに思っております。 また、日本においては、法律に定まっていることに関して事業をするということに対して、海外だと、法律に定まっていないか…
ありがとうございます。
端的に理念というところで申し上げると、やはり人間の一人一人の可能性を広げるというところかなと思っています。同じテクノロジーであっても、人間の可能性を狭めるような使い方もできますし、広げるような使い方もできるわけで、このＡＩという技術は、我々の、人間の可能性を広げていくという方向に使っていこうということが重要なのではないかと思います。
ありがとうございます。 やはり生成ＡＩが発展していく、私たちもそれを促進していく、日本の国富のために促進していくという法案だというふうに思うんですけれども、生成ＡＩの分野は非常に進歩が速くて、先日の内閣委員会で私も質問をさせていただいた中で、ＡＩが人をだますような知能をもう持ってきているというようなことがございます。 その中で、やはり人間の知能を超えるＡＩというものが開発されてくるのが近未来的に見えているというような中で、どのようなことに今後政府は気をつけていかなければならないのかというところをちょっと教えていただけたらなと思います。是非、四人の参考…
ありがとうございます。
おっしゃるとおり、人間の知能を超えるようなＡＩ、ＡＧＩというふうな言い方もされますけれども、そういった開発に向けて世界がしのぎを削っているということかと思います。
そういった中で、いろいろなリスクがあるわけですけれども、先生がおっしゃられたような人をだます知能、これは少し注意が必要でして、人をだますＡＩというのはあるわけですけれども、ただ、ＡＩが自ら人をだまそうと思ってだましているわけではなくて、その裏には人がいて、それがＡＩを使って人をだまそうとしている、そういうふうに技術を使っているということです。ですから、技術そのものが悪いということではなくて、やはりそこの裏側にいる人が悪いということだと思います。
したがって、こういったリスクを減らしていくためにも、今回の法案でつくられますＡＩ戦略本部が中心になって、どういった使われ方をしているのか、そこにそういったリスクがないのかというのを素早く察知して対応していくということが重要かと思います。
ありがとうございます。 一つ申し上げるとすれば、私の最初のお話の最後にございました、絶え間ない継続的な制度の検討体制だというふうに考えております。やはり問題が顕在化してから、立法事実が我が国で明確になってから対応する、検討を始めるのではなく、常日頃から、その端緒が生じたときにいかなる制度的対応の選択肢があるのかということを継続的に検討していく。 人間をだますという意味ですと、例えば、我が国でも昨今問題になりました有名人の投資詐欺、ＳＮＳ広告問題でございますね。あのことというのは、我が国で去年問題になる三年、四年前、英語圏では、既に非常に深刻な問題とし…
ありがとうございます。 一つ気をつけないといけないところとしては、ＡＩを使わないことだというふうに思っております。ただ、ＡＩを全く使わないということにはならないですし、犯罪者も使ってくることになります。 ですので、例えば法案審議において、ＬＬＭに聞いちゃって、それを基に法案を作るとなると、そのＬＬＭが、本当に国会議員の皆さんが、衆議院、参議院とともに自分たちで作った国会専用のＬＬＭで、それで生産性を上げるために作るということは十分に考えられると思いますけれども、ＡＧＩのような本当に発展したＡＩを基に、例えば国の方向性を決めるようなことに使ってしまうと…
ありがとうございます。
先ほど松尾先生と田中さんがおっしゃっていたとおりだと思っていまして、ＡＩ自身が、自ら人をだましていくというよりも、例えば、ほかの勢力がＡＩをフルに活用しながら攻撃してくる方が、より現実的には脅威だと思っております。
それに対抗するためには、やはり我が国でしっかりとした科学技術を発展させ、ＡＩを発展させ、対抗できるようなＡＩを作っておくということかなと思っております。