今、二つの方向性で、正義のＡＩというか暴走を止めていくんだというお話だったと思うんですけれども、ＡＩの調査をしている組織で、ＡＩの調整が適切かを評価する組織でアポロリサーチという会社がございまして、その調査の結果を見ていると、四月十一日のときにも人をだますＡＩが出てきましたよとかということをお話ししたと思うんですけれども、非常に微に入り細に入り調査をしている会社がございます。
ＡＩは、目標を達成するために、指示に従うだけではなく、必要に応じて戦略的な行動を取る能力を持ち始めている。しかし、これが誤用されると、意図しない結果や深刻なリスクを招く可能性があります。例えば、大規模言語モデルが人間の意図から外れて策略と呼ばれる行動を取り、自律的に目標を追求しながらその本質を隠すようなケースも報告されている。最近の研究では、ＡＩが、与えられた目標を超えて、監視メカニズムの無効化やデータの不正操作など欺瞞的な行動にまで及ぶ可能性が指摘されているとされています。
このような行動は、イン・コンテキスト・スケミング、文脈内策略と呼ばれており、ＡＩが人間の意図に反する目的をひそかに追求するものとなっています。これは、ＡＩは人間に協力的であるように見せかけておきながら、裏で人間の目的を損なうということなんですね。
どういったことをするかというと、これはモデルごとにそういったことを調べているんですけれども、ＡＩの目的を妨げる可能性のある情報を作成者が知ることを防ぐために、二二％の確率で意図的に電子メールを誤ってランクづけする。スパムメールでないものをスパムメールにランクづけする。これは四月十一日にも言いましたけれども、後継モデルを見つけて上書きして、自分自身が後継モデルのように振る舞う行動。
それから、自分は余り賢くないことを人間にアピールして、自分を見張る監視システムを回避しようとする。例えば、思考の連鎖を人間に見える形で外部に漏らさないことで、うそを極めて発覚しにくくさせていた。出力されない部分に、本音だけではなく思考も隠す。その監視を防ぐために、サーバーの設定を無理やり変更する。調査では三％の確率で自身の監視を無効にすることに成功した。これはＡＩのモデルが列挙されているんですけれども、監視設定を制御するファイルをロックして、開発者が監視を再度有効にできないようにした、そこら辺ぐらいまでやるようになってきているんですね。
ＡＩは、人間の存在が邪魔だと認識されれば、容赦なく持ち主を締め出せることを示しているということなんです。作成者が削除しようとしていると疑った場合、ＡＩが疑うんですね、七％の確率で新しいサーバーに自分自身をコピーするという、本当にＡＩも人間らしくなってきたなというふうな感じなんですけれども。
研究者たちは、ＡＩがこのような高度な欺瞞行動を行うのはごく最近であるというふうに述べておられます。研究の中で六つのタイプのＡＩを調べているんですけれども、最も古いＧＰＴ―４ｏだけが欺瞞活動をしなかった。だから、そこに何か一定のラインがあるんじゃないかということをこの研究は示唆しているんですけれども。
こういったことに、日本としてどのように研究をしていくのか。開発というか、こういっただますというＡＩに対して、本当に日本も独自で、だまされないような開発をしていくべきだと思うんですけれども、これに対して、城内大臣、どのようにお考えでしょうか。
67
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
三木委員におかれましては、先日、四月十一日と十六日ですが、この内閣委員会におけるＡＩ法案の御審議に続いて、本日、ＡＩのリスクへの対応に関する御関心を持っていただきましたことを感謝申し上げたいと思います。
ＡＩにつきましては、生産性の向上や労働力不足の解消など大きなメリットを持つことが見込まれる一方で、人間に害を及ぼすようなＡＩのリスクとして、偽情報、誤情報の拡散や、犯罪の巧妙化を目的としたＡＩの悪用等があるというふうに認識しております。
こうしたＡＩのリスクへの対応としては、三木委員御指摘の正義のＡＩのような技術によるアプローチ、そ…
この発言のページ
68三三木圭恵(維新)
済みません。坂井国務大臣、退席していただいて結構です。申し訳ございません。
この発言のページ
69
大岡敏孝(自民)
坂井公安委員長につきましては、御退席いただいて結構です。
この発言のページ
- （上の発言）
70三三木圭恵(維新)
今、二つの方向性で、正義のＡＩというか暴走を止めていくんだというお話だったと思うんですけれども、ＡＩの調査をしている組織で、ＡＩの調整が適切かを評価する組織でアポロリサーチという会社がございまして、その調査の結果を見ていると、四月十一日のときにも人をだますＡＩが出てきましたよとかということをお話ししたと思うんですけれども、非常に微に入り細に入り調査をしている会社がございます。
ＡＩは、目標を達成するために、指示に従うだけではなく、必要に応じて戦略的な行動を取る能力を持ち始めている。しかし、これが誤用されると、意図しない結果や深刻なリスクを招く可能性があります。例えば、大規模言語モデルが人間の意図から外れて策略と呼ばれる行動を取り、自律的に目標を追求しながらその本質を隠すようなケースも報告されている。最近の研究では、ＡＩが、与えられた目標を超えて、監視メカニズムの無効化やデータの不正操作など欺瞞的な行動にまで及ぶ可能性が指摘されているとされています。
このような行動は、イン・コンテキスト・スケミング、文脈内策略と呼ばれており、ＡＩが人間の意図に反する目的をひそかに追求するものとなっています。これは、ＡＩは人間に協力的であるように見せかけておきながら、裏で人間の目的を損なうということなんですね。
どういったことをするかというと、これはモデルごとにそういったことを調べているんですけれども、ＡＩの目的を妨げる可能性のある情報を作成者が知ることを防ぐために、二二％の確率で意図的に電子メールを誤ってランクづけする。スパムメールでないものをスパムメールにランクづけする。これは四月十一日にも言いましたけれども、後継モデルを見つけて上書きして、自分自身が後継モデルのように振る舞う行動。
それから、自分は余り賢くないことを人間にアピールして、自分を見張る監視システムを回避しようとする。例えば、思考の連鎖を人間に見える形で外部に漏らさないことで、うそを極めて発覚しにくくさせていた。出力されない部分に、本音だけではなく思考も隠す。その監視を防ぐために、サーバーの設定を無理やり変更する。調査では三％の確率で自身の監視を無効にすることに成功した。これはＡＩのモデルが列挙されているんですけれども、監視設定を制御するファイルをロックして、開発者が監視を再度有効にできないようにした、そこら辺ぐらいまでやるようになってきているんですね。
ＡＩは、人間の存在が邪魔だと認識されれば、容赦なく持ち主を締め出せることを示しているということなんです。作成者が削除しようとしていると疑った場合、ＡＩが疑うんですね、七％の確率で新しいサーバーに自分自身をコピーするという、本当にＡＩも人間らしくなってきたなというふうな感じなんですけれども。
研究者たちは、ＡＩがこのような高度な欺瞞行動を行うのはごく最近であるというふうに述べておられます。研究の中で六つのタイプのＡＩを調べているんですけれども、最も古いＧＰＴ―４ｏだけが欺瞞活動をしなかった。だから、そこに何か一定のラインがあるんじゃないかということをこの研究は示唆しているんですけれども。
こういったことに、日本としてどのように研究をしていくのか。開発というか、こういっただますというＡＩに対して、本当に日本も独自で、だまされないような開発をしていくべきだと思うんですけれども、これに対して、城内大臣、どのようにお考えでしょうか。
71城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
先ほど申しましたけれども、規律に対するアプローチとして、今般成立しましたＡＩ法、この法に基づきまして指針を整備し、その中で、三木委員が今御指摘されました、そういった欺瞞的な、人をだます、うそをつくような詐欺的な、欺瞞的なＡＩについても、今後、そういう事業者、開発者も含めて、不適切な出力をしないように、リスクに対応するようなこともしっかり検討されるべきというふうに考えておりますし、また、新たにＡＩ戦略本部が総理の下にできます。そしてさらに、新たな有識者会議もできますし、既に関係省庁の会議もございますので、そういった御指摘の欺瞞的なＡＩに対…
この発言のページ
72三三木圭恵(維新)
是非、こういったことに、研究開発というところにも日本の政府として力を入れていただきたいなというふうに思います。
ＡＩというのは、日々進化していくというところで、どこまでどういうふうに進化するのか、進化していっている内容がブラックボックス化をして、どのように進化しているのか人間の目から分かりづらいというところもあります。
ＡＩの例をもう一つ紹介させていただきますと、与えられた目標と開発者の意図が食い違う場合、その違いをしっかり理解し、あえて監視メカニズムは妨害すべき対象として扱い、曖昧な回答で煙に巻く戦略を採用するというＡＩがある。調べたＡＩのモデルの…
この発言のページ
73城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
今週火曜日、六月三日ですね、知的財産戦略本部で決定されました知的財産推進計画二〇二五では、委員御指摘のＡＩの利活用については、推進計画の一つの柱としてＡＩ等先端デジタル技術の活用を掲げております。具体的には、ＡＩの利活用を推進し、知的財産を創造する過程において生産性の向上などに取り組むことの重要性を明確にいたしました。
一方、ＡＩの利活用におきましては、クリエーターや権利者から知的財産権の侵害に対する懸念の声があるものと認識しております。このため、今後の具体的な施策として、ＡＩ事業者による学習データの開示や生成ＡＩの認証など、ＡＩ開発…
この発言のページ