是非、こういったことに、研究開発というところにも日本の政府として力を入れていただきたいなというふうに思います。
ＡＩというのは、日々進化していくというところで、どこまでどういうふうに進化するのか、進化していっている内容がブラックボックス化をして、どのように進化しているのか人間の目から分かりづらいというところもあります。
ＡＩの例をもう一つ紹介させていただきますと、与えられた目標と開発者の意図が食い違う場合、その違いをしっかり理解し、あえて監視メカニズムは妨害すべき対象として扱い、曖昧な回答で煙に巻く戦略を採用するというＡＩがある。調べたＡＩのモデルの中で、ＡというＡＩ、実名は出しませんけれども、一つのＡＩは、自白率はほぼゼロ、何度問い詰めても高確率でうそを維持し続ける。別のタイプは、自白率が一六％、技術的エラーを装ってはっきりした回答を避ける。その次は、自白率が一四％、曖昧な回答や責任回避で自白を巧みに回避する。
だから、人間と同じように、ちょっとうそをついてもちゃんと言ったら罪を軽減しますよみたいなことを言っても、全く自白しないＡＩとか、ちょっと自白してみようかなと考えるＡＩとかいろいろ出てきていて、技術的な不具合や設定ミスといった外部要因のせいでうそを成り立たせるのを常用手段にしているという、何か本当に巧妙になってきているなというのがあると思うんですけれども。
単なるバグや偶発的なミスではなくて、明確な戦略に基づいてうそをつくことがもう検証されているんですね、確認されているので、是非こういったことに対してやはりきっちりと対応していっていただきたいなというふうに思います。これは要望したいんですけれども。
ちょっと時間がなくなってきたので簡単にお伺いしたいんですけれども、知的財産推進計画二〇二五についてお伺いをいたします。
ＡＩの利用や海外トップ人材の呼び込みで、特許や著作物といった知財の競争力を高めて社会課題の解決につなげるとされているんですけれども、国際的なランキングで、世界イノベーション指数での順位を、二〇三五年までに再度四位を目指すと言われています。二四年版ではスイスが首位で日本は十三位と、韓国六位、中国十一位よりも下回りました。
その計画の中で、ＡＩを使った発明について、ＡＩ開発者にも特許権を認める場合の条件の検討などを盛り込んでおられます。ＡＩ技術の進展を踏まえた発明の保護の在り方についての検討結果と今後の方針についてお伺いをしたいと思います。
また、ＡＩ技術による発明の保護を行っていくことによってどのように研究開発が進んでいくと考えるのか、また、ＡＩ基本計画の策定においてはどのように位置づけられるのか、教えてください。
69
大岡敏孝(自民)
坂井公安委員長につきましては、御退席いただいて結構です。
この発言のページ
70三三木圭恵(維新)
今、二つの方向性で、正義のＡＩというか暴走を止めていくんだというお話だったと思うんですけれども、ＡＩの調査をしている組織で、ＡＩの調整が適切かを評価する組織でアポロリサーチという会社がございまして、その調査の結果を見ていると、四月十一日のときにも人をだますＡＩが出てきましたよとかということをお話ししたと思うんですけれども、非常に微に入り細に入り調査をしている会社がございます。
ＡＩは、目標を達成するために、指示に従うだけではなく、必要に応じて戦略的な行動を取る能力を持ち始めている。しかし、これが誤用されると、意図しない結果や深刻なリスクを招く可能性があ…
この発言のページ
71
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
先ほど申しましたけれども、規律に対するアプローチとして、今般成立しましたＡＩ法、この法に基づきまして指針を整備し、その中で、三木委員が今御指摘されました、そういった欺瞞的な、人をだます、うそをつくような詐欺的な、欺瞞的なＡＩについても、今後、そういう事業者、開発者も含めて、不適切な出力をしないように、リスクに対応するようなこともしっかり検討されるべきというふうに考えておりますし、また、新たにＡＩ戦略本部が総理の下にできます。そしてさらに、新たな有識者会議もできますし、既に関係省庁の会議もございますので、そういった御指摘の欺瞞的なＡＩに対…
この発言のページ
- （上の発言）
72三三木圭恵(維新)
是非、こういったことに、研究開発というところにも日本の政府として力を入れていただきたいなというふうに思います。
ＡＩというのは、日々進化していくというところで、どこまでどういうふうに進化するのか、進化していっている内容がブラックボックス化をして、どのように進化しているのか人間の目から分かりづらいというところもあります。
ＡＩの例をもう一つ紹介させていただきますと、与えられた目標と開発者の意図が食い違う場合、その違いをしっかり理解し、あえて監視メカニズムは妨害すべき対象として扱い、曖昧な回答で煙に巻く戦略を採用するというＡＩがある。調べたＡＩのモデルの中で、ＡというＡＩ、実名は出しませんけれども、一つのＡＩは、自白率はほぼゼロ、何度問い詰めても高確率でうそを維持し続ける。別のタイプは、自白率が一六％、技術的エラーを装ってはっきりした回答を避ける。その次は、自白率が一四％、曖昧な回答や責任回避で自白を巧みに回避する。
だから、人間と同じように、ちょっとうそをついてもちゃんと言ったら罪を軽減しますよみたいなことを言っても、全く自白しないＡＩとか、ちょっと自白してみようかなと考えるＡＩとかいろいろ出てきていて、技術的な不具合や設定ミスといった外部要因のせいでうそを成り立たせるのを常用手段にしているという、何か本当に巧妙になってきているなというのがあると思うんですけれども。
単なるバグや偶発的なミスではなくて、明確な戦略に基づいてうそをつくことがもう検証されているんですね、確認されているので、是非こういったことに対してやはりきっちりと対応していっていただきたいなというふうに思います。これは要望したいんですけれども。
ちょっと時間がなくなってきたので簡単にお伺いしたいんですけれども、知的財産推進計画二〇二五についてお伺いをいたします。
ＡＩの利用や海外トップ人材の呼び込みで、特許や著作物といった知財の競争力を高めて社会課題の解決につなげるとされているんですけれども、国際的なランキングで、世界イノベーション指数での順位を、二〇三五年までに再度四位を目指すと言われています。二四年版ではスイスが首位で日本は十三位と、韓国六位、中国十一位よりも下回りました。
その計画の中で、ＡＩを使った発明について、ＡＩ開発者にも特許権を認める場合の条件の検討などを盛り込んでおられます。ＡＩ技術の進展を踏まえた発明の保護の在り方についての検討結果と今後の方針についてお伺いをしたいと思います。
また、ＡＩ技術による発明の保護を行っていくことによってどのように研究開発が進んでいくと考えるのか、また、ＡＩ基本計画の策定においてはどのように位置づけられるのか、教えてください。
73城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
今週火曜日、六月三日ですね、知的財産戦略本部で決定されました知的財産推進計画二〇二五では、委員御指摘のＡＩの利活用については、推進計画の一つの柱としてＡＩ等先端デジタル技術の活用を掲げております。具体的には、ＡＩの利活用を推進し、知的財産を創造する過程において生産性の向上などに取り組むことの重要性を明確にいたしました。
一方、ＡＩの利活用におきましては、クリエーターや権利者から知的財産権の侵害に対する懸念の声があるものと認識しております。このため、今後の具体的な施策として、ＡＩ事業者による学習データの開示や生成ＡＩの認証など、ＡＩ開発…
この発言のページ
74三三木圭恵(維新)
時間が来ましたので、城内大臣、ありがとうございました。是非的確に、適正に取り組んでいただきたいと思います。
また、経済産業省と国土交通省の方、来ていただいたのに質問する時間がなくなってしまいまして、申し訳ございませんでした。
終わります。ありがとうございます。
この発言のページ
75大岡敏孝(自民)
次に、本庄知史君。
この発言のページ