今御指摘いただきましたように、新たに開発された高性能のＡＩモデルにつきまして、リリースされる前に我が国のＡＩＳＩが先行的にアクセス権を得まして、サイバー攻撃に悪用できるかどうかなど安全性を評価できるようにするということは非常に重要であると考えてございます。
そのためには、その我が国のＡＩＳＩに先行的に評価をしてもらうということが先方のいわゆる高性能なＡＩモデルを開発する企業にとって意味があると思ってもらう状況をつくるということが重要でございまして、そのためにはＡＩＳＩが実力と実績を高めていくということがまず重要であると考えてございます。
こうしたことから、ＡＩＳＩにおきましては、体制を強化をしＡＩモデルを評価する手法やツールの開発を進めるとともに、実際に自ら高性能ＡＩモデルの安全性を評価をし、その結果をそれを開発した企業と意見交換を行うといったようなことで、そういった企業を、進めているところでございます。
こういった取組によりまして、ＡＩＳＩの実力と実績を高め、高性能のＡＩを開発する企業との信頼関係を構築をし、新たに開発されるＡＩモデルを先行して評価できるようにしていきたいという方針でございます。
141
安野貴博(みらい)
御答弁いただき、ありがとうございます。是非、今後の体制についても、対応についても検討いただければと思います。
次に、二番目の質問に参ります。フロンティアＡＩモデルそのものを評価する能力についてお伺いいたします。
今般のような事態に早期に対応するためには、日本のＡＩセーフティ・インスティテュート、いわゆるＡＩＳＩが自ら個別のモデルを評価する技術的能力を備えること、これが極めて重要だと考えております。私自身、フロンティアＡＩラボの方々と意見交換をする中で、日本がこういったミュトスのようなモデルに対して早めにアクセスをもらうときに、アーリーアクセスを認める…
この発言のページ
142恒恒藤晃内閣府科学技術・イノベーション推進事務局審議官
委員御指摘のとおり、我が国のＡＩＳＩが自ら個別のＡＩモデルを評価する技術的能力を備えることは非常に重要であると考えておりまして、現在、ＡＩ基本計画に基づきまして、ＡＩＳＩの抜本的強化に向け体制の強化を進めているところでございます。
具体的には、技術的専門性を有する民間からの人材の採用を進めるとともに、政府からの出向者を増やすということで体制強化を図っております。その一環として、ＡＩＳＩがより技術的能力の高い民間人材を確保できるよう、給与規程の見直しを行い、能力に見合った処遇を受けられるような体制を整備したところでございます。
諸外国のＡＩＳＩ等の状況…
この発言のページ
143安野貴博(みらい)
御答弁いただき、ありがとうございます。処遇の改善について進捗がある点というのは評価したいと思います。
モデルを評価できる人材の強化に加えて、その上で、海外のＡＩを作っている企業との信頼関係構築も、これもまた重要な観点だと考えます。政府として、現時点でこのような信頼関係構築を課題として捉えておられるか、あるいはどのように対応していかれる予定か、お聞かせください。
この発言のページ
- （上の発言）
144恒恒藤晃内閣府科学技術・イノベーション推進事務局審議官
今御指摘いただきましたように、新たに開発された高性能のＡＩモデルにつきまして、リリースされる前に我が国のＡＩＳＩが先行的にアクセス権を得まして、サイバー攻撃に悪用できるかどうかなど安全性を評価できるようにするということは非常に重要であると考えてございます。
そのためには、その我が国のＡＩＳＩに先行的に評価をしてもらうということが先方のいわゆる高性能なＡＩモデルを開発する企業にとって意味があると思ってもらう状況をつくるということが重要でございまして、そのためにはＡＩＳＩが実力と実績を高めていくということがまず重要であると考えてございます。
こうしたことから、ＡＩＳＩにおきましては、体制を強化をしＡＩモデルを評価する手法やツールの開発を進めるとともに、実際に自ら高性能ＡＩモデルの安全性を評価をし、その結果をそれを開発した企業と意見交換を行うといったようなことで、そういった企業を、進めているところでございます。
こういった取組によりまして、ＡＩＳＩの実力と実績を高め、高性能のＡＩを開発する企業との信頼関係を構築をし、新たに開発されるＡＩモデルを先行して評価できるようにしていきたいという方針でございます。
145安野貴博(みらい)
ありがとうございます。
方針に関しては違和感全くございませんでしたが、その上で一点課題提起させていただきたいと思います。
フロンティアＡＩ企業から公表前のモデル情報という極めて機微な情報を継続的に共有いただくためには、意見交換のレベルを超えて、制度的な信頼の担保が必要ではないかと考えます。
これ、私、調査室を通じて確認したところ、政府からは、ＡＩＳＩはＩＰＡに設置された組織であり、ＩＰＡ役職員には守秘義務が課せられているという説明がありました。ですが、国家公務員の守秘義務は、もし破ったとしても一年以内の拘禁刑又は罰則数十万円程度で済んでしまいます。…
この発言のページ
146恒恒藤晃内閣府科学技術・イノベーション推進事務局審議官
まず、そういった企業の信頼を勝ち得ていくという観点では、当然、情報の管理はしっかりしていかなきゃいけないとは考えてございます。
また、ＡＩＳＩが今後自らＡＩモデルを評価するようになったという際には、それがサイバー攻撃に悪用される可能性などに関する情報を自らその評価によって得るということも想定され、適切に情報管理することは重要でございます。
それについては、今委員御指摘のとおり、ＡＩＳＩは独立行政法人情報処理推進機構に設置された組織であり、この機構におきましては、情報処理の促進に関する法律に基づき、職員の守秘義務というのがございまして、就業規則上も業務…
この発言のページ
147安野貴博(みらい)
ありがとうございます。
守秘義務があるということは理解しつつ、やはり、これ国家安全保障に関わる重大な問題になってきますので、そこのラインの引上げというところは是非検討いただければと思っております。
最後の質問に参ります。
政府や地方公共団体のシステムにおいても、高性能ＡＩモデルを使いながら情報システム上の脆弱性の穴を見付け出す作業をやるべきだと考えております。実際、昨日公表された対策パッケージにも、高性能ＡＩを活用しながら脆弱性の早期発見、対応を進めることが示されております。
その際、政府機関や自治体のシステムは機密性の高い情報を取り扱います。そ…
この発言のページ