2025年11月28日・第219回国会 参議院 デジタル社会の形成及び人工知能の活用等に関する特別委員会 第3号（外部サイト、新しいタブで開きます） の 103 番目の発言（外部サイト、新しいタブで開きます）（全 132 発言）
政府としてガバメントＡＩを推進するに際しては、今おっしゃったようなＡＩ特有のリスクには十分注意しながら対応しなければいけないことは当然であります。
生成ＡＩが事実と異なるものを作ってしまう、いわゆるハルシネーションとか、あるいは、そのほか学習データの量や質をいいものを教えないと頭の悪いＡＩになってしまうのも困りますから、そういった事象を避けるために、デジタル庁は今年五月にガイドラインを作成をしました。こういったハルシネーション等を含むリスクケースの対応として、リスクを軽減するための対応、それから顕在した場合にそれをどうするんだという対応をしっかりと規定したところであります。
委員御指摘のヒューマンエラーも当然あるだろうと思います。
このヒューマンエラーに対しては、行政の判断が正確性や公正性を欠くことのないよう、午前中にもお話をしたとおり、主体的に人が介在をするということに留意をしながら、このガバメントＡＩを進めていきたいというふうに思っています。
ありがとうございます。是非丁寧に取り組んでいただければと思います。 そして、済みません、大変恐縮なんですが、二つ飛ばさせていただきまして、今、今年一月に東京都が六十二区市町村にアンケート実施したところ、このシステムの運用経費が平均で大体一・六倍、都全体では約百九億円増えるというふうに判明したとのことでした。 従来よりも多機能になったりと、負担が増えているという側面もあるかとは思うんですけれども、こうした物価上昇などの影響により、標準化、ガバメントクラウド移行後の地方自治体運用負担が増えることが懸念されています。午前中もお答えがあったかと思いますが、そ…
101松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
本件については午前中からも質問をいただいております。 昼休みの間に私の地元の市長さん会ったんですけど、同じ話されまして、東京都一・六倍という話だったのが、そこは一・九倍で三億余計に掛かると、さっき資料を渡されて頭抱えているんですけれども。 我々としては、午前中にもお話ししましたけれども、運用経費に係る総合的な対策を六月に決定しました。それに基づき対応しています。一つは、見積精査への支援、それから、クラウド利用料などを各種割引を交渉する、幾つかのクラウドをまとめて大口契約にして割引をしてもらうとか、あるいはシステム運用管理の自動化の推進など、節約をどれ…
ありがとうございます。
全国市長会なども既に要望を出されているということで、また引き続き丁寧に御対応いただければと思います。
次に、ガバメントＡＩについてお伺いします。
ガバメントＡＩ、もう既に省庁の方で、デジタル庁さんの方で使われているということなんですけれども、こうしたＡＩ、特に法令に関するところに関しましては、特にハルシネーションやヒューマンエラー等が懸念されるのではないかというふうに思っております。この見解と対応策についてお聞かせください。
103松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
政府としてガバメントＡＩを推進するに際しては、今おっしゃったようなＡＩ特有のリスクには十分注意しながら対応しなければいけないことは当然であります。
生成ＡＩが事実と異なるものを作ってしまう、いわゆるハルシネーションとか、あるいは、そのほか学習データの量や質をいいものを教えないと頭の悪いＡＩになってしまうのも困りますから、そういった事象を避けるために、デジタル庁は今年五月にガイドラインを作成をしました。こういったハルシネーション等を含むリスクケースの対応として、リスクを軽減するための対応、それから顕在した場合にそれをどうするんだという対応をしっかりと規定したところであります。
委員御指摘のヒューマンエラーも当然あるだろうと思います。
このヒューマンエラーに対しては、行政の判断が正確性や公正性を欠くことのないよう、午前中にもお話をしたとおり、主体的に人が介在をするということに留意をしながら、このガバメントＡＩを進めていきたいというふうに思っています。
大臣、ありがとうございます。
是非、こうした活用をいただきまして、業務効率化なども図っていただければと思います。
それで、せっかく開発するのであれば、是非こちらオープンソースにしていただいて、地方公共団体の方ですとか各省庁でも使えるようにというふうに考えております。
こうした地方公共団体への支援も含めた今後の展開についてお聞かせください。
105
松下新平(自民)
申合せの時間が参りましたので、もうよろしいですか。
申し訳ございません。次回に引き続きということで、質問を終わらせていただきます。ありがとうございました。