「国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討」と条文の中にございますが、これはどのようなものを想定して、どのように対応するのか、伺います。
おおたけりえ (立憲民主党)
2025年4月11日・第217回国会 衆議院 内閣委員会 第13号（外部サイト、新しいタブで開きます） の 55 番目の発言（外部サイト、新しいタブで開きます）（全 245 発言）
前後のやりとり
お答えいたします。 どの企業から情報を収集するか、具体的な企業名は未定でありますけれども、一つの考え方として、汎用目的の高性能な生成ＡＩ等であってユーザー数が多いものにつきましては、国民への影響も大きいことから、情報収集の対象としたいと考えております。 また、情報収集の内容につきましては、広島ＡＩプロセスの国際指針の項目を参考に、ＡＩライフサイクル全体にわたるリスクを特定し、軽減するために、ＡＩを市場投入する前にどのような安全性向上のための措置を講じているかであるとか、ＡＩを市場に投入後に、ＡＩの脆弱性、悪用されたインシデント等を特定をし、リスクを緩…
提出の方法は、書面か、対面のヒアリングですとか、どういった方法でされるのか。また、国外の会社についても同様ということでよろしいんですか。お願いします。
情報の収集の仕方は様々あると思っておりますので、これは今後の検討とさせていただければと思います。
他方で、もう一点の、海外、国外の企業につきましても、日本で使われているＡＩの多くが国外製であることから、国外のメジャーなＡＩ開発者に対しても、同様に情報収集を行ってまいりたいと考えております。
- （上の発言）
「国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討」と条文の中にございますが、これはどのようなものを想定して、どのように対応するのか、伺います。
ＡＩの不適切な使用等による国民の権利利益の侵害につきましては予測が難しいところではありますけれども、例えばでありますが、あるＡＩに入力、質問された個人情報等が搾取をされてしまう、あるＡＩが偏見、差別的な情報を執拗に出力し続けるといった事案が想定をされます。
このような事案に対して、既存の法令で対処できない場合には、関係省庁と連携をして、必要に応じて専門家の協力も得ながら、事案の原因の分析であるとか改善策の検討などを行うことを考えております。
改善策の検討、ここがすごく大事ではないかと思っております。
調査研究の結果に基づく指導、助言、情報の提供その他の必要な措置と条文にございますが、これはどのようなものを指してみえるのか、伺います。
お答えいたします。
悪質なＡＩの開発、活用事案であって、既存法令による対応が難しく、かつ放置をすると被害が生じる、あるいは増大する可能性があると判断される場合、国が事業者に対する指導や国民に対する情報提供などを講じることなどを考えております。
調査の結果を公表、国民への情報提供をする際に、具体的に問題となっている種類のＡＩやその実名などを公表するケースもあると考えておりまして、ＡＩの適正な開発、活用に向けて一定の抑止力が働くと考えているところであります。