この事案については、ＡＩであるということが識別されれば解決する問題ではないような気がいたしますので、是非ともその辺りも検討していただきたいと思っております。
次、五番目のバイアス。
生成ＡＩが、貧しい黒人は学校に行かず薬物の密売人になるというような、バイアスのかかったひどい文章を生成した場合の生成ＡＩサービス提供者の責任等に対し、どう対応できるか、伺います。
おおたけりえ (立憲民主党)
2025年4月11日・第217回国会 衆議院 内閣委員会 第13号（外部サイト、新しいタブで開きます） の 69 番目の発言（外部サイト、新しいタブで開きます）（全 245 発言）
前後のやりとり
お答えいたします。
本法律案に基づき国が整備する指針において、例えば、ＡＩ生成物であることを識別可能とするため、ＡＩ開発者が電子透かしの機能をＡＩに導入することが考えられます。また、全てのＡＩ関係者に対して法令遵守を徹底をして、既存法令の違反等の事案の防止を図ってまいりたいと存じます。
既存法令の違反はそうなんですけれども、今回の場合は既存法令だと対処できない問題なんですよ。それについてはどうお考えですか。
重ねてになりますけれども、今回の法案で新たに加える部分としては、指針の中において、ＡＩの生成物であることを識別可能とするために、ＡＩ開発者が電子透かし等の機能をＡＩに導入することが考えられますので、新たな技術等の活用を図りながら、それを指針の中で明確にして対応を図っていきたいといったようなことであります。
- （上の発言）
この事案については、ＡＩであるということが識別されれば解決する問題ではないような気がいたしますので、是非ともその辺りも検討していただきたいと思っております。
次、五番目のバイアス。
生成ＡＩが、貧しい黒人は学校に行かず薬物の密売人になるというような、バイアスのかかったひどい文章を生成した場合の生成ＡＩサービス提供者の責任等に対し、どう対応できるか、伺います。
お答えいたします。
本法案に基づき国が整備する指針の中では、ＡＩ開発者による安全性向上について規定する予定です。その中には、偏見、差別情報の出力を減らすための取組も含まれると考えておりまして、具体的な対策は事業者によって異なるとは思いますけれども、例えば、ＡＩ開発段階でリスクへの対策を攻撃者の視点から評価をするレッドチーミングであるとか、その他の各種評価ツールを使って不適切な出力の抑止を図る取組が考えられます。
このような対策によって、委員御指摘のような事案を予防し、抑制することも考えてまいりたいと考えています。
次に、六番目の著作権。
生成したコンテンツが既存の著作物に類似している場合、どう対応できるのか、伺います。
お答えいたします。
本法案に基づき国が整備をします指針において、例えば、ＡＩ生成物であることを識別可能とするため、ＡＩ開発者が電子透かしの機能をＡＩに導入することが一つ考えられます。それからまた、全てのＡＩ関係者に対して法令遵守を徹底をして、既存法令、これは著作権法等になると思いますけれども、そういったものの違反の事案の防止を図ってまいりたいと存じます。