2026年6月18日・第221回国会 参議院 法務委員会 第16号（外部サイト、新しいタブで開きます） の 91 番目の発言（外部サイト、新しいタブで開きます）（全 134 発言）
お答えいたします。
一般論として申し上げますと、生成ＡＩにおきましては、誤った情報や倫理上好ましくない回答など、不適切な出力をする場合があると承知をしてございます。
その主な要因といたしましては、生成ＡＩは、あらかじめ大量のデータを学習し、前後の文脈を踏まえて統計的に確からしい単語をつなげて文章を生成するといった仕組みであることから、事実と異なる情報をもっともらしく出力する、あるいは不適切な情報を出力するといった場合があること、また、学習データに含まれる不正確な情報や偏りが出力結果に影響を及ぼすことなどが挙げられます。
以上でございます。
88
伊藤孝江(公明)
時間になっておりますので、おまとめください。
89
嘉田由紀子(維新)
ありがとうございます。今後もまた続けて質問させていただきます。
以上です。終わります。
参政党の安達悠司です。 本日は、生成ＡＩや外国資本の土地買収を中心に質問します。 先日の野球監督の事件でも、生成ＡＩに対する相談が話題となりました。本年二月に内閣府の消費者委員会が実施した生成ＡＩに関するアンケート調査では、生成ＡＩ利用者のうち、十代女性の五二・四％が使用目的の一つに悩み相談を挙げています。また、対話型ＡＩの日常的な利用者が気軽に相談できる相手として、対話型ＡＩを一位にした人が一一・八％ということです。しかし、生成ＡＩは本当に安全な相談相手たり得るのでしょうか。 アメリカでは、生成ＡＩの利用が自殺の原因となり死亡したとして、オープン…
お答えいたします。
一般論として申し上げますと、生成ＡＩにおきましては、誤った情報や倫理上好ましくない回答など、不適切な出力をする場合があると承知をしてございます。
その主な要因といたしましては、生成ＡＩは、あらかじめ大量のデータを学習し、前後の文脈を踏まえて統計的に確からしい単語をつなげて文章を生成するといった仕組みであることから、事実と異なる情報をもっともらしく出力する、あるいは不適切な情報を出力するといった場合があること、また、学習データに含まれる不正確な情報や偏りが出力結果に影響を及ぼすことなどが挙げられます。
以上でございます。
では、そうした現象が起きるのを防止することは可能なのでしょうか。
内閣府といたしましては、ＡＩ法に基づき昨年十二月に作成いたしましたＡＩの適正性確保に関する指針に基づきまして、不適切な出力の抑制に向けて最新の技術と知見を活用して取り組むよう促しているところでございます。こうしたことも踏まえまして、ＡＩを開発、提供する多くの事業者におきましては、不適切な出力をできるだけ抑制するよう対策を講じてきているものと承知をしてございます。
とはいえ、生成ＡＩの不適切な出力を完全に防ぐということは現在の技術では困難であるというのが一般的な理解であると認識してございます。
要するに、生成ＡＩというのは統計学や確率論を基礎としていて、誤情報や倫理的に正しくない情報が一定程度避けられないのだとすると、やはりその生成ＡＩの限界をきちんと国民に周知すべきだと思います。また、監督官庁もありませんので、そういった回答を発信する事業者の規制も行う必要があると思います。事業者は、防止が可能ならきちんとそうすべきであるし、防止がもうできないというのなら、相談相手にするのはやめるべきではないかということも考えなければなりません。 次に、法務省にお尋ねしますが、対話型の生成ＡＩが自殺を助長するような回答をして自殺した場合、この場合はＡＩ事業者…