内閣府といたしましては、ＡＩ法に基づき昨年十二月に作成いたしましたＡＩの適正性確保に関する指針に基づきまして、不適切な出力の抑制に向けて最新の技術と知見を活用して取り組むよう促しているところでございます。こうしたことも踏まえまして、ＡＩを開発、提供する多くの事業者におきましては、不適切な出力をできるだけ抑制するよう対策を講じてきているものと承知をしてございます。
とはいえ、生成ＡＩの不適切な出力を完全に防ぐということは現在の技術では困難であるというのが一般的な理解であると認識してございます。
恒藤晃内閣府科学技術・イノベーション推進事務局審議官
2026年6月18日・第221回国会 参議院 法務委員会 第16号（外部サイト、新しいタブで開きます） の 93 番目の発言（外部サイト、新しいタブで開きます）（全 134 発言）
前後のやりとり
参政党の安達悠司です。 本日は、生成ＡＩや外国資本の土地買収を中心に質問します。 先日の野球監督の事件でも、生成ＡＩに対する相談が話題となりました。本年二月に内閣府の消費者委員会が実施した生成ＡＩに関するアンケート調査では、生成ＡＩ利用者のうち、十代女性の五二・四％が使用目的の一つに悩み相談を挙げています。また、対話型ＡＩの日常的な利用者が気軽に相談できる相手として、対話型ＡＩを一位にした人が一一・八％ということです。しかし、生成ＡＩは本当に安全な相談相手たり得るのでしょうか。 アメリカでは、生成ＡＩの利用が自殺の原因となり死亡したとして、オープン…
お答えいたします。
一般論として申し上げますと、生成ＡＩにおきましては、誤った情報や倫理上好ましくない回答など、不適切な出力をする場合があると承知をしてございます。
その主な要因といたしましては、生成ＡＩは、あらかじめ大量のデータを学習し、前後の文脈を踏まえて統計的に確からしい単語をつなげて文章を生成するといった仕組みであることから、事実と異なる情報をもっともらしく出力する、あるいは不適切な情報を出力するといった場合があること、また、学習データに含まれる不正確な情報や偏りが出力結果に影響を及ぼすことなどが挙げられます。
以上でございます。
では、そうした現象が起きるのを防止することは可能なのでしょうか。
- （上の発言）
内閣府といたしましては、ＡＩ法に基づき昨年十二月に作成いたしましたＡＩの適正性確保に関する指針に基づきまして、不適切な出力の抑制に向けて最新の技術と知見を活用して取り組むよう促しているところでございます。こうしたことも踏まえまして、ＡＩを開発、提供する多くの事業者におきましては、不適切な出力をできるだけ抑制するよう対策を講じてきているものと承知をしてございます。
とはいえ、生成ＡＩの不適切な出力を完全に防ぐということは現在の技術では困難であるというのが一般的な理解であると認識してございます。
要するに、生成ＡＩというのは統計学や確率論を基礎としていて、誤情報や倫理的に正しくない情報が一定程度避けられないのだとすると、やはりその生成ＡＩの限界をきちんと国民に周知すべきだと思います。また、監督官庁もありませんので、そういった回答を発信する事業者の規制も行う必要があると思います。事業者は、防止が可能ならきちんとそうすべきであるし、防止がもうできないというのなら、相談相手にするのはやめるべきではないかということも考えなければなりません。 次に、法務省にお尋ねしますが、対話型の生成ＡＩが自殺を助長するような回答をして自殺した場合、この場合はＡＩ事業者…
お答えいたします。
犯罪の成否は、捜査機関により収集された証拠に基づき個別に判断されるべき事柄でありますので、法務当局としてはお答えを差し控えますけれども、その上で、あくまで一般論として申し上げますと、刑法二百二条の自殺関与罪は、人を教唆し若しくは幇助して自殺させた場合に成立するものと承知しているところでございまして、例えば、生成ＡＩを提供する事業者が、生成ＡＩを利用して人を教唆し若しくは幇助して自殺させたと認められるような場合においては、自殺関与罪が成立することもあり得るのではないかと考えられるところでございます。
私からは民法を所管する立場から御答弁申し上げますが、お尋ねのような事案においてＡＩ事業者が民法上の不法行為責任を負うかどうかについては、個別の事案における具体的な事情に即して判断する必要があり、一概にお答えすることは困難でございます。 その上で申し上げると、民法七百九条において、「故意又は過失によって他人の権利又は法律上保護される利益を侵害した者は、これによって生じた損害を賠償する責任を負う。」と規定されております。一般論としては、ＡＩが自殺の教唆等に当たる回答をした場合においてＡＩ事業者の不法行為責任を負うかどうかについては、個別の事案における具体的…