人間中心についてお答えをいたします。
この概念は、二〇一九年の三月に、内閣府の方で人間中心のＡＩ社会原則というのを作りまして、これが、一つこれ日本の中で割とメジャーになったきっかけだと思うんですけれども、そこで言われていることを申し上げますと、ＡＩが基本的人権を侵さないとか、あるいはＡＩは人間の能力を拡張するのに役立つとか、あるいはＡＩをどう利用するかは人間が決めるとか、あるいは情報弱者をつくらないと、こういったことが人間中心の概念になっておりますが、これ具体的な例を二つほど御説明をしたいというふうに思います。
一つは、この人権を例に取って御説明しますと、差別的な発言をＡＩに作らせようとすると、ＡＩの方でそれを拒否するというのが一つございます。これはどういう技術かといいますと、何通りかパターンがあるんですけれども、そもそも偏見、差別的な情報をＡＩが学習しないようにすると、これはＡＩ開発者が努力するというのがございます。それともう一つは、フィルターを使いまして、何か不適切な質問に対しては、それをフィルターではじくとか、あるいはその不適切な出力をフィルターではじくと、こういう技術がございます。こういうことで、人権を侵害しないような努力というのを開発者はやっています。
もう一つの例は、これは私が最近体験したものなんですけれども、私がある数学の問題をＡＩに解かせようとすると、ＡＩは、あっ、なかなか難しくていい問題ですねと、じゃ、一緒に考えましょうかという回答が来まして、いや、分からないから質問したのに一緒にって言われても。ただ、これ、そのＡＩ開発者の方に聞いたところ、要はやっぱり人間にも考えさせる、人間をサポートするというのがそのＡＩの重要な部分なので、そういうパターンで答えているんじゃないかというふうに言われました。
こういう形で、人間がＡＩ依存症に安易に陥らないように、そういうＡＩ開発者の方で工夫はされているということでございまして、こういう取組を是非政府としても推奨させていただきたいというふうに考えております。
16
山谷えり子(自民)
教育のデジタル化は、今、先進的に進めた諸国で見直しの動きが進んでいます。
城内大臣も先日、四月十一日の衆議院の内閣委員会で、脳科学的にも、デジタルよりも紙で調べたり調査した方が脳科学の分野で記憶に定着しやすいということが既に証明されておりますとも答弁されておりますので、教育の場でのデジタル教育やＡＩの利活用についてはしっかりした、いろいろ複合的な視点から考えながら検討をしていただきたいというふうに思っております。
さて、ＡＩ学習用の言語のデータベース、コーパスの整備についてでございます。
ＡＩは英語の大規模言語モデルが軸となっていると言ってもいい現…
この発言のページ
17中中原裕彦文部科学省大臣官房文部科学戦略官
お答え申し上げます。
文化庁におきましては、国立国語研究所が過去に整備しました現代日本語書き言葉均衡コーパスにつきまして、令和六年度から五年計画で直近二十年分の約一億語分のデータを追加しまして、言語コーパスの充実を図る事業というのを実施させていただいてございます。
この事業は、現代日本語の書き言葉の縮図となりますよう、統計的手法によりまして対象を選択し、品詞名、用法、修飾関係、意味などの情報を付与したデータベースを作成するものでございます。これらのデータは、信頼度が高く、大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニング…
この発言のページ
18山谷えり子(自民)
着実な実施をお願いしたいと思います。
基本理念として掲げるのが、人間中心のＡＩなんですけれども、ちょっと抽象的過ぎて何を意味しているのかよく分からない部分がありますので、具体的に説明をお願いします。
この発言のページ
- （上の発言）
19渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
人間中心についてお答えをいたします。
この概念は、二〇一九年の三月に、内閣府の方で人間中心のＡＩ社会原則というのを作りまして、これが、一つこれ日本の中で割とメジャーになったきっかけだと思うんですけれども、そこで言われていることを申し上げますと、ＡＩが基本的人権を侵さないとか、あるいはＡＩは人間の能力を拡張するのに役立つとか、あるいはＡＩをどう利用するかは人間が決めるとか、あるいは情報弱者をつくらないと、こういったことが人間中心の概念になっておりますが、これ具体的な例を二つほど御説明をしたいというふうに思います。
一つは、この人権を例に取って御説明しますと、差別的な発言をＡＩに作らせようとすると、ＡＩの方でそれを拒否するというのが一つございます。これはどういう技術かといいますと、何通りかパターンがあるんですけれども、そもそも偏見、差別的な情報をＡＩが学習しないようにすると、これはＡＩ開発者が努力するというのがございます。それともう一つは、フィルターを使いまして、何か不適切な質問に対しては、それをフィルターではじくとか、あるいはその不適切な出力をフィルターではじくと、こういう技術がございます。こういうことで、人権を侵害しないような努力というのを開発者はやっています。
もう一つの例は、これは私が最近体験したものなんですけれども、私がある数学の問題をＡＩに解かせようとすると、ＡＩは、あっ、なかなか難しくていい問題ですねと、じゃ、一緒に考えましょうかという回答が来まして、いや、分からないから質問したのに一緒にって言われても。ただ、これ、そのＡＩ開発者の方に聞いたところ、要はやっぱり人間にも考えさせる、人間をサポートするというのがそのＡＩの重要な部分なので、そういうパターンで答えているんじゃないかというふうに言われました。
こういう形で、人間がＡＩ依存症に安易に陥らないように、そういうＡＩ開発者の方で工夫はされているということでございまして、こういう取組を是非政府としても推奨させていただきたいというふうに考えております。
20山谷えり子(自民)
ありがとうございます。大分具体的に説明をしていただきまして、ありがとうございます。
また、チャットＧＰＴに人間中心のＡＩについて聞いたんですね。五点明示されておりまして、一が倫理性の重視、プライバシーの尊重、公平性、透明性、説明責任、差別やバイアスを防ぐ設計が求められる。二番、人間の福祉の促進。三番、人間の関与と制御の維持、意思決定において人間の最終判断を尊重する、例えば自動運転でも緊急停止ボタンが人にある、完全な自律よりも協働を目指す。四番、透明性と説明可能性、ＡＩの判断や行動が理解できるように説明されること、利用者や関係者がＡＩの仕組みや限界を知る…
この発言のページ
21渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
最近のＡＩは、先ほどちょっと御紹介がありましたけれども、出典、この回答の出典はここですというのを表示するようなＡＩが結構メジャーになりつつありまして、そういうことによって、信頼できる情報かどうかを改めて人間がもう一度確認をするということができるようになっています。こういう技術を私どもとしては広報していきたい、広報活動をしっかりやっていきたいというのもございますし、分かりやすいコンテンツを作ってリテラシー教育に貢献をしていきたいというふうに思っています。
ただ、一つ私どもの悩みは、ＡＩ技術とか倫理問題に詳しい方というのは、詳しいので、すごく難しく、難しい…
この発言のページ
22山谷えり子(自民)
続きまして、海外の悪質な事業者への対応についてお聞きいたします。
協力責務があるといっても、これ、悪質な事業者に対しては大丈夫かなと思うんですが、いかがでしょうか。
この発言のページ