その項目の中にしっかりと、この虐待対応でＡＩを活用しているのであれば、しっかりと把握をしていただきたいということでございます。
あくまでも、各自治体の判断で使用しているものを否定してくださいということではなくて、実態をきちんと把握して、適切に使われているかということに関しては、こども家庭庁としてこの視点を持って、必要があれば数字などをもって使い方をしっかりと見定めていくということが必要なのではないだろうかということが、起こった事件の事例などからも言えるのではないかと思います。
今回、十億円掛けて開発したＡＩツールが残念ながら使えなかったということで、一時中断の判断がなされたわけであります。これは、いろんな批判ももちろんこれ否めないところではあると思うんですけれども、この六割で判定ミスが生じた段階で止めるという判断をしたのは、私としてはこれ賢明な判断だというふうに思います。
ＡＩなどの技術を活用することを私自身も別に頭ごなしに否定するわけではなくて、まだまだこれからどんどんどんどん進化していく分野ですので、時には間違いが起きることもあるとは思いますけれども、その都度しっかり見直した上で、様々な御意見いただきながらいいものを作っていくということは重要だとは思うんですが、一方で、ＡＩといえば予算が付くとか、ＡＩであれば何とかなるというような、ちょっとそういう傾向に今陥りがちなのではないかということを、政府の様々ないろんな政策及び予算の付け方を見て非常に懸念をするところです。
ＡＩを過信してはなりませんし、逆に、人工知能、このＡＩが高度になればなるほど、主客転倒と申しますか、ＡＩに振り回されてしまう可能性というのがどんどん高くなっていくものだと思うんですね。
これ、逆にこういうものを使うことによって、ＡＩがこういう数字を出したからという責任逃れにされてしまうこともないわけではないと思いますので、そういった意味でも、しっかりこども家庭庁として全国の利用状況を把握して、適切な利用に努めていただきたいと思います。
その上で、今後どのようにＡＩを活用されていくおつもりか、御意見をお願いします。
56
三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）
委員御指摘のとおり、この必要な学習データ量というものは、いろいろな学習モデルですとか活用場面ですとか、そういう質、収集、この難易度というものによって総合的に設定されるものであるというふうに承知をしております。
本システムは、いわゆるオープンデータを用いるようなＡＩとは異なり、児童相談所において実際に対応した事案に関する情報を学習データとして用いたものであること等から、今般のＡＩツールの開発に当たって学習に用いるデータ数は五千件としております。
この点、検討会委員であるＡＩ領域の有識者からも、この学習データの量が不足しているとかという指摘はございません…
この発言のページ
57
石垣のりこ(立憲)
でも、今から一つの事例がありますけど、二〇二三年五月に三重県の津市におきまして、四歳の児童が一時保護されずに虐待死するという痛ましい事件がありました。このケースでは、先ほどの産総研が開発したＡＩによる保護率三九％だと出たと報道されております。
この事件の報告書も読みましたけれども、素人目にもこれ保護が必要なケースと言わざるを得ないと思いました。それでもＡＩが判定した保護率三九％であったということなんです。一部報道では、このＡＩが出した保護率三九％、参考にしたというふうにも伝えられています。これ資料三で、まあテレビなどの報道でもそのように伝えられているん…
この発言のページ
58三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）
今回、国が児童相談所における一時保護判断に資するＡＩツールのリリースを延期したのは、全国に提供し一律に用いられる可能性のあるツールとしては、現在の判定精度では十分ではなく、更なる改良が必要と判断したことによるものでございます。
迅速かつ的確に児童虐待対応を行うためには、児童相談所の業務効率化等、重要でありまして、自治体が別途構築したＡＩシステムを活用すること、これを否定するものではございません。
今年度の調査研究において、自治体におけるデジタル技術の利活用の状況、これを調査しておりまして、その中でＡＩの活用状況も把握することといたしております。
この発言のページ
- （上の発言）
59石垣のりこ(立憲)
その項目の中にしっかりと、この虐待対応でＡＩを活用しているのであれば、しっかりと把握をしていただきたいということでございます。
あくまでも、各自治体の判断で使用しているものを否定してくださいということではなくて、実態をきちんと把握して、適切に使われているかということに関しては、こども家庭庁としてこの視点を持って、必要があれば数字などをもって使い方をしっかりと見定めていくということが必要なのではないだろうかということが、起こった事件の事例などからも言えるのではないかと思います。
今回、十億円掛けて開発したＡＩツールが残念ながら使えなかったということで、一時中断の判断がなされたわけであります。これは、いろんな批判ももちろんこれ否めないところではあると思うんですけれども、この六割で判定ミスが生じた段階で止めるという判断をしたのは、私としてはこれ賢明な判断だというふうに思います。
ＡＩなどの技術を活用することを私自身も別に頭ごなしに否定するわけではなくて、まだまだこれからどんどんどんどん進化していく分野ですので、時には間違いが起きることもあるとは思いますけれども、その都度しっかり見直した上で、様々な御意見いただきながらいいものを作っていくということは重要だとは思うんですが、一方で、ＡＩといえば予算が付くとか、ＡＩであれば何とかなるというような、ちょっとそういう傾向に今陥りがちなのではないかということを、政府の様々ないろんな政策及び予算の付け方を見て非常に懸念をするところです。
ＡＩを過信してはなりませんし、逆に、人工知能、このＡＩが高度になればなるほど、主客転倒と申しますか、ＡＩに振り回されてしまう可能性というのがどんどん高くなっていくものだと思うんですね。
これ、逆にこういうものを使うことによって、ＡＩがこういう数字を出したからという責任逃れにされてしまうこともないわけではないと思いますので、そういった意味でも、しっかりこども家庭庁として全国の利用状況を把握して、適切な利用に努めていただきたいと思います。
その上で、今後どのようにＡＩを活用されていくおつもりか、御意見をお願いします。
60三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）
委員おっしゃるように、この一時保護の判断というのは子供の命に直結するものでありますので、この児童相談所における一時保護判断に資するＡＩツール、これは、職員による迅速な判断が過去の事例に照らして的確なものとなるよう支援するためのツールとして用いることを想定をしてございます。こうした重要な役割を期待されるものであり、全国に提供するツールであることも踏まえると、現在の判定精度では十分ではなく、更なる改良が必要だと判断し、現時点でのリリースを延期したものでございます。
今回は、事前に定められた一定の項目に該当するか否かのみで一時保護の判断をすることの難しさゆえ…
この発言のページ
61石垣のりこ(立憲)
ありがとうございます。
面談の音声を文字化するツールとかというのもあると思うんですけれども、全国様々な地域の言葉がございますので、こういうところも全て把握してきちんと分かるような状況で読み込ませるには、相当やっぱり学習、ディープラーニングを含めてやっていかなきゃいけないと思いますけれども、今後もしっかりと検討して、ＡＩの使い方というのを間違わないようにしていただきたいというふうに思います。
三原大臣、ありがとうございました。
では、続きまして、大阪・関西万博の質問に移りたいと思います。
まずは、資料の四ですね。資料にあるとおり、万博のリングの下の…
この発言のページ
62浦浦上健一朗経済産業省大臣官房審議官
お答え申し上げます。
博覧会協会から聞いておりますのは、このリングの内側のウォータープラザ、ここに注水始められたのが二月の十七日、それからリングの外側のつながりの海というところが二月の十八日、それぞれ注水を開始いたしまして、その後、護岸の一部で浸食を確認したのは二月の十九日ということでございます。
この護岸浸食でございますけれども、ウォータープラザ、つながりの海というところに注水をした後に、風の影響で水面の波の高さが想定以上に高くなってしまったということ、それから、先行してウォータープラザに注水を開始したということでございますけれども、つながりの海と…
この発言のページ