お答えいたします。
今般のＡＩツールは、令和三年度より国において開発に着手し、令和五年度にプロトタイプが完成し、今年度、協力自治体における試行、検証を行ってきました。
ＡＩツールは、約百項目の情報を入力し、一時保護の必要性を判断するものですが、試行、検証では、項目はあるものの、あざの範囲やけがの部位など、程度や範囲が適切に反映できない等、既存の項目だけでは保護判断に影響する情報を正しく反映できないという課題が見えてまいりました。
その上で、ＡＩ領域の学識経験者や児童相談所職員等から成る検討会で、検証結果の分析や本ツールの活用是非を議論いたしました。検討会では、既存の項目に該当するか否かだけではリスクを算出する情報として十分ではないが、これ以上の項目追加は緊急を要する一時保護判断の場面では現実的ではない、子供の命に直結するとともに、全国に提供するツールであるため、ツール単独での判定精度が非常に重要になるが、現在の判定精度は十分ではなく、ＡＩ技術の更なる進展を踏まえた更なる改良が必要で、現時点での導入は慎重に判断すべき等の検証結果を得て、今般のＡＩツールは、現時点ではリリースしないことといたしました。
これらの開発に当たり、令和三年度から五年度の三年間で約八・二億円の予算を執行してきたところでございます。
71
大森江里子(公明)
済みません、質疑の時間が迫ってまいりましたので、大臣の御決意を最後にお伺いしたかったのですが、申し訳ございません。
最後に、公明党は、信頼する大人から子供が性暴力を受けるなどということは絶対に許せない、全ての子供たちの尊厳を守り抜くとの強い思いで法律の成立に取り組んでまいりました。どうか、施行に向けた準備を着実に進めていただきたいと思っておりますので、どうぞよろしくお願い申し上げます。
本日はありがとうございました。
この発言のページ
72
谷公一(自民)
次に、本村伸子さん。
この発言のページ
73本本村伸子(共産)
日本共産党の本村伸子でございます。どうぞよろしくお願いを申し上げます。
まず最初に、虐待が疑われる子供の保護判定ＡＩの導入見送りについて質問させていただきたいと思います。
二〇二三年から、みえ施設内暴力と性暴力をなくす会の皆さんと、この児童虐待の一時保護判定に関するＡＩの活用に関し、こども家庭庁から聞き取りを行ってまいりました。きっかけは、ＡＩを利用していた三重県で、実の母親から命を奪われた四歳の子供さんの事件があったからです。
当時、ＡＩでは保護率三九％と出ていたと報道がありました。その後、この事件の際はＡＩはほとんど使われていなかった、活用され…
この発言のページ
- （上の発言）
74吉吉住啓作こども家庭庁支援局長
お答えいたします。
今般のＡＩツールは、令和三年度より国において開発に着手し、令和五年度にプロトタイプが完成し、今年度、協力自治体における試行、検証を行ってきました。
ＡＩツールは、約百項目の情報を入力し、一時保護の必要性を判断するものですが、試行、検証では、項目はあるものの、あざの範囲やけがの部位など、程度や範囲が適切に反映できない等、既存の項目だけでは保護判断に影響する情報を正しく反映できないという課題が見えてまいりました。
その上で、ＡＩ領域の学識経験者や児童相談所職員等から成る検討会で、検証結果の分析や本ツールの活用是非を議論いたしました。検討会では、既存の項目に該当するか否かだけではリスクを算出する情報として十分ではないが、これ以上の項目追加は緊急を要する一時保護判断の場面では現実的ではない、子供の命に直結するとともに、全国に提供するツールであるため、ツール単独での判定精度が非常に重要になるが、現在の判定精度は十分ではなく、ＡＩ技術の更なる進展を踏まえた更なる改良が必要で、現時点での導入は慎重に判断すべき等の検証結果を得て、今般のＡＩツールは、現時点ではリリースしないことといたしました。
これらの開発に当たり、令和三年度から五年度の三年間で約八・二億円の予算を執行してきたところでございます。
75本本村伸子(共産)
資料一に契約金額などを出させていただいておりますけれども、八億二千四百四十五万円ということです。野村総研とＮＴＴデータが受注しております。
報道では、予算額を足し合わせると十億円程度になるというふうに思いますけれども、そうしたものが試行段階で約六割の判定に疑義があった、そういう結果となったと。リスクが低く出てしまうと。これでは子供たちの命を守ることができないということでリリースを今回は見送り、延期したということだというふうに思いますけれども、二〇二一年からやってきた事業だというふうに思いますが、この入札の過程というのはそもそも公正だったというふうに大臣…
この発言のページ
76
三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）
今回の、児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツールの開発における令和三年度の仕様書等作成支援業務、令和四年度と令和五年度の設計、開発業務及び工程管理業務は、全て、会計法に基づく一般競争入札、総合評価方式によって調達しております。
具体的には、ホームページ等により五十日以上公募を行った上で、入札を申し込んできた企業等の提案内容について第三者評価委員会に評価いただくとともに、入札価格についても点数化し、これらの評価に基づき調達先を決定しております。
こうしたプロセスを経て、公平な競争に基づいて適正に入札が行われたものと考えており…
この発言のページ
77本本村伸子(共産)
資料の二から四を見ていただきますと、今回の入札に関する開札調書というものをつけさせていただきました。入札が一社しかないというのが、五つのうち四つあります。そして、一つ、複数の会社が入札しているんですけれども、落札をした以外の会社は黒塗りになっております。
私、ほかの省庁にもいろいろこの入札調書ですとかいただくことがあるんですけれども、国交省ですとか、先日は最高裁のデジタルに関する入札調書をいただきましたけれども、そこでは予定価格もちゃんと公表されております、情報開示をされております。そして、入札に参加した全ての企業の情報も、名前も、きちんと情報開示がさ…
この発言のページ