説明することができなかった。ＡＩの利用には、バイアスやブラックボックス化という差別や不利益につながる深刻な問題があるということであります。
国内でも、既にＡＩによる人事評価が問題となっています。
その一つが日本ＩＢＭでありまして、日本ＩＢＭが人事評価と賃金決定にＡＩを導入したことに対して、同社の労働組合でありますＪＭＩＴＵ、労働組合ＩＢＭ支部が、ＡＩの学習データやＡＩが表示するアウトプットの内容などの開示と説明を求めたところ、同社はこれを拒否しました。
労働組合は、不当労働行為である不誠実交渉だ、支配介入に当たるとして、二〇二〇年に東京都労働委員会に救済を申し立てました。四年の交渉を経て、二四年八月、ようやく事業者側がＡＩによる評価項目を全開示することなどで和解をしたということであります。
労働組合は声明で、社会の様々な領域でＡＩの利用が進む一方、社会に残る差別をＡＩが学習して再現したり、判断過程がブラックボックス化して理解不能に陥るなどの弊害が指摘されている、企業が人事管理にＡＩを利用する場合、公正性と透明性の確保が課題となるが、法規制は進んでおらず、個々の労働者の努力には限界があると指摘をしています。
また、組合の中央執行委員長は東京新聞のインタビューに、当時はＡＩが何を考慮するのか全く明らかにされず、どのような根拠で判断するかも見えない、そしてその結果も知らされないという状態だった、もしかしたら組合員であることが影響するかもしれないと問題点を指摘しておりました。
ここでお尋ねしますが、ＡＩによる評価、分析は、バイアスがかかるという問題や、その過程や根拠がブラックボックスである問題があります。採用選考や人事評価などにＡＩを用いる事業者に対し、ＡＩのデータセットやアルゴリズム、ＡＩによる評価結果やその根拠を開示する義務を課すべきではありませんか。
220渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ただいまの人間中心のＡＩ社会原則は二〇一九年三月に策定されたものでございますけれども、この中では、書いてあることをそのまま申し上げますけれども、ＡＩの長所、短所をよく理解しており、とりわけＡＩの情報リソースとなるデータ、アルゴリズム、又はその双方にはバイアスが含まれること、これらを認識する能力を人々が持つことが重要とされております。
また、データのバイアスには主として三つございまして、一つは統計的なバイアス、二つ目は社会の態様によって生じるバイアス、三つ目はＡＩ利用者の悪意によるバイアス、この三種類があることを認識していることが…
この発言のページ
221
塩川鉄也(共産)
そのようにＡＩによるバイアスの指摘があるところです。
実際、アメリカのアマゾンは、開発したＡＩを活用した人材採用システムに女性を差別する機械学習の結果が判明をし、運用を取りやめたという例もあります。ＡＩが学習したデータが男性が大半である過去十年間の応募者データであり、男性の応募者の方が有望、女性は低く評価すると学習してしまったために起こったと報じられています。
また、ＡＩには、判断の過程や根拠が不透明であるブラックボックス化という問題もあります。
お尋ねしますが、ＡＩ事業者ガイドラインでは、ブラックボックス化の事例としてどのような事例を紹介していま…
この発言のページ
222渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ＡＩ事業者ガイドライン、これは総務省と経済産業省が策定しているものでございますけれども、これの本体というよりは別添になりますけれども、別添に記述がございますので、読み上げをさせていただきます。
「ＡＩの判断のブラックボックス化に起因する問題も生じている。とあるクレジットカードにおいて、同じ年収を有する男性及び女性に対して、女性の方が利用限度額が低いとの報告がＳＮＳ上で広がった。この問題に対し、金融当局が調査を実施し、クレジットカードを提供した企業に対してアルゴリズムの正当性の証明を求めた。しかし、企業はアルゴリズムの具体的な機能…
この発言のページ
- （上の発言）
223塩川鉄也(共産)
説明することができなかった。ＡＩの利用には、バイアスやブラックボックス化という差別や不利益につながる深刻な問題があるということであります。
国内でも、既にＡＩによる人事評価が問題となっています。
その一つが日本ＩＢＭでありまして、日本ＩＢＭが人事評価と賃金決定にＡＩを導入したことに対して、同社の労働組合でありますＪＭＩＴＵ、労働組合ＩＢＭ支部が、ＡＩの学習データやＡＩが表示するアウトプットの内容などの開示と説明を求めたところ、同社はこれを拒否しました。
労働組合は、不当労働行為である不誠実交渉だ、支配介入に当たるとして、二〇二〇年に東京都労働委員会に救済を申し立てました。四年の交渉を経て、二四年八月、ようやく事業者側がＡＩによる評価項目を全開示することなどで和解をしたということであります。
労働組合は声明で、社会の様々な領域でＡＩの利用が進む一方、社会に残る差別をＡＩが学習して再現したり、判断過程がブラックボックス化して理解不能に陥るなどの弊害が指摘されている、企業が人事管理にＡＩを利用する場合、公正性と透明性の確保が課題となるが、法規制は進んでおらず、個々の労働者の努力には限界があると指摘をしています。
また、組合の中央執行委員長は東京新聞のインタビューに、当時はＡＩが何を考慮するのか全く明らかにされず、どのような根拠で判断するかも見えない、そしてその結果も知らされないという状態だった、もしかしたら組合員であることが影響するかもしれないと問題点を指摘しておりました。
ここでお尋ねしますが、ＡＩによる評価、分析は、バイアスがかかるという問題や、その過程や根拠がブラックボックスである問題があります。採用選考や人事評価などにＡＩを用いる事業者に対し、ＡＩのデータセットやアルゴリズム、ＡＩによる評価結果やその根拠を開示する義務を課すべきではありませんか。
224渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
本法案では、ＡＩのデータセットですとかアルゴリズム等の開示を求める規制は想定をしておりません。
他方で、本法案に基づいて国が指針を整備していく予定でございますけれども、そのときに、広島ＡＩプロセスの国際指針等の国際規範に準拠するということを考えております。
それによりますと、ＡＩのライフサイクル全般、このライフサイクルというのは開発から活用までの全ての段階ということでございますけれども、そこにおけるリスクを特定して軽減するため適切な措置を講じるということが指針の中には書いてございまして、その適切な措置には多様なテストというのが…
この発言のページ
225塩川鉄也(共産)
指針でという話ですけれども、それでいいのかという問題であります。
この日本ＩＢＭのケースでは、労働組合の皆さんが頑張って、四年間の運動を通じて和解に至ったけれども、ほかの事例もそうなるとは限りません。この日本ＩＢＭの問題でも、背景にはアメリカの本社が進める三千九百人の人員削減の計画があるんです。ＡＩがリストラツールに使われる懸念もあります。そこに法的規制がないのでは労働者の権利を守ることはできないのではないのか、このことが問われていると思います。
大臣にお尋ねします。
ＥＵではＡＩ法を作り、雇用や人事、採用選考などでＡＩを利用することをハイリスクと…
この発言のページ
226
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
私も、塩川委員御指摘のとおり、こういったＡＩが巨大企業の経営者の安直なリストラツールになるようなことがあってはならないというふうに思います。
それを踏まえてお答えしますが、ＥＵのＡＩ法では、確かに、御指摘のとおり、ＡＩをリスクに基づき四つのランクに分けまして、最上位から二段階目にハイリスクなＡＩシステムを設定いたしまして、この段階のＡＩシステムを扱う事業者には基準遵守義務が課されている状況というふうに伺っております。
先ほどの今井委員からの御指摘も踏まえて御答弁したことと重なりますけれども、雇用や人事、採用選考の在り方につきましては…
この発言のページ