2025年5月20日・第217回国会 参議院 内閣委員会 第15号（外部サイト、新しいタブで開きます） の 177 番目の発言（外部サイト、新しいタブで開きます）（全 208 発言）
今様々なことを挙げられましたけど、今年三月に時事通信が行った主要企業百社の調査によれば、約三割の企業で採用活動にＡＩが導入をされています。既にボーナスなどの人事評価にＡＩを使っている企業もあるわけで、更に普及が進めばリストラツールに使われるんじゃないかという指摘もあるわけですね。
今、様々、るるリスクについてお話がありましたが、では、この日本での従業員の採用や人事評価システムの安全性、実際に使われている、この安全性がどのように確保されているのか、それから、そういう企業がきちっとガイドライン等を守っているということを誰が確認をしているのか、どのようにチェックしているのか、どうでしょうか。
済みません、通告ございませんでしたので、ちょっと私の方からお答えさせていただきます。 ちょっと細かくお答えしますと、確かにＡＩ法案、ＡＩ法という面で比べますと、日本のＡＩ法には罰則規定がないということがございます。しかし、法体系ということで比較をしますと、ＥＵが言っているその四つのランクに分けて、一番厳しいものは禁止、次は基準適合義務とか、こういう考え方ですけれども、日本も当然、刑法とか個人情報保護法に抵触するものは規制が掛かっているわけですし、それから医療機器とかであればその認証というのがありまして、そういう意味では、やっぱりリスクの高いものについて…
175井上哲士(共産)
罰則、罰金があるというのは細かい問題ではないと私は思いますよ。この間も紹介した、今日も出されました国民の様々な不安について言っても、やはり応えるものに現状ではなっていないということを指摘しておかなければなりません。 その上で、大臣にこのＡＩのリスクに対する対応についてお聞きしますが、このＡＩには、判断の根拠や過程がブラックボックスになる問題や、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうと、こういうバイアスの問題があります。今日も幾つか指摘をされました。 これが就職試験とか人事評価、人間の評価、選別に活用さ…
176
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。 ＡＩをめぐる問題の中には、機械学習モデルについて透明性が欠如、すなわちブラックボックスとなっていて内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性があることや、あるいは偏ったデータを学習に使用することでＡＩが下す判断も偏ってしまうと、すなわちバイアスが掛かってしまう可能性があることなどがあると認識しております。 このブラックボックスに起因する問題としては、例えばＡＩが不適切な判断や誤った判断をした場合に、なぜそのような判断が行われたのかが説明できないと、責任の所在が不明確になったり、再発防止を図ることが困難とな…
177井上哲士(共産)
今様々なことを挙げられましたけど、今年三月に時事通信が行った主要企業百社の調査によれば、約三割の企業で採用活動にＡＩが導入をされています。既にボーナスなどの人事評価にＡＩを使っている企業もあるわけで、更に普及が進めばリストラツールに使われるんじゃないかという指摘もあるわけですね。
今、様々、るるリスクについてお話がありましたが、では、この日本での従業員の採用や人事評価システムの安全性、実際に使われている、この安全性がどのように確保されているのか、それから、そういう企業がきちっとガイドライン等を守っているということを誰が確認をしているのか、どのようにチェックしているのか、どうでしょうか。
お答え申し上げます。 ＡＩを利用しているか否かにかかわらず、雇用等の場面でそのＡＩを使って、それが偏見、差別を含んでいるというのは、これは良くないことでございまして、厚労省のガイドライン等でこういった点については一定の考え方というのは示されているところであります。 また、総務省と経産省、先ほども御答弁ありましたけれども、作っているＡＩ事業者ガイドラインにつきましては、事業者がＡＩを使う場合に、これ当然そういった人事評価とかそういうものも含むというふうに考えておりますけれども、そういうところで使う場合にバイアスとかそういった問題にも配慮をしなきゃいけな…
179井上哲士(共産)
まあいろいろ言われて、結局業者任せなんですよね、指針ちゃんとやりなさいよと。
先ほど紹介したＥＵのＡＩ規制は、ＡＩのリスクに応じて四段階に分類して法規制をするわけですが、雇用や人事選考などでＡＩを利用することはハイリスク利用のカテゴリーに位置付けられて、第三者機関による適合性審査を義務付けて安全性を確保するということがやられてきております。
日本でもこの第三者機関などによる外部からのチェックということが必要だと思いますけれども、いかがでしょうか。
180城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。 雇用や人事採用、選考の在り方につきまして、我が国におきましては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等におきまして一定の考え方が示されているところであります。また、ＡＩ事業者ガイドラインにおきましても、ＡＩの活用に当たりましては事業者が留意すべき事項等を示しているところであります。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおいて性別を理由とする差別が禁止されているなど、既存法による一定の取組も存在しております。 御指摘のＥＵのＡＩ法では、確かに最上位から二段階目となるハイリスクなＡＩシステムに…