ありがとうございます。お答えいたします。
ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。
これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなんですね。
ところが、先ほど言ったように、ＡＩをつくった人たちが偏ったモノリシックな団体であると、そういった偏り、あるいは、出力に対するおかしい違和感ということに気付けないまま、それを世の中に出してしまうということが非常に問題だと考えています。なので、それを、ＡＩを作る現場、それから使う現場、そして利用する現場が多様的な物の見方で、先ほど言っていたモニタリングというところを人間としてきちんと見続けるということが必要なのではというふうに思います。
無意識という観点でいうと、今申し上げたように、システム的に過去のものを、過去の悪いことを再生産してしまう。これをやはり自動的に、ＡＩを使ってそういったデータの偏り、あるいは出力の偏りがないかどうかというものを見る。こういった技術的なものというのは今研究で盛んに行われていますので、技術的にそういったことを回避できるといったことも将来的にはできると思います。
若干、その技術の進歩に合わせてイタチごっこ的にＡＩの安全性というのは見えるかもしれないんですけれども、それを良く言えばアジャイルにやっていく。今までの組織であるとか考え方というのは、そういったアジャイル的な対応がイタチごっこですらできないというところを柔軟に変えていこうというところがこの法案で推進されるとよいなというふうに思っております。
以上です。
37大大屋雄裕慶應義塾大学法学部法律学科教授
ありがとうございます。
おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。
これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。
ただ、この技術の方向性は、私自身の評価としては余り明…
この発言のページ
38永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。
これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩の…
この発言のページ
39
石垣のりこ(立憲)
ありがとうございます。
大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。
たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。
先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこう…
この発言のページ
- （上の発言）
40村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
ありがとうございます。お答えいたします。
ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。
これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなんですね。
ところが、先ほど言ったように、ＡＩをつくった人たちが偏ったモノリシックな団体であると、そういった偏り、あるいは、出力に対するおかしい違和感ということに気付けないまま、それを世の中に出してしまうということが非常に問題だと考えています。なので、それを、ＡＩを作る現場、それから使う現場、そして利用する現場が多様的な物の見方で、先ほど言っていたモニタリングというところを人間としてきちんと見続けるということが必要なのではというふうに思います。
無意識という観点でいうと、今申し上げたように、システム的に過去のものを、過去の悪いことを再生産してしまう。これをやはり自動的に、ＡＩを使ってそういったデータの偏り、あるいは出力の偏りがないかどうかというものを見る。こういった技術的なものというのは今研究で盛んに行われていますので、技術的にそういったことを回避できるといったことも将来的にはできると思います。
若干、その技術の進歩に合わせてイタチごっこ的にＡＩの安全性というのは見えるかもしれないんですけれども、それを良く言えばアジャイルにやっていく。今までの組織であるとか考え方というのは、そういったアジャイル的な対応がイタチごっこですらできないというところを柔軟に変えていこうというところがこの法案で推進されるとよいなというふうに思っております。
以上です。
41石垣のりこ(立憲)
ありがとうございます。
それぞれの参考人の皆さんから非常に貴重なお話を伺うことができました。
ＡＩに使われるのではなく、あくまで人間中心で、私たちがＡＩを活用して、より私たちのこの暮らしのクオリティーを上げていくということに資するものでなければならないというふうに私も感じますので、今日いただいたお話を参考に、人間疎外にならないＡＩ技術の推進、この立法府としてどのように取り組んでいけるか、お話を参考に取り組んでいきたいと思います。
ありがとうございました。
この発言のページ
42
竹谷とし子(公明)
公明党の竹谷とし子でございます。
四人の先生のお話を伺いまして、大変勉強になりましたし、また興味深い点が多々ありました。ありがとうございます。
まず、村上参考人に伺いたいと思います。
日本がイノベーション進まなかった理由として、前例踏襲、保守的な日本企業、まさにそうだなということを思いましたけれども、ＡＩの安全性を担保すれば利活用とイノベーションはできるだろうと、本当にそうだなということも思いました。
国及び自治体、行政側でも活用していこうということでこの法案の中でうたわれておりますけれども、自治体、私、東京なんですけれども、東京の各自治体でも、…
この発言のページ
43村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
ありがとうございます。
御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。
〔委員長退席、理事磯崎仁彦君着席〕
私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導し…
この発言のページ