こんにちは、立憲民主党、山崎誠でございます。
今日は、ＡＩ法案、大事な法案の質疑のチャンスをいただきまして、本当にありがとうございます。
午前中の参考人のお話も聞いておりました。非常にこのＡＩの分野、私は、かなり今、日本は追い込まれて難しいんじゃないかという認識におりました。ただ、それだけではないんだということが今日の参考人のお話でも分かったかなと思います。その点よかったのでありますけれども、政府が応援する以上、やはり今までどおりのやり方ではなかなかうまくいかないのではないかという認識に立って御質問したいと思います。
ちょっと時間の関係で、済みません、二番目のＡＩ普及に伴うリスクという点についてまず御質問していきたいかと思いますので、よろしくお願いいたします。順番を入れ替えさせていただきます。
今日の参考人の質疑の中でちょっと私、気になったのでありますけれども、電卓やＰＣが普及をしていくと人間が例えば暗算ができなくなるとかあるいは漢字が書けなくなると、でも問題はなかったじゃないですか、人間はそれ以上のことをやっているんだから問題ないんだ、そういうようなお話がありました。ですが、私はＡＩは違うんじゃないかなと。ＡＩは、人間の、もっと違う、思考をしそして意思決定をしていくというそのプロセスに入り込む仕組みなので、私は、考え方をやはりそこは改めて、次元を変えていかないと大変危険なんじゃないかと思っています。
シンギュラリティーというような話もありますけれども、そういう、ある意味、ＡＩが抱えているリスクをどういうふうに回避をしていくのかというのは、普及推進とともにやはり両輪、言うまでもないのでありますけれども、その立場でまず御質問したいと思います。
私の結論からいくと、今、この後御質問する著作権の問題であり、ディープフェイクの問題であり、これは今までの法体系で一生懸命対応しているんだけれども、それではもう手に負えなくなっている、そういう世界が広がったということだと思うんです。
そういう意味では、今回のＡＩ法案とともに、こうした規制に関わる、規制というと何か縛るような話になりますけれども、より発展させるために必要な枠組みというものは、やはり新しい法体系として検討しなきゃいけない。ＡＩ法案の中の戦略の中にもそういうものが出てきていただけるものとは思うんですけれども、早急にそうした議論を深めていただきたいというのが私のまずは問題意識であります。
ＡＩ活用推進とともに、ＡＩの問題点も顕在化している。その中の一つが、ＡＩの機械学習によって、それも無断学習と言われるような問題であります。
イラストレーターや音楽家や作家、著作権に関わるようなお仕事をされている方々の作品が無断で取り込まれて、類似の作品をＡＩが生成をするということで、大きな被害がやはり生じているということだと思います。昨年の四月に、実は内閣委員会でこの問題を私は一回取り上げさせていただいたのでありますけれども、状況を皆さんにお聞きをすると、全く変わっていないということであります。
文化庁さん、来ていただいているかと思うんですが、文科省ですかね、こうした声が上がっていること、クリエーターの皆さんに不利益が発生しているという認識があるかどうか、まずお尋ねしたいと思います。
108
大岡敏孝(自民)
休憩前に引き続き会議を開きます。
午前に引き続き、内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
この際、お諮りいたします。
本案審査のため、本日、政府参考人として、お手元に配付いたしておりますとおり、内閣府科学技術・イノベーション推進事務局統括官渡邊昇治君外十一名の出席を求め、説明を聴取いたしたいと存じますが、御異議ありませんか。
〔「異議なし」と呼ぶ者あり〕
この発言のページ
109大岡敏孝(自民)
御異議なしと認めます。よって、そのように決しました。
―――――――――――――
この発言のページ
110大岡敏孝(自民)
質疑の申出がありますので、順次これを許します。山崎誠君。
この発言のページ
- （上の発言）
111山山崎誠(立憲)
こんにちは、立憲民主党、山崎誠でございます。
今日は、ＡＩ法案、大事な法案の質疑のチャンスをいただきまして、本当にありがとうございます。
午前中の参考人のお話も聞いておりました。非常にこのＡＩの分野、私は、かなり今、日本は追い込まれて難しいんじゃないかという認識におりました。ただ、それだけではないんだということが今日の参考人のお話でも分かったかなと思います。その点よかったのでありますけれども、政府が応援する以上、やはり今までどおりのやり方ではなかなかうまくいかないのではないかという認識に立って御質問したいと思います。
ちょっと時間の関係で、済みません、二番目のＡＩ普及に伴うリスクという点についてまず御質問していきたいかと思いますので、よろしくお願いいたします。順番を入れ替えさせていただきます。
今日の参考人の質疑の中でちょっと私、気になったのでありますけれども、電卓やＰＣが普及をしていくと人間が例えば暗算ができなくなるとかあるいは漢字が書けなくなると、でも問題はなかったじゃないですか、人間はそれ以上のことをやっているんだから問題ないんだ、そういうようなお話がありました。ですが、私はＡＩは違うんじゃないかなと。ＡＩは、人間の、もっと違う、思考をしそして意思決定をしていくというそのプロセスに入り込む仕組みなので、私は、考え方をやはりそこは改めて、次元を変えていかないと大変危険なんじゃないかと思っています。
シンギュラリティーというような話もありますけれども、そういう、ある意味、ＡＩが抱えているリスクをどういうふうに回避をしていくのかというのは、普及推進とともにやはり両輪、言うまでもないのでありますけれども、その立場でまず御質問したいと思います。
私の結論からいくと、今、この後御質問する著作権の問題であり、ディープフェイクの問題であり、これは今までの法体系で一生懸命対応しているんだけれども、それではもう手に負えなくなっている、そういう世界が広がったということだと思うんです。
そういう意味では、今回のＡＩ法案とともに、こうした規制に関わる、規制というと何か縛るような話になりますけれども、より発展させるために必要な枠組みというものは、やはり新しい法体系として検討しなきゃいけない。ＡＩ法案の中の戦略の中にもそういうものが出てきていただけるものとは思うんですけれども、早急にそうした議論を深めていただきたいというのが私のまずは問題意識であります。
ＡＩ活用推進とともに、ＡＩの問題点も顕在化している。その中の一つが、ＡＩの機械学習によって、それも無断学習と言われるような問題であります。
イラストレーターや音楽家や作家、著作権に関わるようなお仕事をされている方々の作品が無断で取り込まれて、類似の作品をＡＩが生成をするということで、大きな被害がやはり生じているということだと思います。昨年の四月に、実は内閣委員会でこの問題を私は一回取り上げさせていただいたのでありますけれども、状況を皆さんにお聞きをすると、全く変わっていないということであります。
文化庁さん、来ていただいているかと思うんですが、文科省ですかね、こうした声が上がっていること、クリエーターの皆さんに不利益が発生しているという認識があるかどうか、まずお尋ねしたいと思います。
112中中原裕彦文部科学省大臣官房文部科学戦略官
お答え申し上げます。
ＡＩと著作権の関係につきましては、先生から御指摘のありましたとおり、令和六年三月に、ＡＩと著作権に関する考え方についてということを取りまとめさせていただいたところでございます。その中におきましては、ＡＩと著作権に関するクリエーターの皆様の、権利者の懸念を払拭する観点から、ＡＩ学習のための著作物の利用であっても、著作権法三十条の四の要件を満たさず、権利者から許諾を得ることが必要な場合があり得ることなどもお示しをさせていただいているところでございます。
そして、考え方の取りまとめ以降、これを正しく御理解いただけるように、ＡＩと著作権…
この発言のページ
113山山崎誠(立憲)
御説明は、一定、去年も同じような話を聞いているんですよ。相談窓口を設けて、相談に来てくださいと、それを是非働きかけてくれということで、そういう話をしたんですけれども、同じことなんですよ。
私、やはり様子見はもう終わりにして、具体的な対応策をもっと練っていっていただかないといけない。今の枠組みの中でやろうとするから、今の対応なんですよ。だから、その枠をどう乗り越えて次のステージに入っていくかということを、きちっと議論をスタートしていただきたい。その認識はありますか。今の枠組みでは不十分な点がありそうだ、あるんだ、そういう認識はありますか。
この発言のページ
114中中原裕彦文部科学省大臣官房文部科学戦略官
相談窓口に寄せられました内容としましては、自身が作成したイラストが、ＡＩを利用して改変されたですとか、あるいは、学習用データとして集積されていると言われる海賊版サイトに自身の画像が無断で転載されたといったような御相談をいただいておりまして、これは、基本的に、相談窓口で弁護士による無料法律相談というのを実施してまいりましたけれども、この基本的な考え方において、基本的には想定されたものでありまして、著作権侵害として対応可能であった例とは認識をしております。
しかしながら、海外の状況ですとか技術の状況、権利者と利用者のバランスなどを踏まえまして、引き続きまし…
この発言のページ