二点お答えいたします。
一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。
このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きその貢献をすべきだということがここに示されておるのだと思いますが、一方で、村上参考人御指摘のとおり、ずっと同じ人間がやっておるではないかというのも事実でございまして、私もそろそろ疲れてまいりましたので、やはり先ほど申し上げたように、次世代の人材育成ということに向けての手厚い配慮をいただきたいというふうには考えております。
第二は、責務の点でございます。
二〇一六年に、マイクロソフトがＴａｙという会話ロボット、チャットボットですね、をインターネット上に公開したところ、様々なユーザーがいろんなことをした結果、二十四時間以内に差別的発言を繰り返すようになり、一旦サービス中止に追い込まれ、修復したということで再公開したんだけど、やっぱり同じ結果になって公開が停止されたという事案がございました。
オンプレミスという言い方を我々は用いますが、通常の例えばワープロソフトのように、自分のコンピューター上で動いていて、結果も自分のコンピューターで閉じているというケースであれば、これは何をしていただいてもよいのだと思います。改造を試みて、その結果動かなくなりましたというようなことがあっても、それはそれで差し支えなかろうと思うわけですが、現在のＡＩシステムは、例えば物理的にはインターネット上のサーバーで動作している。したがって、あるユーザーの動作が直接にほかのユーザーたちに影響を及ぼすということもあれば、物理的にはオンプレミスで手元の端末上で動いていても、学習結果を共有するなどの形でその結果が他の一般的なユーザーに影響を及ぼすという環境の下で動いております。
ということは、その存在が全てのユーザーに一どきに影響を与えるようなインフラストラクチャー的なものとして機能しているということでございまして、であるならば、その利用者には一定の行為ののりというものがあってしかるべきなのではないかと。やはり、水道の水源となっている池に毒物を投げ込むということはこれは許されないのであって、他者に被害を及ぼさないように自らの行動を抑制すべき道義的責務はあると私は考えております。
もちろん、これを法的義務にしてよろしいかということについては非常に大きな議論のあるところであろうと思いますし、それはうかつにやればプライバシーを無視して私的生活の監視をもたらすことになりますので、ここは大いに注意しなければいけないところだと思いますが、今回の法案は一定の責務があることを確認したにとどまるものでありますので、このような書きぶりは先ほど申し上げたような問題認識からも適切なのではないかと考えておるところでございます。
以上です。
99
大島九州男(れいわ)
れいわ新選組、大島九州男でございます。四人の参考人の皆さん、ありがとうございます。
早速ですが、二点、四人の皆さんにお聞きをしますが、基本理念の中の五に、国際的協調の下に推進することを旨として、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすと。いや、できるのかこれはという素朴な疑問に対してどうお答えになるかということ。
それともう一つは、国の責務を決めるのは、それは当然だろうと。で、ここでまた、国民の責務で、ちゃんと何か国がやることと地方公共団体がやることに協力しなさいと、まあ、従えというふうには書いてないけれ…
この発言のページ
100村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
まず、一点目の国際協力に対してできるのかというのは、恐らく本日参加している四人の参考人が皆心配しているところというふうに思っております。
私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。同じ人が結構代わる代わる闘っているというところで、ほかの国を見ますとかなり層が厚くなっています。なので、これはもう急務として、その国際的な議論ができる人材というのを育成しなきゃいけない。これは官民両方ですね。民間から、私のように民間から出て協力をする人だけではなくて、官の中にもそういった人材をきちんと育成することは急務だ…
この発言のページ
101永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
国際協力のところにつきまして、ルールメークというところで本日何度も私の方から申し上げておりますので繰り返しはあれなんですけど、この国際人材ですね。
ＡＩも顕著でございますが、実はここに関しては課題がありまして、やはり民間、私も実はそういった場所に実際に出ておる人間でございます。民間のところ、それから官の方で一緒に連携をしてやっていかなければいけないところ、それから研究分野のところ、いろんな分野のところでとにかく、人数というところもありますし、リソースの人数もありますし、リーダーみたいな方、この主導していく方というものをやっぱり…
この発言のページ
- （上の発言）
102大大屋雄裕慶應義塾大学法学部法律学科教授
二点お答えいたします。
一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。
このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きその貢献をすべきだということがここに示されておるのだと思いますが、一方で、村上参考人御指摘のとおり、ずっと同じ人間がやっておるではないかというのも事実でございまして、私もそろそろ疲れてまいりましたので、やはり先ほど申し上げたように、次世代の人材育成ということに向けての手厚い配慮をいただきたいというふうには考えております。
第二は、責務の点でございます。
二〇一六年に、マイクロソフトがＴａｙという会話ロボット、チャットボットですね、をインターネット上に公開したところ、様々なユーザーがいろんなことをした結果、二十四時間以内に差別的発言を繰り返すようになり、一旦サービス中止に追い込まれ、修復したということで再公開したんだけど、やっぱり同じ結果になって公開が停止されたという事案がございました。
オンプレミスという言い方を我々は用いますが、通常の例えばワープロソフトのように、自分のコンピューター上で動いていて、結果も自分のコンピューターで閉じているというケースであれば、これは何をしていただいてもよいのだと思います。改造を試みて、その結果動かなくなりましたというようなことがあっても、それはそれで差し支えなかろうと思うわけですが、現在のＡＩシステムは、例えば物理的にはインターネット上のサーバーで動作している。したがって、あるユーザーの動作が直接にほかのユーザーたちに影響を及ぼすということもあれば、物理的にはオンプレミスで手元の端末上で動いていても、学習結果を共有するなどの形でその結果が他の一般的なユーザーに影響を及ぼすという環境の下で動いております。
ということは、その存在が全てのユーザーに一どきに影響を与えるようなインフラストラクチャー的なものとして機能しているということでございまして、であるならば、その利用者には一定の行為ののりというものがあってしかるべきなのではないかと。やはり、水道の水源となっている池に毒物を投げ込むということはこれは許されないのであって、他者に被害を及ぼさないように自らの行動を抑制すべき道義的責務はあると私は考えております。
もちろん、これを法的義務にしてよろしいかということについては非常に大きな議論のあるところであろうと思いますし、それはうかつにやればプライバシーを無視して私的生活の監視をもたらすことになりますので、ここは大いに注意しなければいけないところだと思いますが、今回の法案は一定の責務があることを確認したにとどまるものでありますので、このような書きぶりは先ほど申し上げたような問題認識からも適切なのではないかと考えておるところでございます。
以上です。
103市市川類一橋大学イノベーション研究センター特任教授／東京科学大学データサイエンス・ＡＩ全学教育機構特任教授
御質問ありがとうございます。今までの参考人とほぼ同じ答えになるかと思いますが。
まず、国際協力において主導的なという意味でいうと、やはり日本の戦略は、アメリカのようにデファクト取れるわけでなく、ＥＵみたいにＥＵ・ＡＩ法でブリュッセル効果で世界を支配する、ルールを作るというのもできないので、積極的に国際協力を通じて標準化を進めようとしてきたというのが事実だと思います。その成果がＯＥＣＤのＡＩ原則であり、広島ＡＩプロセス、これは非常に評価が高いですし、今、ＡＩＳＩの国際ネットワーク、村上さんが出ているやつも含めて、積極的に進めているという意味では非常に主導…
この発言のページ
104大島九州男(れいわ)
私の認識としては、今、それぞれ参考人、一つ一つの知能ですよね。その知能というのは、今までの経験とか今まで自分がインプットした知識とかそういうところから出てくるわけですよね。
当然、コンピューターもＡＩも、そういうふうに与えられたものでインプットされたやつからアウトプットしていくという。だから、もっとちょっと分かりやすく言うと、働く側の人の声だけをずっと入れていたらこれは労働者の考え方、経営者の声だけずっと入れたらその経営者の考え方、で、これが議論し合うと労使交渉になるみたいなね。でも、要は、その一つのコンピューターの中にそれこそ労働者の声とそして個々の…
この発言のページ
105大大屋雄裕慶應義塾大学法学部法律学科教授
ＡＩは機械ですので、例えば一定のデータを学習させて、そうですね、解答例を十個出してみよとか、違うパターンでバラエティーを持たせて百個作ってみろと言われたら作ると思います。
問題は、その中でどれが最も良いとか、相対的に良いという評価をＡＩはなし得ないということで、なので、まさに生成ＡＩとはそういうものなわけですが、作るだけ作らせるというところまではＡＩでいいものが出せる、あるいは少なくともやれることはやれる、それを評価するところがまだ人間にしかできていないというのがお答えになろうかと思います。
この発言のページ