人工知能「シンギュラリティは起きません」
甘利俊一・東大名誉教授

今の人工知能はまだまだたかがしれています。非常に高度な実験式を作っていてそれで十分役に立つ。役に立つから確かに社会の構造が変わるかもしれない。じゃあ。人工知能が暴走しないのか、人工知能が暴走するとすればそれは人間が暴走するからですよ。人間は暴走していますよね。人工知能の研究がこんなに進んでもそれが金もうけになるから。企業も国家もこれは儲かると。逆にこれに力を入れなければ落伍しちゃう。それで力を入れている。もちろん戦争をしようという人たちが人工知能ほど安上がりに戦争できるものはない、人間だと人を殺すのにためらいを感じるけど人工知能は心がないですから効率的に殺してしまう。こんないいものはない。アメリカはドローンを使って人をどんどん殺しているわけですよ。ですから人工知能というものは人工知能が悪いというよりはそれを育てる社会が一体どうやって、こういうことなんですね。非常に理想的な絵を描けば人工知能によって生産力が上がった、嫌な仕事はみんなしなくて済むようになった、今までの産業革命だって仕事がどんどん代替することによって人類の生活レベルは上がってきたではないかと。これは確かに上がってきたんですよ。私の子供の頃より今の方がはるかに生活が快適になっています。心が豊かになったかは別。ここが問題なのですが物質的な生活レベルが上がったから、これから人工知能がさらにいろいろな仕事をやってくれればいいじゃないかと。そうするとAIが人から仕事を奪っていくのか、どんどん奪っていきます。間違いなく人の仕事は減る方向に行くのですね。

人工知能がいくら学習しても探究心や目的意識は持てない

その時にじゃあどうしたらいいのか、心配いらないよ、金持ちから税金をガンガンとってベーシックインカムとして全員にばらまけばいいんだと。これはね間違いです。人々がそうか、お前なんにもしなくていいよ、それは人間の家畜化というやつ。豚がそうです。豚に聞いてごらんなさい、あんた幸福ですか?一生懸命に餌を探して歩かなくていい、それが幸福ですか?やはり人間は働くこと、自分が何か使命を持ち、仕事をしさらに自分の能力を高める、ここに生きがいと喜びがあるんですね。これを奪ってしまってはいけないわけです。だから人工知能がもっともっと進んだ社会では、人々の仕事をどんどんどんどん作り出さなければいけない。それもやりがいのある面白い仕事を作り出す。それはなんでもいいんです。私のようなアマチュアサイエンスだって構わない。

皆さんが気になるのは技術的特異点シンギュラリティ、2045年、なぜ2045年なのか知りませんが、この時代になると人工知能が人間よりもはるかに進歩するので数学の定理の解明もみんな人工知能がやってくれる、人間はやらなくていい、じゃあ、人間は何をするの?人工知能が人間は無駄で邪魔だ、あんなのはいない方がいいと考え、これはよくSFに出てくるストーリー。こういうことになるかというと私はならないと。それは人工知能がやはり、意識をもち自分の使命感を持ち社会と協力して何かをする、人間はそれを進化の過程で何千万年かけてつくりだした。人工知能は人間が設計するわけですから、人工知能がいくら学習してもそういうような探究心、目的意識は持てない。だからシンギュラリティは起きない、

そんな心配はいらないけれど、人間は素晴らしいけれど愚かですよね。我々は人工知能という技術を手に入れたとして何をするのか、こういうわけですね。考えてみれば文明はこれまでも脆弱で滅んできました。今、我々が民主主義と自由、平等こういう価値観の社会、原理を築いてきたんですね。これは本当にいいんだろうか?これがすさまじいまでの格差、これを是正出来ていないわけですね。人工知能は格差をもっともっと拡大するのは間違いないわけです。で、それでいいのかという問題があります。昨今の政治情勢をみるに日本もひどいけれどアメリカはもっとひどいでしょ。イギリス、ロシアひどいし中国も。トランプにしても安倍にしても選挙で選ばれているのです。やはり人類の教育レベル、知的レベルをもっともっとあげた社会の上に民主主義と自由と平等、この理念を実現していかなければいけない、こういうわけですね。日本はAIについて、安倍内閣は人工知能で巻き返して世界に覇権を取り戻すんだと、そんなこと有りえないですよね。日本がアメリカや中国に開発や経済力、金力で勝てるはずがないんです。日本はもっと日本独自の素晴らしい文化を築いていかなければいけない。それはもちろん人工知能の基本原理を解明するのでもいいですし、科学だけではなく文化として科学技術、芸術そういったものをどう築いていくか、これが今問われていると私は思います。

【甘利俊一・あまりしゅんいち】1936年、東京都生まれ。1963年東京大学博士課程修了。九州大学工学部助教授、マサチューセッツ大学客員研究員、東京大学工学部計数工学科教授、理化学研究所脳科学総合研究センター長など歴任。2019年に文化勲章受章。東京大学名誉教授、理化学研究所栄誉研究員。情報幾何学の創始者として知られる。著書に「情報理論」(ちくま学芸文庫)、「脳・心・人工知能 数理で謎を解き明かす」(講談社ブルーバックス)など。


  

返信を残す