人工知能「シンギュラリティは起きません」
甘利俊一・東大名誉教授

囲碁のプロにコンピューターが勝つようになっちゃった

2010年代になってその分野にニューラルネットワーク、人工回路網を作ってそれら学習させる、1千万枚の画像を全部学習させる、そうすると神経回路網が計算してこれは犬だ、犬でもブルドックだとかね、そういうことを全部当てるようになってきてついに人間よりも認識力がよくなってきた。人間の認識ってそうはよくないんですよね。汚い画像だったら人間は読まない。それをコンピューターは読んじゃう。画像だけではなくって音声認識とかいろんな分野で人間よりも性能のいい装置がどんどん現れるようになってきた。さらに衝撃だったのは囲碁ですね。私が好きだから言うのではないんだが非常に面白くて負けると悔しいですよ。夜も寝れない。それをプロとする職種の人たちがいてプロになるのは大変なことなんです。それにコンピューターが勝つようになっちゃった。今やプロが始めに石を3つ置かせてもらっても勝てないんじゃないかというぐらいに進化しましてプロが大ショックなんですが、それはそれでいいんですよね。俺は人間の一番なんだ、こう言ってりゃあいいんで。プロは今、一生懸命、コンピューターと取り組んで研究して自分を強くしようとしている、こういうふうにやっているわけです。それからですね、それはパターンの認識なのではないか。人間はもっと高級な知的なことをやっている。例えば言語。言語をしゃべるというのは大変なことなんですね。言語の仕組みは文法構造というのがあり意味論、この単語は何を意味するのというのがある。どう使うかというね、これは生半可なことでは出来ないなんて言ったのがやっぱりこの深層学習をすることで機械翻訳とか言語がある程度出来る。これは大変脅威なわけです。考えてみれば人間が脳でやっているんですから神経回路で出来ないはずがないのですけど、でも、同じような脳をもっていても犬や猫やサルには出来ないわけですよね。これは人間だけが獲得した非常に高次なことであり、そこには言語があり論理があり推論があるわけです。今の人工知能がそれが出来るかというとそれは出来ないですね。

人間は神経回路網の答えを信じていいのか信じてはいけないのか?

人工知能は2010年から深層学習つまり神経回路網を使って非常に大量のデータを使って学習する。今の場合は正解がわかっていますから正解が違っていたらそれに合う方に少しずつ変えていく。それで人間よりももっと威勢のいい装置ができあがるこういうことですね。じゃあ、よっぽどすごいことをやっているという話しと人間は回路網の答えを信じていいのか信じてはいけないのか気持が悪いではないかと。神経回路網はブラックボックスとして機能してなにやら計算すると「はい答えですよ」と我々はそれじゃあ困るのではないかという議論と両方あります。でも実はですね、神経回路網っていうのは学習データからの実験式をつくってですね、我々科学をやる時に大体まずいろんなデータを観測し観測をグラフに表し、これは点を結んでいくとなんとなく三次式に見えるとしましょう。どうもこの現象を支配するのは三次式らしい。それが本当だと未知の点を与えた時の答えが予測できるわけですよね。古来、天文の観測データがいっぱいあったわけです。昔は星だって奇麗に見えたんですよね。今はもう天の川なんて見えません。で、昔の人は暦をつくり日食の予測をする、そういうのがみんな出来たんです。だけどもなぜそうなのかはわからなかった。それはそこには原理があるはず。例えばニュートンが考えだした原理によって天体のありとあらゆることが説明できるようになった。人工知能は実験式を作ったけれど、それは間違いなく役に立つがそれが、なぜそういうことが起こっているのか、だからどういう計算をすればいいのかということはまったく教えてくれない。彼らはたくさんのデータを集めて計算式を作った。ブラックボックスというけれどブラックでないんですよ。学習した後、全部わかるわけです。ただ式は非常に複雑なんで何をやっているのか原理的なことはわからない。

人間はですね探究心をもっています。いろんな現象がある。実験式も必要である。だけれども実験式にとどまらないでその奥にある原理を理解しそれによって全体の構造を明らかにしようこうするわけですね。それが我々の探究心であり理性なんです。さて、私、数理脳科学をやっているんですが、人間が素晴らしい行動が出来るのは1つは神経回路網が頭の中にあるからですが、それが上手くいくためには情報の基本原理があるはずだ。その原理を我々は解明したい。そのためには本当の脳、人間の脳もいいけれど人間の脳で実験が出来なければサルの脳を調べていけば脳がなぜこんなに上手く働くのかすぐにわかるではないか、これは自然な考え方ですが、なかなかそうはいかない。それは脳というのは進化の結果できあがった。進化というのはだんだんずれるんですよね。たまたまいいのができればそれが残った。もっとすごいのを作る時には別の仕組みを入れなければいけない。別の仕組みは見つかったとして、その前のやつを全部御破算にした方がすっきりするのだけれどもそれはできないですね。連続的に生きてきているわけですから。古いのはそのまま使い、時に改変し、それにさらに新たなものを付け加える。今ある脳は昔の痕跡が山ほど入っているわけ。生物学としてはそれが面白い。それは生物学の立場。情報の原理を調べるとなるとそういう痕跡は邪魔になる。だから数理で神経細胞のようなネットがどう働くのか、それを原理で明らかにしたい。これが数理脳科学です。


返信を残す

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください