人工知能「シンギュラリティは起きません」
甘利俊一・東大名誉教授

人間の意識はどうやってできたのか?

さて、我々は意識をもっていろんなことをこなしているわけです。もちろん意識は動物にもあるかもしれませんが、意識が明瞭に現れているのが我々人間。意識はどうやってできたのか?人類が共同作業をする中で、自分がやろうとしていることを相手に伝えないとまずい。相手に伝えるためには自分で自分のやろうとしていることを知る、これが意識です。自分で自分のやろうとしていることを知れば、それがいいことか悪いことか反省して考えることができる。また、自分の意図を相手に伝えるために言語を使った。言語ができると論理が生じ、そこから数学ができる能力が生じる。こんな風になっているわけです。

じゃあ、意識はいつ生じる?これはもう20~30年前ですが、リベットという神経学者が実験をしました。時計の秒針が回っています。あなたは自由です、秒針が回っていますから秒針がどこに止まったらいいか考えて、例えば9で止まったらいいと決めたなら9で止めてください。9で止めます。で、あなた9で止めようとどこで決めましたか?そうすると大体6くらいで決めたと。で、この人の頭に脳波計をつけてみて別室で実験者が見ていますね。そうすると6より前に興奮が起こってなんだこの辺りで9に決めたと実験者はわかってしまうんです。じゃあ、この人の意識はどうなっているのか。これはですね要するに神経回路網が課題をもらってウワ―と葛藤して俺は9に決めたと答えを出す。脳波を測っている人はそれを見ている。9に決めると9に決めたと意識にのぼる。それは決めてから後のこと。意識にのぼって9まで待ってボタンを押す。ところが我々の多くの仕事は意識にのぼらないで実行に移すんです。歩く時にどっちの足を出そうかなんて意識がないのは当たり前のこと。ところがツルツルに凍った斜めの路面に立ったら一歩一歩意識して細かく考えますね。これは意識的にやらないと出来ないわけです。大事なことは意識にのぼらせて実行前にそれでいいのかどうかを反省してみることができる。その時にいろんな情報を集める、過去の経験、性質でもなんでもいいのだけれど。もし悪いとなれば、意識が今の決定を取り消し、もういっぺん考え直しなさい。これを人間はやる。多くの場合、いいという時に意識は合理化に使う。おれが今決めてこれからこうするが、それはなぜいいか、こんな根拠がある、だから俺の決定は正しい、決定が揺らぎのないものになる。人間はこういうことをやっているわけです。

人工知能が暴走するとすればそれは人間が暴走するから

意識ができているのは心にある。今の人工知能はまったく意識というのをもっていない。計算して答えを我々にくれる。将来、人工知能が脳に学ぶべきことがあるとすれば、やっぱり心とか意識とか記憶の仕方ですね、こういうものをちゃんと考えなければいけないわけです。じゃあ、人工知能が発展して心を持ったロボットが、今も大問題になっていて、みんな作りたいと言っているわけですね。そうするとロボットを設計する時に人には心というものがある。人には心というものがあるんだから、人の心を法則として知っていないとロボットは人間とは付き合えない。これをするのはそんなに難しいことではない。ロボットが人間とは心の動きがあって、それに合わせてロボットもやりましょうというようになるわけですよね。それはロボットが心を持つようになるということとは違う。ロボットは心の動きを理解したけれどもそれは自分が心をもったということではない。人間の心というのはやっぱり人間が社会生活を送る中で協力しあい、共感をもち、高い親近感を持ち、そういうことが出てきて、出てきたのだけれどもそれはある意味、不合理、不条理なわけですよ。いいことがあって喜びすぎてうつつを抜かす、これ無駄ですね。恋愛してポーとなっちゃう無駄ですよね。ロボットは無駄はしない。ロボットは心の動きは理解するが、それに合わせもするが自分は全部合理的に判断すればいいんですよ。喜んだ振りをしてみせるかもしれない。しかし、決して喜ばないということですね。考えてみれば我々はそうやって人生、一生を送ってきた。私のような老いぼれであればただ一度のかけがいのない人生、楽しいことも苦しいことも頑張ったこともいっぱいあって、これが俺の人生なんだということなんですが、ロボットはグレードアップすればいいのでそんな考えを持ちようがない。こういうわけです。


返信を残す

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください