「賢い人工知能がすべてを解決する」の勘違い
ニコ動サーフィンをしていたら、人工知能についての動画をみつけた。これ。
このシリーズでは、「人間より賢くなった」人工知能が起こす未来について考察している。まずはこの動画を見てほしい。
さて、この動画にはいろいろな勘違いがある。おおまかに言って、それは以下の四点に要約される。
1.世界についての勘違い。知識は賢くなっただけでは手に入らない。
2.異なる賢さの混同。コンピューターの「賢さ」は計算の速さのことで、創造する力はない
3.行動の大切さの過小評価。頭がいいだけでは何も世界は変わらない。世界を変えるのは行動。
4.賢いのが一番偉くて、世界を支配するという間違った思い込み。
どれも「賢さ」を過大評価していることから生じているのだけれど、ここまで徹底されているのは逆に珍しいと思った。が、コメント見る限りけっこう多くの人が「賢さ」幻想に毒されているようにも思える。
以下、各項目の解説。
1世界についての勘違い。
人間を救う科学的な知識というのは、単に「頭がいい」というだけでは得ることができない。地道な実験や試行錯誤があってはじめて科学的発見というのは可能なのである。もし本当に頭がいいだけですべての科学的知見がえられるんなら、アリストテレスが全部発見していたはずだ。が、実際には現代のレベルまで科学が発展するには彼以降2000年以上かかわっているわけだ。
この誤解は、科学的知見が経験的なものであることを知らないこと、そして経験的ということの意味を知らないことからくるのだと思う。世界の秘密は経験によってしか開示されない。つまり、理性的な思考っていうのは、経験に先立って意味があるようなものではないってことなんだけど、これについては以前少し書いたことがある。これ。この誤解は要するに世界とか自然ってものについての誤解なんだよな。
2.異なる賢さの混同
コンピューターの賢さっていうのは、その賢さを測定できる道具立てが揃っているから測れるんだけど、その道具立てを超えたところで賢いってわけではない。たとえば、プロにも勝てる将棋ソフトに女の子の口説き方を聞いても答えられない。これ、分野が違うってのもあるけど、基本的にコンピューターはプログラムされたこと以外のことはできないってことなんだよな。
じゃあ全部プログラムすればいいじゃん、という意見があると思うけど、これは正しいし実現可能だと思う。たとえば、医者ソフトを作れば、カメラや内視鏡を患者自身が操作して質問に答えたりすれば、膨大なデータから病名診断できるようになる。専門的な分野になればなるほど、コンピューターってのはそれに特化できるわけで、人間より活躍できるようになると思う。これはそう。
でも、たとえば、コンピューターがアニメや音楽や映画作ったりできるようになるかというと、微妙だと思うでしょ？ ありきたりなものはつぎはぎで作れそうだけど、ブニュエルみたいな映画は絶対とれない。あと、ゲームを作るってのも無理。コンピュータには想像する能力がないので、想像する力が必要なことはできない。
これ、人間には２つの異なる知性があるってことを知らないことからくる誤解だと思う。人間には理性とか悟性とか言われるいわば「冷たい知性」と、想像力や判断力といった「熱い知性」がある。これは全然違うもので、コンピューターは後者の能力を持てないんだよな（コンピューターの能力は前者の能力ともじつは違う）。あと、コンピューターには判断も無理。いくら知識が膨大でも、何かをするっていう決断を下す能力はまた別。
3.行動の大切さの過小評価
世界を実際に変えているのは行動で、頭の良さではない。これはもう自明のことなので、説明不要だと思う。なんかで見たけど、小学生が官庁にいって職員に日本の政治の問題は何かって聞いてたんだって。そしたら、すっごいわかりやすく完璧に答えてくれたんだって。こうこうこういう問題がありますよって。つまり、官僚には完璧な知性と問題把握能力があるけど、それを持っていることが問題の解決にはなっていない。証明終わり。
動画で触れられていた環境問題なんかも、なにをどうすればいいかとかそんなことはもうわかっている。問題はそれを実行する意志とか金とか実際の行動がないってこと。頭の良さで世界の問題が解決できるんなら、いまもうすでに世界中の人間すべてがなんの問題もなく幸福でいることだと思うわ。
これは、賢さというのが万能な能力だと思い込んでいるから、行動の大切さを忘れていることからくる誤解だと思う。３つの中で、これだけは基本的な哲学的な知識も必要なく理解できることだと思う。この誤解を犯していることがかえって、いかに主含めた多くの人が賢さ幻想に侵されているかってことをよく示しているように思える。
4.賢いのが一番偉くて、世界を支配するという間違った思い込み。
これについてはとくに言うことはない。うえで言ったように、コンピューターが賢くなるというのは、人間を超えるということではない。賢いからって世界の支配権を握れるわけでもない。すでに数十年前、コンピューターの計算速度が人間より早くなっても人間より賢いし偉いと私たちは思わなかった。人工知能についても同じ。たとえば、歴代のノーベル賞受賞者の頭脳を複製して並列化した装置を作ったとしても、ほとんどの人間はその装置よりバカだから支配される側になるということにはならない。あ、これが一番滑稽な勘違いだわ。
***
以上を踏まえたうえで、じゃあ将来の人間より賢い人工知能はどう役に立つのかということだけど、それは今までの延長線上にしかないと思う。コンピューターの賢いってのは、より計算が早くなるってことなんだから、それがどんなに賢くなっても、今までのコンピューターの発展の延長線上にある。それは、今後すごいことが起こらないということではなくて、むしろこれからもすごいことが起こりはするけれど、それはもっと身近なレベルで起こるということ。
たとえば、誰もが人工知能を携帯するようになる。それは人間が集めることができるすべてのデータを参照できるし、人間がほしい答えを求めるプログラムも全部はいっている。するとね、人間関係から今日の料理とか大学就職どこ入ればいいかとか、そういう質問疑問全部に答えてくれるわけ。これで若い人間も大人以上の知識と経験をもとに行動できるようになる…可能性がある。
あと、人工知能が簡単なプログラムを必要に応じてつくれるようになれば、単純な仕事のすべてを自動でしてくれるようになる。新しい商品の企画とかも、既存のデータを参照して出してくれるようになるかもしれない。人間のすることは、どういうデータを参照すべきかコンピューターに指示する程度のことになるかもね。便利でいいことだと思う。
ただ、これで世界がいまのと全然違うようにはならない。動画で言われているような、経済の原理が壊れるようなこともありえない。動画をみると、人工知能が世界の基盤を物理レベルで変えてしまうみたいな幻想がある。でも、どんなに大きく見積もっても人工知能ができることは人間の手助けであって、それを超えることはない。
このシリーズでは、「人間より賢くなった」人工知能が起こす未来について考察している。まずはこの動画を見てほしい。
さて、この動画にはいろいろな勘違いがある。おおまかに言って、それは以下の四点に要約される。
1.世界についての勘違い。知識は賢くなっただけでは手に入らない。
2.異なる賢さの混同。コンピューターの「賢さ」は計算の速さのことで、創造する力はない
3.行動の大切さの過小評価。頭がいいだけでは何も世界は変わらない。世界を変えるのは行動。
4.賢いのが一番偉くて、世界を支配するという間違った思い込み。
どれも「賢さ」を過大評価していることから生じているのだけれど、ここまで徹底されているのは逆に珍しいと思った。が、コメント見る限りけっこう多くの人が「賢さ」幻想に毒されているようにも思える。
以下、各項目の解説。
1世界についての勘違い。
人間を救う科学的な知識というのは、単に「頭がいい」というだけでは得ることができない。地道な実験や試行錯誤があってはじめて科学的発見というのは可能なのである。もし本当に頭がいいだけですべての科学的知見がえられるんなら、アリストテレスが全部発見していたはずだ。が、実際には現代のレベルまで科学が発展するには彼以降2000年以上かかわっているわけだ。
この誤解は、科学的知見が経験的なものであることを知らないこと、そして経験的ということの意味を知らないことからくるのだと思う。世界の秘密は経験によってしか開示されない。つまり、理性的な思考っていうのは、経験に先立って意味があるようなものではないってことなんだけど、これについては以前少し書いたことがある。これ。この誤解は要するに世界とか自然ってものについての誤解なんだよな。
2.異なる賢さの混同
コンピューターの賢さっていうのは、その賢さを測定できる道具立てが揃っているから測れるんだけど、その道具立てを超えたところで賢いってわけではない。たとえば、プロにも勝てる将棋ソフトに女の子の口説き方を聞いても答えられない。これ、分野が違うってのもあるけど、基本的にコンピューターはプログラムされたこと以外のことはできないってことなんだよな。
じゃあ全部プログラムすればいいじゃん、という意見があると思うけど、これは正しいし実現可能だと思う。たとえば、医者ソフトを作れば、カメラや内視鏡を患者自身が操作して質問に答えたりすれば、膨大なデータから病名診断できるようになる。専門的な分野になればなるほど、コンピューターってのはそれに特化できるわけで、人間より活躍できるようになると思う。これはそう。
でも、たとえば、コンピューターがアニメや音楽や映画作ったりできるようになるかというと、微妙だと思うでしょ？ ありきたりなものはつぎはぎで作れそうだけど、ブニュエルみたいな映画は絶対とれない。あと、ゲームを作るってのも無理。コンピュータには想像する能力がないので、想像する力が必要なことはできない。
これ、人間には２つの異なる知性があるってことを知らないことからくる誤解だと思う。人間には理性とか悟性とか言われるいわば「冷たい知性」と、想像力や判断力といった「熱い知性」がある。これは全然違うもので、コンピューターは後者の能力を持てないんだよな（コンピューターの能力は前者の能力ともじつは違う）。あと、コンピューターには判断も無理。いくら知識が膨大でも、何かをするっていう決断を下す能力はまた別。
3.行動の大切さの過小評価
世界を実際に変えているのは行動で、頭の良さではない。これはもう自明のことなので、説明不要だと思う。なんかで見たけど、小学生が官庁にいって職員に日本の政治の問題は何かって聞いてたんだって。そしたら、すっごいわかりやすく完璧に答えてくれたんだって。こうこうこういう問題がありますよって。つまり、官僚には完璧な知性と問題把握能力があるけど、それを持っていることが問題の解決にはなっていない。証明終わり。
動画で触れられていた環境問題なんかも、なにをどうすればいいかとかそんなことはもうわかっている。問題はそれを実行する意志とか金とか実際の行動がないってこと。頭の良さで世界の問題が解決できるんなら、いまもうすでに世界中の人間すべてがなんの問題もなく幸福でいることだと思うわ。
これは、賢さというのが万能な能力だと思い込んでいるから、行動の大切さを忘れていることからくる誤解だと思う。３つの中で、これだけは基本的な哲学的な知識も必要なく理解できることだと思う。この誤解を犯していることがかえって、いかに主含めた多くの人が賢さ幻想に侵されているかってことをよく示しているように思える。
4.賢いのが一番偉くて、世界を支配するという間違った思い込み。
これについてはとくに言うことはない。うえで言ったように、コンピューターが賢くなるというのは、人間を超えるということではない。賢いからって世界の支配権を握れるわけでもない。すでに数十年前、コンピューターの計算速度が人間より早くなっても人間より賢いし偉いと私たちは思わなかった。人工知能についても同じ。たとえば、歴代のノーベル賞受賞者の頭脳を複製して並列化した装置を作ったとしても、ほとんどの人間はその装置よりバカだから支配される側になるということにはならない。あ、これが一番滑稽な勘違いだわ。
***
以上を踏まえたうえで、じゃあ将来の人間より賢い人工知能はどう役に立つのかということだけど、それは今までの延長線上にしかないと思う。コンピューターの賢いってのは、より計算が早くなるってことなんだから、それがどんなに賢くなっても、今までのコンピューターの発展の延長線上にある。それは、今後すごいことが起こらないということではなくて、むしろこれからもすごいことが起こりはするけれど、それはもっと身近なレベルで起こるということ。
たとえば、誰もが人工知能を携帯するようになる。それは人間が集めることができるすべてのデータを参照できるし、人間がほしい答えを求めるプログラムも全部はいっている。するとね、人間関係から今日の料理とか大学就職どこ入ればいいかとか、そういう質問疑問全部に答えてくれるわけ。これで若い人間も大人以上の知識と経験をもとに行動できるようになる…可能性がある。
あと、人工知能が簡単なプログラムを必要に応じてつくれるようになれば、単純な仕事のすべてを自動でしてくれるようになる。新しい商品の企画とかも、既存のデータを参照して出してくれるようになるかもしれない。人間のすることは、どういうデータを参照すべきかコンピューターに指示する程度のことになるかもね。便利でいいことだと思う。
ただ、これで世界がいまのと全然違うようにはならない。動画で言われているような、経済の原理が壊れるようなこともありえない。動画をみると、人工知能が世界の基盤を物理レベルで変えてしまうみたいな幻想がある。でも、どんなに大きく見積もっても人工知能ができることは人間の手助けであって、それを超えることはない。
