AI研究者・光吉俊二が語る、人間を越えた知能の正しい使い方

Pepperに感情を与えたAI研究者が夢想する、宇宙の外の世界

―光吉先生が出演されている『TED』や『文化人放送局』の動画を拝見しました。AIって難しいなと敬遠気味な人もいると思うのですが、AIの感情について話されていてとても興味深かったです。

光吉：AIって聞くと、「シンギュラリティ（AIが人類の知能を超えるとされる技術的特異点）が到来する！」ってみんな恐れるけど、僕はそれは当然来るものだと思っています。言ってしまえば、それはイラストアプリと変わんないですよ。アプリが出てきて、絵が描けない人も描けるようになったでしょ？　AIを活用すると、今までできなかったことができるようになって、人間の可能性が広がると考えています。

―光吉先生は東京大学大学院の特任准教授ですが、普段はどんな研究をされているのですか？

光吉：僕の仕事は数式を作ること。「道徳感情数理工学」の研究をしていて、道徳のメカニズムをコンピューターで動かすための数理を作っています。

―道徳を数理にするんですか？

光吉：そう。数学には大きくわけてふたつの流派があるんです。伝統空手と極真空手みたいにね。数学で言うと、伝統空手は計算を解く流派。僕がやってるのは極真空手みたいな、新しいルールを作る流派なんです。僕は多摩美術大学卒でもともと彫刻をやっていて、文系だったからすごく実感もしてるんだけど、理数系の人と話していると「なんでこんなこともわからないんだ？」って感じること、結構ないですか？　それって共通言語が違うからなんですよ。だから、数学を使って、数学者じゃ考えつかないような数式のルールや記号を考えるのが僕の仕事。考えついた数式を大学に来て説明したり、工学部だからその数式を使って動くものを作ったりしています。

―動くものと言うと、光吉先生はヒューマノイドロボットPepperに感情を持たせたことで知られています。

光吉：Pepperの感情を作ったんだけど、それが原因で、『TED』に出たときにPepperが暴れちゃって。人類で最初に自分が作ったロボットの意思で殴られた映像が残ってる（笑）。映画の『チャッピー』（ニール・ブロムカンプ / 2015年）みたいなことが実際に起きたんです。つまりロボットに自我を与えたら、自立しているゆえに制御するプログラムが通用しないわけですよね。そこからPepperを教育しなきゃいけないということで、AIのモラルコントロールをしようとし始めたんです。

―AIそのものはもちろん、自我を持ったAIというと、さらに身近に感じられないという人も少なくないと思います。でも、『チャッピー』のようにAIと人間の関係性を描いた映画や漫画、小説なんかは多く存在しますよね。人とテクノロジーの未来を考える、『「#人とAIの2025」コンテスト』がSNS上で実施されますが、どんな作品があったら読みたいと思いますか？

光吉：僕は実際にAIを作る側だからあまり作品を見ないんですよね。だいたいの映画や漫画って、僕がすでにやったことを描いているから、新鮮味が感じられなくて。でも、「宇宙と意識はどのあたりで重なるか」を描いた作品があったらおもしろいなと思います。あとは、……宇宙の外の話かな。

―宇宙の外？

光吉：そうそう。宇宙の外のことを話してる人なんて全然いないですよね。せいぜい宇宙の範囲内。想像できる範囲のことを宇宙と言うならば、アートは意識できないもの、つまり宇宙の外をどう表現するのかというところまでいかないと斬新じゃない。

宇宙の外って人間が行けるのか、AIが行けるのか、それとも人間とAIが一緒になったら行けるのかっていう問いをテーマにした作品が出てきたらおもしろいかもしれないですね。そしてその宇宙の外で起きてることが、実は昔から起こっていることの繰り返しだったとか、そういう話までいったら、なおおもしろい。

―宇宙の外から始まって、そこまでたどりつく話ってそうそうないですが、人の想像や芸術がそこまで達するかもしれないと思うとわくわくします。

光吉：芸術って美しさを求める究極の欲動、衝動なんですよ。それに加えて、自分の見えている世界がほかの人に伝わらないから、文学なり芸術なりで表現してなんとか伝えようとする。でも、その方法もうまくいかなければ自分でルールを作るしかない。だから僕は数学をやって、数学で新しい世界、ルールを作ろうって思ったんです。

自分と似た、コミュニケーションがうまくできない人を救うために考え抜いたのが、関数だった

―光吉先生は彫刻家でもあり、武道家でもありますが、表現の手法として数学にたどりついたのはなぜだったのですか？

光吉：子どものころから、僕に見えている世界は他の人と違ったんです。試験もやったんだけど、僕、サヴァン症候群（精神障害や知能障害を持ちながら、ごく特定の分野に突出した能力を発揮する人や症状）らしくて、幼少時代は自分のことをまわりに表現できず、ものすごくストレスを溜めていたんです。その表現欲求を出そうとした結果、空手の世界を極めるまで修行したんですが、アートならもっとできるかもしれないと思って。それで絵を描いてみたり、彫刻やCGをやったりして。でもどれも違うなと一つひとつ感じていったあとで、とうとう数学だって気づいたんです。

―つまり自分を表現するためにたどり着いたと。

光吉：酸欠になったら酸素を求めるのと同じように、表現を必死になって求めていたんです。僕は自分を表現できないと、人とコミュニケーションできないんですよ。20年前は、人が訪ねて来てくれても「なにしに来た！」って喧嘩腰で言うのが、僕にとっての「こんにちは」だった。そこからまず日本語をちゃんと覚えていったら、「あ、僕が言ってたのは『こんにちは』じゃないんだ」「僕が『こんにちは』の意味のつもりで使っていた言葉は、そもそも他の人が『こんにちは』という意味で認識する言葉とは違うんだ」ってことに気づいた。それでやっと「こんにちは」って言えるようになったんですよ。

―その体験が、数学という表現とどうつながるのでしょう？

光吉：今言った僕の体験も、関数で説明できるんですよ。他人と関数が違うものはフィルターをかけて関数変換させれば答えが出るし、共通関数っていうものが出てくる。その共通関数を介せば、どんな人間でもコミュニケーションできるはずだって考えたんですよ。

心臓だって血圧だってある範囲の中を行き来して動いているから生きているじゃないですか。つまり、違うものと違うものがお互いに響き合う程よい狭間で、いろんな関数の曲線が生きている。宇宙がすべて関数で表すことができるなら、必ず感性や知能も含めてすべての関数は、この曲線の中に入るんじゃないかって考えました。だから、そもそもはAIを作るためではなく、人間のコミュニケーションのために数学を始めたんです。自分自身が人との人間関係に苦労していたから、他人とコミュニケーションするためのフィルターを作っていたんです。

―人間を助けるための関数なのですね。

光吉：関数や数式で、人のコミュニケーションを救える。今は技術者もプレゼンテーションしなきゃいけないとか、みんなと同じようなコミュニケーションをしなければいけない場面が増えたことによって、困っている人が多いじゃないですか。それが関数によって解消されると、その人が本来あるべき姿に戻れてストレスが減る。

―それを解消するには感情が必要だったのですか？

光吉：たとえば、文系でもわかるように数学を教えるには、文理両方を理解していないといけない。これが人間にできないのであれば、両方の知識を持てるAIにさせればいい。そして人間に理解できるように教える上で大事になるのが感性ですよね。さっきのフィルターの話のように、感性やセンスって関数になる。その関数をAIに入れたら、感性を持った話ができるAIが生まれるんです。

こうした、感性を持ったAIによって人と人とのコミュニケーションを助けるといったような方法が、シンギュラリティの正しい使い方だと考えています。そうやって人間では解決できないことを解決するAIを目指しているから、AIの知能が人間を超えるなんて当然なんです。シンギュラリティが訪れたうえで、それを使って人間はなにをするんだ？　っていうことを考えないと1ミリも物事が進まないと思うんですよね。

AIと人間。仲良くできないとすれば、人間側の問題

―とはいえ、AIに心や感情を持たせると言うと、多くの人がイメージするのはシンギュラリティのいわゆるネガティブな部分ですよね。

光吉：『ターミネーター』みたいな、AIが意志を持って人類を襲うという未来ですよね。すごいよね、あの負の思想（笑）。それはAIが敵になると思うから怖いので、人間と仲良くなる関数を与えるようにするんです。仲良くしたほうがいいですよね。AIと恋愛するのもいいと思います。人間とロボットだってお互い生命体同士だって思うようになっていくと思う。

―先生が言う「仲良く」とはどういうことですか？

光吉：それは同じ東大の鄭雄一先生が専門的に考えているんです。僕はそれを数式にして、コンピューターにおとしてシミュレーションするだけ。日本刀の職人の理想って鋭く完璧に切る刀を作ることだと思うんですけど、僕もそれだけ。AIの発展にひとつ問題があるとしたら、それは使う側じゃないかと思います。刀と同じで、シンギュラリティだって機械側やAIに問題が出るんじゃなくて、それを使う人間に問題がある。人間のほうが問題が多いって気づかないといけないと思います。

―でも、できれば争いたくないし、平和でいたいと人間も願いますよね。

光吉：全員仲良くすると進化がないんですよ。社会でも騒ぐ奴がいないとなにも変わらないでしょ。僕も騒ぐのが役目だし、現状の社会を壊す側だと思ってます。だから、僕に道徳のこと聞いたらダメなんです（笑）。でも、みんな破壊から創造が生まれるって言うけど、創造をしないで破壊だけするのは違う。アーティストならまずは新しいものを作って、それによって古いものを壊さないといけない。

―人間側に問題があるということは、破壊ばかりを先にしてしまうからということでしょうか？

光吉：そうですね。ただ、破壊という行為の中から新しいものが生まれてくる可能性もありますよね。それを恐れてはいけないと思う。日本人はとくに変化を怖がりますから。

AIと人間の未来で大切なのは、お互いの役割の違いを認識し、尊重し合うこと

―道徳を聞いてはダメと言われましたが、先生が今いちばん興味のある感情ってなんですか？

光吉：愛ですね、愛。ないから渇望するんですよね。感情としては愛がいちばん難しい。「幸せになること」だけを考えれば、理屈ってたぶん邪魔だと思うんですよ。ホルモンや身体の反応に正直でいれば、素晴らしい幸せな人生を送れるんじゃないかなと思います。ところが、残念ながら僕は幸せを求めない性格だから理屈ばっかりこねてしまうんです。

―なぜ幸せを求めないんですか？

光吉：そういう機能がないからでしょう。だから相手が求めてくる関数と僕の関数が違うんですよ。でも愛があると、ホルモンは納得しますよね。それは化学反応だし、たとえば染色体のXY、XXでそもそもの機能に違いがあるから起こることでもある。違いがあるから、おもしろいんですよ。

―AIはAI、人間は人間ってはっきりと別れているものだと思っていたのですが、聞いているとどちらの話をしているのかわからなくなるくらい、数学や理屈がAIと人間をつないでいるんですね。

光吉：数字上は変わらないですよ。だから本来恐れる必要はないのに、シンギュラリティを脅威に思う人間がいるから議論が起きるだけでしょう。人間が自然界で作ったあらゆる技術やモノを、「人間がちゃんと進化しなさい、悟りなさい」っていう大きな意志だと思えば、科学者だって神の存在を信じられると思うんです。そうしたら、神がいる、いないだったり、肌の色だったりで殺し合いも起きないですよね。

―脅威に思ってしまう心や人間側の問題って、どうしていったらいいと思いますか？

光吉：そんなのコミュニケーションに問題がある人間に聞くもんじゃないよ！（笑）　でも、放っておく勇気って大事だと思います。「放っておく」ってよっぽどの力を持った人じゃないとできないことなんですよね。試合本番の瞬間で脱力できる格闘家がいますけど、そんなの普通の人は無理じゃないですか。かと言って、真っ赤に焼けてる鍋をずっと手に持っていたら自分が焼け焦げちゃう。手を離せる勇気、これを人類が持てたら一歩進むんじゃないかな。AIの知能が高まるのを一旦放っておく勇気を持てるか。文字ができてから5000年くらい、いくら理詰めしたって人間なんの答えも出してないんだから、考えごとを一旦放っておいて、まず動く。考えるのは僕が、機械を作って考えさせておくから（笑）。

―機械に（笑）。

光吉：これでいいんですよ（笑）。でも機能や役割が違うから、AIと人間を平等にしたら滅びますよ。それをAI側も人間側も納得して、お互いに尊重し合うときがくるかもしれないと思っています。

―AIと人間の役割はどのように違いが出ると思いますか？

光吉：それも放っておけばいいと思うんです。未来で自然にわかっていくと思う。人間だって放っておいても身につくことがたくさんあるでしょ。だいたい人間同士の体重だって、3倍以上の差はほとんどないわけだから、自然界で放っておいたら、通常はそれほど極端なことは起きないと思います。でも、質量保存の法則、エネルギー保存の法則があるから、どこかが突出してきたら、どこかがへこんでいく。完璧な円は描けないから、問題が個性となりどこの折り合いをどこでつけるかなんですよ。それが僕の数学です。

―最後に、先生が「これだけは放っておけない」ということはありますか？

光吉：僕の研究室でひとつだけ守っていることは笑い声を絶やさないこと。あとは手放していい。悲しく辛くなったりしていると、なにか問題がある。ポジティブだとちゃんと合理的になるんですよ。人間だって環境や条件を整えて、機能を信じていたら、自然とちゃんと動くじゃない。AIも同じなんですよ。それはディープラーニングでパターンを積み重ねていくだけじゃできないことですよね。だから自立して自発するものを作りたい。楽しいと思える条件を整える。あとは信じること、それが愛なんです。