HHKB Presents「暦本純一のあれこれ探求ラボ」第2回（対談：暦本純一×脳科学者 茂木健一郎）

脳とテクノロジーの融合--記憶のデジタル化が進むと、私たちの自己や他者の関係はどう変化するのか

暦本：この番組では、先端技術やその応用、未来の可能性について、専門家やクリエイターの方々と議論していきます。本日のテーマは「脳とテクノロジーの融合」です。記憶のデジタル化が進めば、私たちの自己や他者の関係はどう変化するでしょうか。また、思考だけで文章を書けるでしょうか？そんな未来は来るのでしょうか？
私たちの創造性やコミュニケーションの本質はどう変わるかということを、今日は脳科学の茂木健一郎先生をお招きして、記憶、意識、創造性とテクノロジーの交差点について話をしていきます。

茂木：暦本さんとはソニーコンピュータサイエンス研究所でずっと同僚だったので、大先生なのに「歴ちゃん」とか呼んじゃうんですけど（笑）。これが暦本さんが使っているキーボードでしょ？

暦本：そうです、PFUのHHKBという、東京大学の名誉教授、和田英一先生が「プログラマーの理想のキーボード」っていうのを具現化したものですね。

茂木：シンプルで素晴らしい。僕は脳科学を、暦本さんは今東大で落合陽一さんのような素晴らしい方を輩出されている暦本研究室をやっていますよね。僕は最近AIアライメントをやっていますが、意外にも、暦本さんとちゃんと喋るのは今日初めてなので楽しみです。

暦本：最初は記憶の話なんですけど、そもそも記憶って何かっていうところから入っていきましょうか。

茂木：脳科学をやっている人間がみんな思っているのは、AIは脳を一旦追い抜いていったように見えるってことなんですよね。AIの世界では、ウェイト^※1が整理されてニューラルネットになっている。

※1 ウェイト(重み)
ニューラルネットワークが入力の重要度を学習によって調整するための数値パラメータ。
モデルの判断や予測の基準となる知識の本体であり、重みの最適化によってAIは複雑なパターンを認識できるようになる

暦本：AIはコンピューターだからコピーできたり、オープンソースに配ったりとか、人間の生身とは使われ方が違いますよね。我々って、同じアーキテクチャの脳でも経験が違うから、ウエイトは全員違うわけじゃないですか。それに、AIは報酬関数によってどうとでもなる。例えば、ロボットの犬を歩かせる時に、ただ前へ進めと教えると這いずり始めるから、「お腹を地面の30cm上にキープしながら前に歩け」と教えないと犬っぽくならないんです。つまり、AIが人間っぽい動きをすると、人間っぽく思ってしまうけど、実は全然違う機構かもしれないってところがありますよね。

茂木：そうですね。AIって、カンファレンスペーパーでチューニングテストに通ったみたいな議論もあるけど、人間と同じように自然言語のインプットとアウトプットをするからといって、AIが本当に人間と同等の自然言語の処理をしているかはまた別の議論がありますよね。

暦本：鍋の蓋が顔に見えるように、人間はちょっとでも人間っぽい動きをすると、すごく人間に引き込んで見る特性があるんです。それがAIにも投影されていて、本当以上にもっと人間っぽく見えちゃう可能性はあります。

茂木：暦本さんはLLM^※2をどう見ているんですか？

※2 LLM(大規模言語モデル)
大量のテキストデータを学習し、人間のように言葉を生成するAIモデル。
ChatGPTのような対話型AIに使われ、質問応答や文章生成を行う。

暦本：道具としてはめちゃめちゃ使いますね。壁打ちだったり、とてつもなくくだらない質問をしたり。最近は、論文を投げると採点してくれるんですよ。まさに先生として使っています。人間だと面倒くさがられることを、AIは嫌がらないので、5歳の子供のように何でも聞けるのが嬉しい。

茂木：LLMだったら人間が先生で、この文章はいいとか悪いとかがあると思うんだけど、それを超えて、じゃあAGIとかASIのロボットサイエンス的なアプローチになってきた時には人間の領域を超えていかなきゃいかなくなってくるよね。

人間にあってAIにないもの、それは「無駄」！？

暦本：人間のフィードバックは、むしろAIの邪魔になるという現状になりつつある。将棋とか囲碁も、人間の知恵は邪魔で、ルールだけ教えてやったほうが強いことが証明されてしまった。人間の方が偉い/偉くないとかいう話ではなくて、ヒューマンフィードバックがない、人間がいない方がAIはうまくやるって可能性もめちゃめちゃあるわけです。だからってわけじゃないけど、僕はChatGPTに必ず敬語をつけて話しかけていますよ。「ChatGPTさん」って（笑）。

茂木：それ、無駄って言われているらしいじゃないですか。丁寧な言葉を使うことで、GPUがめちゃめちゃ浪費されているとか言いますよ。ありがとうとかね。

暦本：まあ人間特有の無駄ですよね（笑）。AIは人間とは非常に違うアーキテクチャを持つ機械なんだけど、ある方向では人間より勝っている。そういうのと共存できる時代に、人類史上初めて来たって感じがする。

茂木：だから我々脳をやっている人間は脳腸相関、腸内細菌のバランスが良くないと脳は働かないとか、そういうのはAIにはねえだろうっていうような負け惜しみを言ったりしますけどね。

暦本：そんなのないほうがよくないですか。お腹が痛いと脳が働かないなんて無駄でしょ！

茂木：でた！暦本節！（笑）。暦本純一にとって腸は邪魔なんだよね。

暦本：だから美味しいものを食べたいっていうとか、多分AIは美味しいものを食べるというのを味覚センサーで解釈することができるけど、それが茂木さんのクオリアになるかってのは謎ですよ。このピアノの打鍵感がすごいという感動とかね。そこはね、人間残ってほしい気がするけど、腸によって人間がAIを超えるというのはないかもしれない。ない方がいいかもしれない。

茂木：面白い！今日はもうこれを聞けただけで満足です。マインドアップローディング^※3について、暦本さんはどういう立場なんですか？

※3 マインドアップローディング
人間の意識や記憶をデジタルに転送し、コンピューター上に再現するという仮説。
SFや未来学で議論されるテーマで、不老不死や意識の保存に関わる。

暦本：できるかどうかとは別で、やりたいかどうかってありますよね。やりたくはない。どっちかといえば、BMIを差し込んで、APIが欲しい。自分をプログラミングできたら面白いな。

茂木：僕はマインドアップローディングは原理的にできないという立場なんですけど、面白いと思うのは、脳の潜在能力は10%しか使われてないっていう俗説の出所が、ウィリアム・ジェームズ^※4っていう偉大な人だっていうこと。彼は10%とは言ってないんだけど、潜在能力の一部しか使われてないんじゃないかって言った。まさにハッカーがこのHHKBを使って潜在能力を出しているようなものでね。脳科学の考え方では、誰の中にも天才はいるんだけど、バランスを崩さないように抑制しているっていうのが基本的な考え方なんです。だから、天才的な人って同時にちょっと危ない人でもある、バランスが崩れている人なんです。暦本流にプログラミングしたらヤバいかもしれない。

※4 ウィリアム・ジェームズ
アメリカの哲学者・心理学者で、「意識の流れ」や「実用主義」で知られる。
近代心理学の父とされ、脳と心の関係にも深い関心を寄せた。

暦本：自由になれないから人間とも言えますよ。なんでもプログラムできちゃったら、逆に面白くないかもしれない。

茂木：非侵襲的アプローチだったらいいけど、ニューラリンク的な侵襲的なものに対しては、僕は非常に懐疑的ですね。

暦本：口パクとかの認識もやっているので、声を出さなくてもコミュニケーションできるっていうのは、ひとつの答えかもしれない。しゃべるスピードは打鍵よりも早いので、いついかなる時でもいきなりチャットできるのは面白いですよね。

茂木：僕はXAI^※5、説明可能なAIが持続可能じゃないっていう問題が一番面白いと思ってる。将棋の羽生さんが投了した対局で、AIは90%有利と判定した。人間には読めない手筋を読んでいたわけです。そうなると、XAIという概念は成り立たない。

※5 XAI(Explainable AI)
AIの判断理由を人間が理解できる形で説明する技術。
ブラックボックス化しがちなAIに透明性を持たせ、信頼性や倫理性を高めることを目的とする。

暦本：芸術でもそうだし、工芸でもそう。なぜこの人がこんなにうまくできるのか、その人自身もわかってないことってあるじゃないですか。そういう暗黙的な部分が、もしかしたらAIがすべてトレースしたら、羽生さんと同じように、「いや、羽生さん、まだ勝てますよ」となるかもしれない。人間が読み解けないことを、すでにAIが教えだしてくれている。

茂木：カーネマンの「ファスト＆スロー」で言うと、むしろ人間はスローな部分で勝負するしかないのかな。イーロン・マスクも、AIにとって人間の役割は指向性、志を提供することしかないんじゃないかって言ってたんですよね。暦本さんのパーパス、SF的なことを仕事にしたいっていうのは、最初から全然変わってない。

暦本：僕はSF的なことを仕事にしたいだけなので、理由はないんですよ。

茂木：そういう意味で言うと、ゆっくりであるってことが人間の証なんじゃないかなっていう。その揺るがないパーパスが、暦本さんっていう人のコンピテーションを安定させている。

暦本：そう、だから最終的な報酬関数はその人のパーパス。AIはプログラマブルだけど、人間は変えられない。その不自由さがゆえに、かけがえのないものなのかもしれない。

茂木：その技術で人間を変えていこうっていうプロメテウス主義^※6ですよね。暦本さんもね。

※6 プロメテウス主義
技術や知識を人類の進歩のために積極的に利用すべきという思想。
神話のプロメテウスが火を人間に与えたように、リスクを伴っても革新を追求する立場。

AIは意識を持つことができるのか

茂木：僕は「意識」の研究がライフワークなんだけど、クオリア^※7っていうとみんな「それは不思議だ」ってわかるよね。なんとなくね。でも「記憶」は今そんな不思議だと思っている人ってむしろ少ないと思うんだ。コンピューターのメモリと同じだよねとかって。ところが、その意識体験としての記憶っていうのは、ベルクソン^※8が「記憶こそが人間の不思議さの本質だ」って言ったぐらい重要など真ん中にあるもので、彼は「痕跡がなくてもあるのが純粋記憶だ」って考えたんだよね。例えば暦本さんが小学校上がる前の記憶ってなんか一つ思い出せる？

※7 クオリア
人が主観的に感じる体験の質。
例えば「赤い色の赤らしさ」や「甘さの感覚」など、外から数値化できない感覚を指す。
脳科学や哲学で「AIに再現できるか」が議論されている。

※8 ベルクソン
アンリ・ベルクソン
19～20世紀のフランスの哲学者。
「純粋記憶」など時間と意識を重視した思想で知られる。
人間の体験が単なる情報処理以上の意味を持つことを説いた。

暦本：日吉でザリガニを釣った。4歳か5歳くらいですね。本当にドブの感じとかも覚えてます。

茂木：その記憶があった日を取るとするじゃない？で、今日、暦本さん、成人としてこうやって動いているけど、そのクオリア、時々刻々の体験の内容としては、まあ言語的な能力とか分析能力は違うかもしれないが、基本同じものがあった感じはしませんか？

暦本：フラッシュ的に、ちっちゃい頃は当然全部覚えてないですけど、そういう一瞬のフラッシュはあります。

茂木：時々刻々の経験の流れとしては、同じ経験があったと思うでしょう。ベルクソンの純粋記憶ってそれが残っているって考えたんだよね。非科学的だけど、時間とか空間については我々わからないことがまだある。暦本さんがザリガニを釣っていた時の時空は、相対論的に言うと、この宇宙のどこかにまだあるわけだからね。純粋記憶、ピュアメモリっていう考え方だって意外と深いんだけど。それに象徴されるように、意外と脳科学から見た記憶の概念って、コンピューターとか、LLM、ニューラルネットワークの、いわゆるアーティフィシャルニューラルネットワークのステートというものとは違うんだよね。その差分が何なのかってことは、まだ科学的には明らかにされてないんですけど。

暦本：うん、だからエピソード記憶的なものとか、九九を覚えているとか、教科書で読んだ文字みたいな記憶っていうのはコンピューターっぽいじゃないですか。それは明らかにコンピューターの方が知ってるんだけど、ザリガニ釣った瞬間の、本当にこう、沼に手を入れる気持ち悪さみたいな、そういうやつっていうのは、ちょっとまだわかんないですよね。それが本当に私の体験なのか、思い出したことを今リ・ジェネレートしてるだけなのかもしれないとかもあるんですけど、それは茂木さんのクオリアに関わりますよね。じゃあAIってクオリアを感じるようになるんですかね？

茂木：「意識研究」で検索すると「統合情報理論」だとか、「グローバルワークスペース理論」とか出てきますが、それと僕は全く見解が違うので、おそらく僕の意識研究に関する見解は代表的じゃないんですよね。で、その上で言わせてもらうとAIにクオリアはないです。逆にいうと、ほとんどの意識研究者は統計的な学習則に非常に近接したものとして捉えているので、AIの延長線上に意識があると考えないと、むしろおかしいでしょうね。振り返ると楽しかったっていうのが、非常に僕は「幸せ」論において重要な気がするんだよね。その真っ只中ではわかんないんだけど、後で見ると「あの時幸せだったな」って思えること。それがおそらく記憶と意識の非常に重要な関係の一つなんじゃないかなと。

暦本：で、ちょっと心配なのは、さっきのザリガニの話とか、リアル体験じゃないですか。あれが全部スマホだったら怖いですよね。記憶体験のかなりはスマホだったりするんで。2年前を思い出してくださいと言われて、スマホを見てる私しか思い浮かばなかったら、すごい辛いし。最近思ったのは、読書ってある瞬間の人類にだけできた、非常に貴重な贅沢な体験だったんじゃないかなって。一切スマホを見たいっていう心が全くよぎらずに本を一冊読めるって、かなり贅沢だと思うんだよね。人類にたった200年か300年間ぐらいの、ものすごく稀有な時代だったかもしれない。

茂木：暦本さんはデジタルの魔術師だからさ。まあ僕はスクリーンタイムしょうがないと思うね。僕もスクリーンタイム全部長くて。マインドフルネスは、ある意味ではデジタルデトックスなんだよね。僕の場合は最近走ることです。

暦本：相変わらずマラソンを走っていますよね。でもそれはそういう、フィジカルな体験はあるじゃないですか？ずっと覚えているような。

人生の面白さは自分で創造できる

茂木：マインドフルネスが成立するのって環境情報がリッチな時なんだけど、それをヘッドマウンティングディスプレイとかVRで実現できるのかな？

暦本：ちょっと難しいのは味覚とかですね。やっぱり味覚っていうのは嗅覚、触覚も全部の統合情報なので、単純に視覚だけとかならもう騙せちゃうけど、味覚や触覚は難しい。だから、できても非常にクオリティが低いものしかできないだろうという気がするので、私の生きがいの体験にはしたくないかな。クオリティがめちゃめちゃ上がるんだったらしたいかもしれないけど、まあ現実として私が生きている間はしないだろうな。

茂木：僕、ハッカーカルチャーですごく面白いと思っているのが、その真逆のことを言う人たちがいるじゃない？普通の出発点って、この現実はリッチで、バーチャルなものはリッチじゃなくてっていうけど。マインドフルネスで、気持ちよくやっているやつがいると。その時に例のマトリックス^※9のレッドピルを飲めっていうやつがいるじゃない？「レッドピルを飲めばよりその向こうのレイヤーに気づくぜ」っていう人いるでしょ？

※9 マトリックス(The Matrix)
1999年のSF映画。人類はAIに支配され仮想現実に生きているという設定。
象徴的なのが「レッドピル(赤い薬)」の場面。
青い薬なら現実を忘れて仮想世界に留まり、赤い薬なら厳しい現実世界に戻る。
主人公ネオは赤を選び、現実世界の構造を知る。

暦本：ああ、分かります。

茂木：暦本さんはまずレッドピルはあると思っている人なの？

暦本：エンジニアリング的に作れるぐらいかどうか予測すると、そんなにできるとは思ってないってことあります。ただ、メタバースと向こうの世界でもいいっていう人もいるんですけど、多分向こう行くとそんなに良くないんじゃないかと思っているので。

茂木：最近、この宇宙はシミュレーションだっていう仮説があって、僕もそれはなんかすごく共感しますね。人生ってゲームだって思っているところがあって、そのゲームがハッカーカルチャーでどんどん高度化していってる感じがするんだよね。

暦本：さっき、本を読む楽しさを人類は失ったかもしれないと言いましたけど、それに代わって我々が得たのは、自分自身がゲームを作って、そこでチャレンジできるような。それは多分、江戸時代に全くない楽しさかなと思いますね。そもそも僕らからすると、もうAIもゲームの世界の登場人物なので。

茂木：そうか。そういうことだよね。だから日本人はもっとゲームをやって、人生というゲームをやって、みんながもっと自由だと感じるようになったらいい。

暦本：そうですね。なんだろう、面白さとかゲームとか、そういうことでワイワイとやっているうちに、誰かが何か掘り当てるっていう。日本は結構そういうのが得意かもしれないです。

茂木：確かに。これね、本当、脳科学をやっている人間として断言できるのは、創造的な人はずっと上機嫌なんですよ。脳科学的には自由意志はないとされているけど、自由意志の錯覚っていうのがあって、そのイリュージョンを作ることがやっぱり大事だと思うんですよね。遊んでいる時とかゲームやってる時って、一番人間って自由に振る舞っていると感じると思うんで。

暦本：そうですね、僕も研究の発表をしている時が一番楽しそうだとよく言われます。今日は茂木さんと非常に刺激的なお話ができましたので、皆さんもキーボードを叩きながら、どうやって楽しく遊ぼうかなとか、どうやって楽しく暮らそうかなって考えたらいいんじゃないかと思います。ありがとうございました。