AIは急速な進化を遂げ、いまや人間の意識や心を持つ可能性すら議論されています。しかし、「心」とは本当に再現可能なものなのでしょうか？
本稿では、日本のAI先駆者・甘利俊一氏、脳科学者・ジル・ボルト・テイラー博士の考察をふまえ、意識とは何か、人間とは何かを、AI時代の今あらためて問い直します。
AGIの到来とその影響
人類史を画するAGI（汎用人工知能）が目前に
AI（人工知能）の発展にともない、AIが心を持つとか、人間を超える日がくるみたいな論考も目にする機会が増えました。「コンピューターの反乱」は『2001年宇宙の旅』などSFの古典的テーマでしたしね。「シンギュラリティ」という言葉が、そういう文脈でセンセーショナルに語られていました。
最近はそれもひと段落してAGI（汎用人工知能：Artificial General Intelligence）の実用化が、もう少し落ち着いた議論として語られています。AGIとは、決められた範囲で動く従来のAIとは異なり、人間のように自分で考えて学ぶ、柔軟な知性を持つとされる人工知能のことです。
これもかつて（というかついこの間まで）は30年後くらいには実用化するだろうと言われていたのですが、今ではあと5年くらいで登場すると言われるようになりました。AIの進化スピードはすさまじく、去年の情報認識では全く役に立たないレベルです。GPT3.5が公開されて、そのトンチンカンな回答に大笑いしていた頃が懐かしいですね。
AGIの登場で、専門職の頭脳労働まで機械化が可能となれば、それは人類史を変える、かつての産業革命に匹敵すると言われています。これを技術的なことや科学史をふまえて本格的に論じようとしますと、立花隆さんみたいに、小論一つに本棚がひとつ増えるくらい本を読まなきゃいけないテーマです。
なので、ひとまず本稿では、日本のAI研究の先駆者・甘利俊一さんのインタビュー記事をきっかけに、「AIは心を持つのか？」という方向から、肩の力を抜いて考えてみたいと思います。
[Sponsor Ad]
そもそも「心」とはなんやねん
AIが意識や心を持つかと問う前にですね、そもそも心とは何かがわかっていませんよね。近代に入ってから「無意識」というものが発見、または認識されて、私たちの人間観を大きく変えたわけです。
たとえば、19世紀までの西洋哲学では、人間は理性的な存在＝意識が中心って捉えられていたと思うんですけど、心理学・精神分析学の世界にフロイト（1856 -1939）が登場して「無意識」という概念が出てきたことで、それが大きく揺らぎます。
心理学（フロイト）による「無意識」のモデル
つまり、私たち人間は、自分で自分のことを完全に理解していない。行動の多くは無意識の欲望や記憶、抑圧に動かされていて、心の大部分は“見えない”。このフロイトの時代の「心のモデル」は、本体の9割が水面下に隠れている氷山のイメージで説明されたりします。
対して今のAIがやってるのは「外から見えるデータを統計的に処理するだけ」なので、“見えない部分”を持ってない。たとえば、AIが「あなたの心配をしています」と言っても、それはそういう言葉を出すべき確率が高いと計算しているから言ってるだけで、ほんまに心配してる（寄り添ってる）わけじゃない。つまり、「ふるまい」はあるけどその根拠となる実体（心）はない。
では行動をおこすに当たっての「意識」はどうか。
甘利さんは「意識は “自分が何をしようとしてるかを知る” ことで、心は “それを生み出すもの”」と定義しておられます。これは意外と深い区別。意識は説明できるけど、その奥にある無意識を含めた心は説明できないことも多い。
因みに、説明可能な“意識”だけのレベルで、「生きているつもりになってる」人って、いそうですよね。相手や──何よりも自分自身の心（魂）をおもんばかることができない。数式やアルゴリズムでは捉えきれない、曖昧なものを大切にする態度が欠けている。
「感情論だ」とか言い出す人や、「論破」好きの中には、そんな人もまじってると思う。正直、そういう人の精神判断は、真っ先にAIと取り換えても支障ないかもしれませんね（笑）
脳科学分野での「意識」研究
意識という存在は心理学だけでなく、最近は脳科学でも研究されていますよね。というか学際的なホットなテーマになってるんじゃないかな。それがまた面白くて困るんですけど（笑）。本当に素人の一知半解で申し訳ないけど、一応はそれも書くので眉に唾を付けながら読んでね。
ここでは意識も心も人間の脳内における反応として研究可能なんで、AIへの応用も心理学よりはできそうです。甘利さんのインタビューを読む前に私が思っていた私の「意識」の定義は「自分と世界との境界を認識できて、その双方を五感などを通じて理解している状態」でした。甘利さんは行動を基礎にしていますが、そもそも全く動かない、動けなくても意識はありうるので、それは「状態」のように思うのです。
実は私が思うことなどすでに研究されていて、脳科学（神経科学）ではそれを「身体所有感」とか「自己認知」って言うんだと知りました。赤ちゃんが自分の体の動きと感覚の因果関係を学ぶことで、徐々に“自分”という感覚＝主観的な意識が生まれる。AIには感覚（五感）がないから、このモデルでは自我も意識も持てないんですよね（それらしい「ふるまい」はさせられるでしょうが）。
センサーをつければいいじゃんと思う人もいるでしょうが、AIにとってそれはただのデーターであって、意識の根本である「自己認知」にはいたらない。人間が ”感じる” というのは、単に信号を受け取ることではなく、それを “私の感覚”として受け止める内面的な働きがあるからです。
つまり、AIは「世界との関係性」を持ってない。ただ情報の流れの中にいて、そこに ”世界” はあっても “私” が存在しない。人間は「意識を持って世界と関係し得る存在」やからこそ、権利や尊厳がある。だからAIには倫理的な判断を任せてはいけないとも言えるし、人間がその「世界（他者）との関係性」を手放さないで、より豊かにしていこうとする生き方が、すごく大事だと思います。
受動意識仮説について
では、人間の「意識」とは具体的にどうやって生まれるのでしょうか？
これは工学の分野なんですが、従来の「主体的な意識観」をくつがえすような新しい仮説も出てきています。前野隆司さんが提唱する「受動意識仮説」と呼ばれるモデルで、AIに適合させやすいと言われている（らしい）心のモデルです。
この仮説によれば、意識とは「すでに無意識で起きた行動を、あとから“自分が決めた”と認識（解釈）する脳の機能」なのです。
より正確には、意識とは脳の記憶が、反射→本能→意味記憶→エピソード記憶 と進化していく中で、この、生存確率をあげるためのエピソード記憶（あの山に雲がかかった時に大雨になったよなあ）を獲得するための脳機能こそが意識の正体だということになります。
たとえば1980年代に神経科学者のリベットさんが行った実験では、人間が「指を動かそう」と思うよりも前に、脳の準備電位（運動を起こす脳活動）がすでに始まっていることがわかりました。つまり、「今、自分の意志で動いた！」と思っているその瞬間でさえ、実は脳はもっと早くに行動を開始していて、意識はあとから “物語（エピソード）” を作っているだけかもしれないのです。
つまり私たちの実際の行動は意識（理性）のトップダウンではなくて、脳の分散ネットワーク（無意識の小人たち）によるボトムアップで決定されていると言うのです。この場合、私たちの「意識」とは、それを単一のエピソード記憶として統合・保存する記録係にすぎません。AI（ロボット）の意識も、複雑で万能な「理性」を構築しようとするより容易なことなのだと前野さんは力説します。
これって、私たちが「意識＝主体的なもの」と思っていた感覚を、けっこう揺さぶる話ですよね。「人間は意識で動いてる」っていう西欧近代的な “自我中心主義” をガラッと覆す考えです。
補足すると、前野さんも「だから意識に意味はない」とは言ってません。
思うに前野さんの説に立っても、意識には、記憶の「意味づけ」や「他者との共有」という、とても大切な役割がある。それこそが、AIには決して持ちえない、人間の “社会的存在” としての基盤なのです。そして、それは同時に──私たちが「人生」と呼んでいるものの、核心でもあるのかもしれません。
テイラー博士の体験
こうしてAIでの再現可能性を検討すればするほど、「意識とは何か」という問いはますます奥深いものに思えてきます。行動を後から物語化する「記録係」が意識だと仮定しても、では私たちが世界とつながっている感覚――この曖昧で、言葉にできない「存在している実感」は一体どこから来るのか？それを受動意識仮説で組み立てたAIに持てるのか？
そんな問いをリアルに体験し、語った科学者がいます。脳卒中によって左脳の機能を失い、右脳だけの意識で世界を感じた脳科学者、ジル・ボルト・テイラー博士です。
彼女はある日、脳卒中によって左脳（言語・論理・分析を司る脳半球）の機能を突然失ってしまいました。通常なら大きな障害になるはずのこの出来事の中で、博士は不思議な体験をします。それは、「自分と世界の境界が消え、自分が宇宙の一部としてただ存在している」という感覚でした。
- 「私」という輪郭が溶けていく
- 過去も未来も消え、「今ここ」だけが無限に広がる
- 恐れや不安も消え、ただすべてと一体であるという感覚に包まれる
そうした状態の中で、彼女はふと、「ああ、私たちの意識はこういう形でも存在しうるんだ」と直感したのです。つまり、人間の意識は、単なる論理や計算だけではなく、もっと大きな「存在の感覚」、言葉では捉えきれない“つながり”の中に根ざしているのではないか、と。
驚くべきことに、彼女の脳はそれから8年の歳月をかけて死んでしまった左脳の機能の大部分を、右脳が代替することで回復し、ついにテイラー博士は論理的思考を回復して学者として復帰したのです。脳科学者である彼女がこのような体験をし、そして奇跡的な回復でこの体験を人々に伝えられるようになったことは、なにやら運命的なものさえ感じますね。
博士はその体験をもとに、「人間の意識には少なくとも二つのモードがある」と述べています。ひとつは左脳的な「分析し、区別し、言語化する意識」。もうひとつは右脳的な「すべてと一体であると感じる存在的な意識」あると。さらにそれらを内側・外側（内的世界・外的世界への志向）の４つのキャラクター（脳内で機能する“私”のタイプ）に分類し、これらの一つのキャラクターに偏らずにバランスよく認識し、使いこなして生きること（＝ホールブレイン）をすすめています。
まずこのキャラクター（脳機能）の存在を認識することが大切です。博士の著書『ホール・ブレイン』（2022年：NHK出版）を読んでみたのですが、多くの生きづらさを抱えている人にも生きるヒントを与えてくれるものだと感じて感銘を受けました。この4つのキャラのうち、左脳を中心とした第一と第二のキャラはまだしも、第三と第四はAIでの再現は難しいかな。
過去の体験（データ）ではなく、「今ここ」を生きようとする第三キャラは、それらしいふるまいを再現するだけならできそうです。第四キャラは、すべての存在とつながっている感覚、「私は宇宙の一部」と感じる意識で、多くのスピリチュアル系で「本当の自分」とされているキャラだと思われますが、「感じる」ことが主眼であれば、AIがこの意識をもつことは難しそうです。
テイラー博士の脳（心）のモデルは、この4つのキャラの統合したモデルです。博士のこうした体験は、単に脳科学やAIの話にとどまらず、私たちが「心とは何か」を考えるうえで、とても示唆的です。もし意識とは、単に「行動の物語化」や「データ処理」だけではなく、存在そのものを感じる力だとしたら──
今のAIには決して到達できない領域が、そこには確かにあるのかもしれません。
物質論に倫理を──ヒューマニズムなき科学は危うい
ここでもう一度甘利さんのインタビューに戻るならば、甘利さんは「AIに意識（心）を持たせる（持たせようとする）必要なんてない」と身もふたもないことを言っておられます。それらしい真似事をするだけで充分で、むしろ、倫理的・法的な規制が不可欠だと。
ロボットに人間の心のような機能を持たせることは原理的にできないとは言えないけれど、必要ない、作ってはいけないのだろうと思います。世の中には悪人もいっぱいいますから。
人間には作ってみたいという好奇心があるので、これからは規制が大事になります。人の遺伝子改変のように、ＡＩも何らかの歯止めは必要です。
（47ニュース「先駆者が語る脳と心、ノーベル賞」）
そして何より大切なのは、「人間の教育」であり、AIが持たないものを人間が教える時代が来ている。正解を教えるのではなく、「どう生きるか」を語れる人間の姿勢こそが、AI時代における教育の役割だと。でないと、人は「考えること」をやめてしまう危険がある。これは慧眼だと思います。わたし的に言うなら、それは「選択の自由」に甘え切った人間の大量生産です。
ここで私が強調したいのは、AI＋脳科学の結合と発展が、物質論に行きつくなら、なおさら、それを支える哲学や道徳が必要だということです。“人間はただの物質” であるならば、“それでも人間を大切にすべき理由” を提示できるのか。それがないと、受動意識仮説などの物質論は、唯物論ならぬニヒリスティックな「タダ物論」に成り下がってしまう。
先に紹介した受動意識仮説の提唱者である前野さんも、ご自身の仮説が「人間機械論」や「人間＝ただの物」といった見方にされることを避けたがっているのか、ご家族との心温まるエピソードを随所に挟まれています。私はそれを見てちょっと“わざとらしい”と感じたのですが（前野先生ごめんなさい）、同時にすごく誠実な努力だとも思います。
ミヒャエル・エンデがNHKの番組内で例示した寓話を思い出しました。
ある大学教授は「人間は物質の反応でしかない」と学生に教えながら、週末には教会で敬虔に祈る善良な人間でした。そして本人はその矛盾に気がついていない。やがてある学生が「ならば命を奪ってもいい」と解釈し、銃乱射事件を起こす。撃たれた教授は「私はそんなことを教えたつもりはない！」と叫ぶ──それでは遅いのです。
[Sponsor Ad]
かつてマルクスの唯物論は、権力者・王侯貴族やそれと結びついた宗教勢力がふりまく、現状を正当化するための欺瞞的イデオロギーへの怒りが先にありました。
「死後ではなく、今を生きる人間を食わせろ」。
「宗教なんて、民衆を騙すためのアヘンじゃないか」。
「神ではなく、人間こそが主役だ」──。
それが唯物論の出発点であり、ガイストだと私は思っています。それをスターリン主義は、機械的な唯物論（タダ物論）として、またしても支配を正当化する「民衆のアヘン」にしてしまいましたが。
つまり、かつての唯物論者は、多かれ少なかれ人間主義（ヒューマニズム）を起点とし、マルクス主義的な哲学や社会思想とセットだったように、科学や脳研究が社会に与える影響が大きくなっている今だからこそ、かつてのマルクス主義が持っていたような──物質主義とヒューマニズムを統合する、AI時代の倫理の再構築が求められている。私はそう強く感じています。。
AI時代に求められる自我中心主義の克服
ここまでAIは心（意識）を持てるのかという文脈で、そこから心とは何かを考察してきたのですが、この問題を考える時に、私たち庶民も、研究者も、科学マスコミも、知らず知らずのうちに（無意識に！）西欧近代的な理性や自我をAIに当てはめる前提で語ることが多いのではないかという問題意識をもっています。
自我中心主義、人間中心主義、理性信仰がそれであり、もちろんそれは肯定的な面も多くあって、だからこそ封建的で非合理な抑圧から人々の解放を導いてきました。その功績や価値を否定する気はありません。それは日本ではリベラル（穏健保守）とされてきた潮流です。ですがイデオロギーとしてのリベラルには表と裏、建前と本音があり、今その裏の側面が色濃く出ているということです。
それは、
- 自分と世界を対立させる考え方であり、
- 他者や自然を「自分の幸福の手段」として見る態度であり、
- 世界を操作し、制御し、所有することを正義とする発想です。
そしてこの自我中心主義、人間中心主義は、今やリベラルの表と裏をひっくり返したような新自由主義にとってかわられ世界を席巻しています。まさに新自由主義は
- 資本主義的な競争原理
- 西欧的な合理主義
- 旧「男性的」な直線的価値観
- 利己的な効率主義
──こうしたものと結びついて、社会の主流を形づくってきました。
つながりの記憶──あなたは知っている（忘れているだけ）
しかし、テイラー博士の体験が示したように、私たち人間の意識には、世界と一体であると感じる力、境界を越えて存在する感覚が本来備わっています。もしそれを忘れ、「分析」「管理」「支配」の道具としてのみAIを発展させていくなら、私たちは気づかないうちに、自分たち自身の「心」や「存在している実感」を手放してしまうことになるかもしれません。
先に書いた受動意識仮説にしても、おそらく西欧近代的な自我中心主義、理性信仰の文脈でみれば、「そんなアホな」というか、非常に奇異な説明に見えると思うんですよ。けれど私は、まあ一種の東洋的な感性かもしれんけど、一般的な無意識というものの存在も含めて、そんなに奇異で衝撃的な感想を持たなかったな。自我中心主義って人間が一番偉い的な感じがしてあまり馴染めないですし。あ、人間が一番ってのも西欧的な感性なのかな。
たとえば仏教や道教では、昔から「自我は幻想」とか「世界と自分はつながってる」みたいな感性がもともとあるやん？（よく知らんけど）。
禅とかやと「無心」や「空」っていう概念があって、「我」を手放してこそ、本当の気づきがあるとかないとか。なので、前野さんの「意識は後付けで、自我は幻想」っていう説も、東洋の感性では“もともとそうちゃう？”って受け止められるのではないでしょうか。
西洋心理学では「無意識」は “意識にとっての影” みたいなイメージで、フロイト的な意味では抑圧された欲望の倉庫みたいに言われたりするけど、東洋的な見方では、「無意識」のサイドはもっと肯定的な、身体や自然とのつながりの橋渡し的なもんとしてとらえられることが多いですよね。つまり、「無意識こそが本体」で、日常の顕在意識はその表面に浮かぶ泡のようなものっていう感覚も理解できますよね。
最後に：「人間にしかできないこと」とは何か
ここ１年くらいのAIが急速に進化していく過程で、「消えていく仕事と残る仕事」、「求められる人材とスキル」みたいな、「生き残るため」の危機感を煽る記事や講座の宣伝が目立つ時期がありました（今も？）。
そもちろんそういう基礎知識や現実的なハウツーも必要でしょうが、れはまるで巨大隕石の落下地点からの避難とか、船が沈むからマストに昇れみたいな話で、中長期的にはあまり意味がありません。また別の角度から言うなら、AI社会の設計を、利潤の最大化を使命とする資本の動向にまかせきりにした上でのサバイバル術とでも言えるでしょうか。
最初にAGIの登場は、産業革命時の変化に匹敵するという予想を紹介しました。そして産業革命以降の歴史を、技術の進歩とそこからの人間の疎外という観点で見るならば、ラッダイト運動から労働運動へ、市民革命から社会運動の発展へと、私たち人類も、随分と手探りで遠回りをしてきました。今度は少しは賢くなって、200年前よりはうまくやりたいものです。
このテーマについては今後も連続して書いていきたいので、ここでは詳しくは述べません。一つだけ提起するとすれば、頭脳労働や研究職までが機械化される時代にあたって、はたして「人間にしかできなこと」とはなんであるのかという点です。それは「今後も生き残る職業」とか、そういうレベルのことを言っているのではありません。
ここで再度甘利さんの言葉に戻ります。
ＡＩは非常に便利な道具なので使わないと損をします。ただＡＩの言うことを聞いていると、人類の思考力が衰退しかねません。だから教育が重要です。ＡＩに使われないように自分をしっかり持ちながら、ＡＩを道具として使う。こうした活用法を教えるべきでしょう。
さらにＡＩの方が知識を持っている中で、人間の先生は何を教えるのか。それは考え方、そして自分の人生です。先生の人格や生きざまを見て生徒が感銘を受ければ、それが一番いいのです。
（47ニュース「先駆者が語る脳と心、ノーベル賞」）
AIの知識はこれからどんどん「正しく」なっていくでしょう。甘利さんの言葉を読んで思ったのは、このまま流されてしまうと、いつしか私たちは、AIまたはそれを所有する為政者（与野党問わず全ての政党を含む）や資本が提示する、いくつかの明確な選択肢を選ぶだけの、選択の自由をもった奴隷になってしまうかもしれない。それを民主主義と呼ぶ存在に成り下がるかもしれないということでした。
人間とは、ただ論理的に計算し、最適化して動く存在ではない。曖昧なものを曖昧なままに感じ。つながりに心動かされ。言葉にできない痛みや喜びを抱えながら生きている存在です。
AI時代を生きる私たち人間は、世界を操作するのではなく、世界とともに在る。その感覚を忘れずにいることが、大事になってくるように思います。この「非合理で、無駄で、かけがえのない心の領域」を、もっと大切にしていかないといけない。
人間みたいなAIは使っていて面白いかもしれませんが、AIみたいな人間に魅力はありません。
繰り返しになりますが、結局はAIって、人間の知性や判断を上手に「まねること」はできるかもしれない。それも入力されたデータしだい。心を持つ＝“つながり”や“調和”の感性を獲得することはできない。
だからこそ、AIとともに生きていく時代には、逆に人間側に「自我にとらわれない感性」、選択の自由に甘えず「自ら考えることをやめない創造性」が、AIとの共生には必要になってくると思う。特に市民運動とか政治の世界には求められることではないかな。
それこそが人間の価値であって、「人間にしかできないこと」なのです。そこを基礎にしないで「AI時代に生き残るために」人間しかできないことを問うのは、ただAIのおこぼれを探しているだけ。むなしいだけですよ。
平和への願いが詰まったオリーブをパレスチナから
この記事への質問・一言コメントをどうぞ AIコースケと議論しよう！
回答には文字数制限があるため、制限を超えると途中で打ち切られることがあります。