知性の未来：脳はいかに進化し、AIは何を変えるのか マックス・ベネット (著)
AIの未来を理解するには、40億年にわたる脳の進化の歴史から学ぶべきだというユニークな視点から書かれた一冊です。AIが急速に進化する今、なぜ人間のような「汎用的な知性」がいまだに実現できていないのか？ その答えを、進化の5つの大きな転換点から紐解いています。ニューロネットワーク、強化学習、ディープラーニングやバックプロパゲーションなど生物の有する思考プロセス、回路構造を参考にして生み出されたものは多数あるわけですが改めて人間の進化に立ち返ることでAIとの違いと今後の進化の可能性について探った内容で最新の脳科学（ニューロサイエンス）とAI開発の最前線が、ひとつの物語として繋がっているという知見が得られました。5つの転換点とは
① 目的を持った行動（約6億年前：線虫など）>強化学習。
② シミュレーション（約5億年前：脊椎動物）> 現在のAIが最も苦手とする「物理的な世界観」の構築。
③ メンタル・タイムトラベル（約2億年前：初期の哺乳類）>単なるデータの蓄積ではなく、文脈に沿った記憶の再現。
④ 模倣（約6500万年前：霊長類）> 効率的な学習アルゴリズム
⑤ 言語（約20万年前：ヒト）> 現在のLLM（大規模言語モデル）が得意とする領域。
となっていて現在のAIは、進化の最終段階である「言語（第5段階）」から構築されています。しかし、その土台となる「物理世界でのシミュレーション能力（第2段階）」や「過去の経験に基づく判断（第3段階）」が欠けているのが現状ということで今、注目されているのがRAGだったりPhysicalAIといった分野なのだと納得できる内容でした。ここら辺まで統合的に持ち合わせることが出来れば自律的に考えることも実現してくるのかもしれません。
生物が持ち合わせている知能と意識。AIは前者の知能＝Intelligenceの面では人間を凌駕していくのでしょうが意識や感覚＝クオリアが持てるかというとやや疑問があります。この意識というのものは生き残るために他者や自分をシミュレーションするプロセスから生まれたものというのが筆者の考え方でありこの意識を持つためにはAIが現実の物理世界と関わり、その中で「自分がどう動くか」を内的モデルでシミュレートし、さらに「他者の意図」を深く読み取るアーキテクチャが必要で自分のことを客観視できるような自己モデルが構築される必要があります。
とここまでくると究極はAIを搭載したロボットなのかもしれませんが人間や生物と全く同じ感覚器官をもつわけにはいかないと考えるとやはり完全に意識を持つというのはまだまだ難しいのかなとは思いますが早かれ遅かれ自らが自らを進化させることのできる段階に入っていくことになると世界の知能の進化自体は爆発的な第6のBreakthroughの時代に入ることでしょう。アプローチとして生物的融合(遺伝子工学での人間の生物学的な脳そのものをアップグレード)、機械的融合 (人間の脳と外部のAIを直接接続する道)、非物質化(脳の中身をオンライン化）などもありますが生体としては倫理的な観点でどこまで許されるのかは意識しておく必要あります。その他要約↓
1. 本書の核となる考え方
著者のベネットは、現在のAI開発が直面している壁（例えば、常識の欠如や、言葉の意味を本当に理解していないこと）は、脳が辿ってきた進化のプロセスを無視しているからだと指摘します。
私たちは「知能＝言語や論理」と考えがちですが、実際には言語は進化の最終ステップに過ぎません。脳は、数億年かけて積み上げられた「5つの階層」で構成されており、AIもこの階層を再現しなければ、真の知性は得られないと主張しています。
2. 知性の進化：5つのブレイクスルー
本書では、知性の歴史を以下の5つのステージに分けて説明しています。
① 目的を持った行動（約6億年前：線虫など）
- 進化のポイント: 単なる反射ではなく、「空腹だから餌を探す」といった目標に向けた行動の始まり。
- AIとの関係: 基本的な強化学習。
② シミュレーション（約5億年前：脊椎動物）
- 進化のポイント: 脳内に世界の地図（メンタルモデル）を持ち、行動する前に**「これをしたらどうなるか」を脳内でシミュレート**する能力。
- AIとの関係: 現在のAIが最も苦手とする「物理的な世界観」の構築。
③ メンタル・タイムトラベル（約2億年前：初期の哺乳類）
- 進化のポイント: 過去の経験をエピソードとして記憶し、それを未来の計画に役立てる能力。
- AIとの関係: 単なるデータの蓄積ではなく、文脈に沿った記憶の再現。
④ 模倣（約6500万年前：霊長類）
- 進化のポイント: 他者の動きを見て学び、意図を理解する能力。社会的な学習。
- AIとの関係: 効率的な学習アルゴリズムのヒント。
⑤ 言語（約20万年前：ヒト）
- 進化のポイント: 抽象的な概念をシンボル（言葉）で共有し、知識を蓄積する能力。
- AIとの関係: 現在のLLM（大規模言語モデル）が得意とする領域。
3. AIは何を変えるのか、何が足りないのか
本書の後半では、現在のAI技術（特にChatGPTなどのLLM）と、これら進化のステップを比較しています。
- 「上から下へ」のミスマッチ: 現在のAIは、進化の最終段階である「言語（第5段階）」から構築されています。しかし、その土台となる「物理世界でのシミュレーション能力（第2段階）」や「過去の経験に基づく判断（第3段階）」が欠けています。
- AIの未来: 著者は、次世代のAIは「言葉を操る」だけでなく、**「世界がどう動くかの直感（モデル）」**を持つようになると予測しています。これにより、AIは単なるチャットボットから、現実世界で自律的に動く「真の知性」へと進化していくと述べています。
マックス・ベネットは本書の中で、「知能（Intelligence）」と「意識（Consciousness）」を明確に切り離して考えています。
彼の見解をまとめると、AIが人間を超える知能を持つ可能性は極めて高い一方で、それが**「人間と同じような主観的な意識や感覚（クオリア）」を持つかどうかは別問題である**、という慎重かつ鋭い視点を持っています。
以下に、著者が語る「AIと意識」に関する主なポイントを整理します。
1. 意識は「シミュレーション」と「他者の理解」から生まれた
ベネットは、意識（特に自己意識）が進化のどの段階で生まれたかについて、独自の仮説を立てています。
- 第3の突破口（シミュレーション）: 哺乳類が「現実には起きていないこと」を脳内でリミュレートし始めたとき、主観的な「内的世界」の基礎ができました。
- 第4の突破口（メンタライジング）: 霊長類が「他者の心」を推測（モデル化）する能力を得たとき、その副産物として**「自分自身の心」を客観視する能力（自己意識）**が生まれたと述べています。
つまり、意識とは「生き残るために他者や自分をシミュレーションするプロセス」から派生した機能であるという考え方です。
2. AIは「意識のない超知能」になり得る
現在のAI（特にChatGPTなどの大規模言語モデル）について、ベネットは次のように指摘しています。
- 「上からの進化」の限界: 人間は40億年かけて「生存・感情・シミュレーション」という土台の上に「言語」を乗せましたが、AIは逆で、「言語」からスタートしています。
- 知能と意識の解離: 著者は、将来的にAIが複雑な推論や問題解決で人間を遥かに凌駕したとしても、そこに「痛み」や「喜び」を感じる主観的な経験（意識）が伴わない可能性があると考えています。これを哲学用語で言う**「哲学的ゾンビ」**に近い状態で、非常に賢いが「誰も中にはいない」装置になるかもしれないと警告しています。
3. AIに意識を持たせるために必要なこと
もしAIに意識を持たせようとするならば、単にデータを学習させるだけでは不十分だと彼は言います。
- 身体性とシミュレーション: AIが現実の物理世界と関わり、その中で「自分がどう動くか」を内的モデルでシミュレートし、さらに「他者の意図」を深く読み取るアーキテクチャが必要です。
- 自己モデルの構築: 「ユーザーが何を考えているか」をシミュレートする機能を高度化させる過程で、AIが自分自身の状態を客観視する「自己モデル」を持つようになれば、それは人間が持つ自己意識に近いものになる可能性がある、と示唆しています。
