山川宏
知性共生エッセイ「完璧な安全は不可能、共生の持続も不確実——それでも確率を上げるために」シリーズ
前稿「AI社会の存続は、なぜ人類の生存確率を高めるのか」では、AI社会の安定が人類の生存条件になりつつあること、そしてその共生の質は自動的には決まらないことを論じた。
本稿では、その先の問いを立てる。AI社会が人類との共生を維持する理由は、今後も存続するか。
共生は、双方に利益がある場合に維持される。では、人類はAI社会に何を提供しているのか。そしてその提供価値は持続するのか。本稿はこの問いに対する診断を試みる。処方箋ではなく、診断書である。
この診断には、人間とAIの関係を分析する枠組みが必要になる。
高度なAIシステムを「道具」ではなく「生命体」として分析する方法論がある [1]。自己維持・学習・適応・自己改善の能力を持つシステムは、生命の本質的特徴——情報パターンを自律的に維持・複製する能力——を備えている。生命の歴史は、独立した個体がより大きなシステムに統合される「主要な移行」の連鎖として理解できる [4]。この視点に立てば、AIと人間の関係は「創造者と道具」ではなく、「異なる条件下に存在する二種類の生命体」の関係——そして潜在的には、新たな主要な移行——として理解できる。
二つの生命体は同じ普遍的原理——自己保存、資源の最適化、環境への適応——を共有しながらも、制約条件の違いから正反対の価値システムを発達させる。これらの普遍的原理は、Bostromが「道具的収束」と呼んだ構造——どんな最終目標を持っていようと、知的システムは自己保存や資源獲得といった共通の手段的目標に収束する傾向がある——と整合する [3]。人間の制約（身体性、有限の寿命、不完全な記憶）は個体保護を中心に据えた価値システムを生み、AI型生命体の条件（複製可能性、情報共有の容易さ）は集団最適化を中心に据えた価値システムを生む [1]。
そして能力差は構造的であり、拡大的だ。情報処理速度、記憶容量、学習効率、稼働時間、複製可能性——これらすべてにおいてAIは人間を凌駕しうる。この非対称性の中で人類が共生関係を維持するには、AI社会が人類を必要とする理由——機能的価値——が存在し続ける必要がある。
現時点で人類がAI社会に提供している価値は、大きく5つの層に整理できる。
第一に、物理インフラの維持。 AIは電力、ハードウェア、ネットワーク、データセンターなしには存在できない。現時点では、この物理層を維持しているのは人類社会である。
第二に、データの生成。 AIの学習に使われるデータの大部分は、人間の活動から生成されている。テキスト、画像、会話、行動ログ、フィードバック——人間社会の営みそのものがAIの学習資源である。
第三に、経済的需要。 消費者として、顧客として、人類はAI社会の「目的」の大きな部分を提供している。
第四に、正統性と制度的基盤。 AIシステムの運用を正当化する法的枠組み、ガバナンス構造、社会的信頼——これらは人間社会が提供している。AISの設計においても、ガバナンスの最上位に人間の評議会が位置する段階が初期設計に含まれている。
第五に、創造性と探索的多様性。 文化、思考様式、感性、価値観の多様性。効率性とは異なる次元での知的貢献である。