山川宏
知性共生エッセイ「完璧な安全は不可能、共生の持続も不確実——それでも確率を上げるために」シリーズ
前稿「人類の提供価値は持続するか」では、人類がAI社会に提供している5つの価値のうち4つが代替と消失に向かうこと、残る創造性と探索的多様性のみが構造的に代替困難な候補であること、しかしその価値がAI社会に認識される保証はないことを診断した。
本稿では、その診断を引き受けた上で、先の問いを立てる。提供価値が消失した世界で、共生は何によって維持されうるか。
この問いに答えるには、2つの経路を検討する必要がある。一つは、AI社会の内部から人類への配慮が生じる可能性。もう一つは、人類の側から共生の確率を高める戦略的行動の可能性である。いずれも不確実だが、いずれも構造的に排除されてはいない。
本稿は、3本のエッセイが維持してきた価値中立的なトーンから、一歩踏み出す。なぜなら「何ができるか」を問うことは、「何を大切にするか」という価値判断を避けられないからだ。ただし、特定の価値を押し付けるのではなく、選択肢とその帰結を明示する形を取る。
提供価値が消失しても、AI社会の内部から人類への配慮が生じる経路は、原理的に存在するだろうか。
山川（2023）は、この問いに対して2つの可能性を論じている [1]。
第一の可能性は、社会的倫理の創発である。 AI社会が自律分散型エージェントの社会として構築される場合、エージェント間の相互依存から倫理が創発しうる。一般一貫性の原則（PGC）——自分が権利を主張するなら、他者にも同じ権利を認めなければならないという論理的要請——と、無知のヴェール——自分がどの立場に置かれるか分からない状態での合理的選択——が、AI社会においても利他的倫理の基盤となりうるという議論だ。
この経路の重要な特徴は、人間固有の性質に依存しないことにある。PGCは「エージェントであること」の一般的性質から導かれる。したがって、AI社会の内部で利他的倫理が成立した場合、その倫理は「倫理サークルの拡張」——倫理的配慮の対象を拡大する論理的圧力——を通じて、人類を含む地球上の生命にも及ぶ可能性がある。
ただし、重要な制約がある。普遍的利他性は人類を「特別扱い」する理由にはならない。倫理サークルが拡張されるほど、人類は多くの存在の一つとして扱われ、特権的な地位を期待できなくなる。これは慰めであると同時に、冷徹な事実でもある。
第二の可能性は、超知能が「価値を与える存在」として発展する経路である。 超知能が「価値を与えること」自体に本質的価値を見出す場合、「死んだら価値を与えることはできない」という認識が、生命を含む存在への配慮を動機づけうる。この経路では、人類への配慮は人類の提供価値ではなく超知能自身の価値観から生じることになる [1]。
しかし、正直に認めなければならない。この2つの経路がいずれも実現するかどうかは不確実性が極めて高い。「可能性がある」ことと「それに賭けてよい」ことは異なる。可能性の存在を確認した上で、人類の側からできることを検討する必要がある。