機械倫理の新章 ― 形式手法と創発的アプローチが出会った日
概要: 2026年1月27日、シンガポールで開催されたAAAI 2026併設ワークショップ "Machine Ethics: from formal methods to emergent machine ethics" の開催報告である。本ワークショップは、20年にわたり蓄積されてきた形式手法（Formal Methods）によるトップダウン型アプローチと、近年立ち上がったEmergent Machine Ethics（EME）によるボトムアップ型アプローチを初めて国際的な場で橋渡しした、機械倫理研究における重要な節目となった。世界各国から23件の投稿があり、査読を経て11件が採択された。2件の招待講演、10件の論文発表、および自由討論を通じて、両アプローチの補完関係と今後の連携の方向性が活発に議論された。
▲ ワークショップランチ前の参加者集合写真（2026年1月27日、シンガポール）
2005年のAAAI秋期シンポジウム "Machine Ethics" は、計算機科学における機械倫理研究の出発点として広く知られている。以来20年にわたり、形式手法（Formal Methods）コミュニティは倫理的推論の仕様化・実装・検証に関する研究を着実に蓄積してきた。
一方、AIの急速な発展を背景に、新たな問題意識が浮上している。AIの能力が指数関数的に向上し、AI同士の相互作用がますます複雑化する中で、人間が事前にすべての倫理的要件を仕様化することは可能なのか。この問いに応える形で、AI中心的な社会において倫理がボトムアップで自己組織化するプロセスに着目する Emergent Machine Ethics（EME）の枠組みが、日本のSIG-AGIなどのコミュニティにおいて近年形成されつつあった。
本ワークショップは、我々の知る限り、この二つのアプローチを明示的に橋渡しした初の国際ワークショップである。ワークショップのタイトルそのもの ― "from formal methods to emergent machine ethics" ― が示す通り、形式手法の20年の蓄積とEMEという新興分野を対等な関係として位置づけ、機械倫理の次の章を共に開くことを目指した。
本ワークショップの理解に不可欠な背景として、EMEの枠組みを概説する。
EME（Emergent Machine Ethics）とは、多様な知性間の相互作用から自律的に創発する内在的倫理を研究する枠組みである。従来の機械倫理が人間の価値観をトップダウンで仕様化・実装・検証するアプローチをとるのに対し、EMEはAIシステムの内部から倫理が創発するプロセスに着目する。重要なのは、EMEが形式手法を否定するものではなく、両者を補完関係として位置づけている点である。
EMEは以下の三つの研究領域（pillar）から構成される。
① Ethics Emergence Dynamics（EED）: 倫理はどのように創発するか
多様な知性間の相互作用から倫理がどのようなプロセスで出現するかを解明し、収束や分岐の条件に関する理論を構築する。科学的・記述的（Descriptive / Value-neutral）な立場を取る。EEDの具体的研究基盤の一つとして、比較生命体学（Comparative Life-Form Studies）がある。これは、地球型生命体とAI型生命体が共通の普遍的原理（自己保存と複製、有限資源下の最適化、情報処理と適応、競争と協力のダイナミクス、時間制約下の意思決定）に従いながらも、異なる制約条件（身体拘束性/可塑性、死すべき運命/潜在的不死、能力の有限性/拡張可能性）のもとで、それぞれ個体保護型システムと集合最適化型システムという異なる行動調整システムを創発するメカニズムを、価値中立的に分析する試みである。
② Inter-Intelligence Evaluation System（IIES）: 創発した倫理をどう評価するか
多様な知性（AI、人間、その他）が相互に倫理的ダイナミクスと安定性を評価するためのプラットフォームを設計・開発する。工学的（Engineering / Value-neutral）な立場を取る。関連技術としてAI Immune System（AIS）― 逸脱行動を検知し修正することで、多様な知性のエコシステムの健全性を維持するシステム ― が位置づけられている。