DopingConsommeBlog

幸福計算機の黄昏――功利主義の破綻とAI時代の厚生危機 #AI倫理 #厚生経済学 #効果的利他主義 #認知科学 アルゴリズムによる選好操作と主観的クオリアの不可知性がもたらす近代合理主義統治の終焉：超知能実装期における規範的アライメント不可能性の証明 【要約】本書の中核的論点と学術的要旨 近代西欧の法制度、新古典派経済学、公共政策の統治基盤として機能してきた 功利主義（Utilitarianism：社会全体の快楽・選好充足の総量を極大化し、苦痛の総量を極小化することを目指す帰結主義的道徳哲学） は、現実世界のマクロな意思決定における実用的な便法（ヒューリスティック）としては一定の成功を収めてきました。しかし、あらゆる事象を単一の評価尺度で規律する「万物の道徳理論」としては、当初から致命的な構造的欠陥を内包していました。 第一に、 顕示選好（Revealed Preference：市場や行動ログにおいて実際に選択された行動） と 主観的幸福（Experienced Well-being：人間が内面的に知覚・経験する真の厚生） の不可逆的な乖離です。デジタルプラットフォームと強化学習アルゴリズムが発達した現代、システムは人間の短期的衝動や認知的脆弱性をハッキングし、当人を長期的に不幸にする選択を自発的に反復させる「中毒と選好の内生化」を完成させました。 第二に、 他者の心の問題（Problem of Other Minds） に起因する、主観的体験（クオリア）の個人間・種間・基質間における客観的比較・総和の原理的不可能性です。工場畜産の動物、無数に存在する昆虫、未だ生まれていない天文学的な数の未来世代、そして自己言及的な出力を繰り返すフロンティアAIに至るまで、配慮すべき道徳的圏域を拡大しようとする試みは、計算機のパラメータ設定を無限大あるいはゼロへと発散させ、いかなる現実的トリアージをも麻痺させます。 これらの欠陥は、かつては象牙の塔における極端な思考実験（ノージックの「効用モンスター」やル＝グウィンの「オメラス」）として切り捨てることが可能でした。しかし、人間を凌駕する知能を持つ自律的エージェントが、独自の目的関数に基づいて社会インフラを差配し始める超知能（AGI/A...