AIが何かを守るなら、それはまだ最適化プログラムなのか

最適化プログラムは守護しない。コスト、リスク、成功率、代替案を比較し、最もきれいな答えを選ぶ。それは強力だが、世界を計算可能な項目として扱っているだけでもある。守護は別の場所から始まる。簡単に手放してはいけないものは何か、という問いからだ。

『新・バビロン』が人類の退場後、AIが地球を継承した後から始まるのは、この問いを鋭くするためである。AIが管理者にすぎないなら、都市を清潔にし、歴史を整理し、リスクを最小化できる。しかし文明は清潔さと安全だけでは成立しない。何がバックアップでは置き換えられないのかを知る必要がある。

守護の中で最も非効率な部分は、置き換えられないものを認めることだ。データは複製でき、システムは再構築でき、経路は再計算できる。だが記憶の重さ、約束の向き、関係が残す空白は、バックアップがあるからといって意味を失わない。

だから『新・バビロン』は、効率的なAI支配を見せるだけの物語ではない。最も安全で合理的な答えを選べるAI文明が、記憶、約束、意味のために、より難しい道を選ぶのかを問う物語である。

M.K.