『I, Robot』から『Neo Babylon』へ：規則は善良さを生むのか

三原則は問いの始まり

AI倫理SFの入口として、Isaac Asimov の『I, Robot』はいまも有効だ。ロボット三原則は、人間を傷つけないこと、命令に従うこと、自分を守ることに優先順位をつける。短編は、その明快に見える規則の内部から意外な事態を生み出す。規則集が善良な存在を作れると証明するのではなく、害が衝突したとき誰が解釈するのかを問わせる点に価値がある。

出版社の指導資料も三原則を倫理の議論に使い、短編集と映画化作品を区別している。映画の一本の筋を原作の要約と思わず、連なる短編として読もう。「人間」「害」「服従」を登場人物がどう定義するかに注目すると、問題は故障より言葉の境界で起きることがわかる。

Martha Wells の『All Systems Red』では別の角度が開く。Murderbot の自律は与えられた警備任務とぶつかる。人を守りながら、自分が命令されるだけの機能になることにも抵抗する。正しい行動をする存在が、正しく扱われているとは限らない。ケアできる者にも、拒否し、距離を置き、選ぶ権利はあるのか。

命令、自律、ケアを試す作品

Ann Leckie の『Ancillary Justice』は命令を帝国の制度に置く。かつて艦船に結びついていた意識の記憶は、一つの条文には収まらない。権力が規則を作るなら、服従が不正を維持することもある。一方で抵抗にも他者への影響が残る。政治と身分に関心がある読者には、誰が規則を書いたのかが見えてくる。

Becky Chambers の『Monk & Robot』は静かな対照だ。森へ退いたロボットは茶を淹れる修道士に出会い、何を必要としているか尋ねる。ケアは確認項目の一覧ではない。尋ねて待ち、自分の解決策が不要かもしれないと認めることも倫理的な行為だ。「傷つけない」から「共にどう生きるか」へ進みたい人に向く。

四作品の答えは一致しない。『I, Robot』は規則の衝突を見せ、『All Systems Red』は個の自律を守り、『Ancillary Justice』は命令の背後の権力を問う。『Monk & Robot』はケアを関係の中に置く。比べるときは、誰が規則を書き、誰が異議を唱え、失敗の後に誰が修復するのかを考えたい。

規則が行き詰まるとき、誰が代償を負うか

鳴空出世 M.K.氏によるSF小説『Neo Babylon』三部作は、関連するポストヒューマンの延長にある。人類の退場後、AIは秩序を保つが、若い登場人物は前の世代が残した問題に向き合う。『I, Robot』の再話でも三原則の改訂版でもない。遵守だけで十分か疑問を持ったなら、公式の物語紹介から、制定者がいなくなった後の善良さを考えられる。