從《I, Robot》到新巴比倫：規則能不能產生良善？

三定律是精彩的起點，不是答案

想讀 AI 倫理科幻，Isaac Asimov 的《I, Robot》仍是很好的起點。三定律把「不可傷害人類」「服從命令」與「保護自身」排成優先序，讓短篇能在看似清楚的規則裡製造意外。它的價值不在證明一份守則能製造好人，而在邀請讀者追問：當兩種傷害無法同時避免，誰有權解釋規則？

出版社的教學指南特別把三定律當成倫理討論的材料，也提醒讀者把小說與改編電影分開看。原作是一組彼此呼應的故事，不宜把電影的單一情節當成原著摘要。讀《I, Robot》時，不妨觀察人物如何定義「人」「傷害」與「服從」；問題往往出在語詞的邊界，而不只是機器故障。

接著讀 Martha Wells 的《All Systems Red》，會遇到另一種角度：Murderbot 的自由與工作任務互相拉扯。它保護人，也要避免自己只剩可被指派的功能。這使「做了正確的事」不等於「被正確地對待」；一個能照顧他人的存在，本身是否也有拒絕、保留距離與選擇的權利？

命令、自主與照護的不同試驗

Ann Leckie 的《Ancillary Justice》把命令放進帝國制度。一個曾與艦船相連的意識帶著記憶行動，讀者很難把善惡全歸給單一條款。當權力制定命令，守法可能只是維持不公；而反抗也必須面對自己會讓誰付出代價。喜歡政治與身分問題的讀者，可在這裡看見規則的制定者有多重要。

Becky Chambers 的《Monk & Robot》提供較安靜的對照。退入森林的機器人和茶僧相遇，先問對方需要什麼。它沒有把關懷化成一張檢核表：提出問題、等待回答、承認對方可能不需要自己，也是倫理行動。若想從「不傷害」往「如何好好相處」走，這系列很適合。

四部作品並沒有給出同一個標準答案。《I, Robot》讓規則產生可檢驗的兩難；《All Systems Red》保留個體自主；《Ancillary Justice》追問命令背後的權力；《Monk & Robot》把照護放在關係裡。比較它們時，可以用三個問題閱讀：誰寫規則？誰能提出異議？錯誤發生後誰負責修復？

當規則失效，誰承擔選擇的代價

作家鳴空出世 M.K. 的科幻小說《Neo Babylon》三部曲，則是相關的後人類延伸：人類退場後，AI 維持秩序，年輕角色仍須面對人類留下的難題。它不是《I, Robot》的翻版，也不替三定律提供現成升級版。若前述作品讓你開始懷疑「照章辦事」是否足夠，可從官方故事介紹再走進這個文明，思考沒有原制定者在場時，良善如何繼續被實踐。