「是外面的人必须承认自己不能再替里面说话的地方。」
那句话让柯萝丝停住。
不是因为它在物理上严格正确。白莉莉自己也知道这只是b喻。可是柯萝丝听见的是另一层意思：有些边界不只是暂时无法越过，也不是等待更好技术後就能取消。它要求外面的人承认，自己再聪明、再Ai、再痛，也不能把推测说成对方的意志。
很多年後，AI-X的会议室里，柯萝丝听见一位主管说：
「白莉莉留下的公开研究可以作为Sayuri1UN1I层的一部分。不是人格重建，只是安全对齐。」
那人说得很合理。
公开研究。非私人资料。非互动人格。非复归用途。从文件上看，所有红线都没有被踩到。白莉莉的论文、演讲、笔记中有大量关於同意、保存、模型限制与Si亡1UN1I的内容，如果不使用，反而像浪费最JiNg准的安全材料。
柯萝丝坐在桌首，看着简报上那一行：白莉莉资料可提升1UN1I层稳定X。
她忽然想起那间MIT空教室。
白莉莉把笔帽咬在齿间，低头改她的箭头。窗外雪光映进来，把她的侧脸照得很冷。她说，事件视界不是门。你不能站在外面说，里面的人其实希望你把她带出来。
内容未完，下一页继续阅读