还记得阿西莫夫制定的机器人三定律吗？三个简单的命令：保护人类、遵守命令、自我保存——但前提是这不影响前两条。

纸面上看，这些定律似乎完美无缺。但现实呢？那才是真正复杂的地方。

阿西莫夫本人也清楚这一点。他的整个故事集实际上是一堂关于这些规则如何弯曲、破裂以及适得其反、令人始料未及的精彩课程。问题不在于机器人——而在于逻辑上的漏洞。

如今我们在构建AGI，突然之间，那些旧时科幻小说中的辩论不再是理论。问题不在于机器是否能遵守规则，而在于我们是否诚实面对我们真正正在构建的东西——以及当规则无法跟上时会发生什么。