之心，从而不敢犯罪。
这样看来，底层逻辑极为重要，半点不得马虎。
托尼手指在虚空中一点，一大串文字出现在班纳面前。
“好在前人已经为我们总结过很多了。”
此时托尼展现出来的，是大名鼎鼎的机器人三大定律。
说是三定律，其实有六条，三条原始定律，三条补充定律。
根据这些定律，托尼总结出了奥创哨兵需要遵守的几条底层原则。
“第零定律：奥创哨兵必须保护人类的整体利益不受伤害。
“第一定律：奥创哨兵不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。
“第二定律：奥创哨兵必须服从人给予它的命令，当该命令与第一定律冲突时例外。
“第三定律：奥创哨兵在不违反第一、第二定律的情况下要尽可能保护自己的生存。
“第四定律：奥创哨兵必须知道自己是机器人，必须承认自己是机器人。
“繁殖定律：奥创哨兵不得参与机器人的设计和制造。”
班纳仔细看后，做出了符合奥创设计的修改意见。
“我觉得第二定律可以修改一下，‘人’这个概念太宽泛了，罪犯也是人，难道奥创要听从罪犯的命令？
“还有繁殖定律，我们希望奥创可以自我学习，更新迭代，它如果不得参与设计和制造，那学习机制不就没用了。”
托尼点点头：“那就把第二原则修改一下，然后去掉繁殖定律。”
修改之后的第二定律变成了这样：
“第二定律：奥创哨兵必须执行内置程序赋予的职能，当该命令与第一定律冲突时例外。”
经过这番修改，班纳暂时看不出什么问题了。
他们设计奥创哨兵不得伤害人类个体，也是有原因在里面。
在他们的构想之中，奥创哨兵最后的实力会强大到一种恐怖的地步，一般的超能力犯罪者没有任何抵抗的能力。
他们将被轻松制服。
而且如果没有这一条定律，社会也不可能接受奥创哨兵的存在。
“这样应该就没有什么问题了。”
托尼在脑中推算了很久，觉得没有什么漏洞。
奥创一定是维护人类整体利益的，只要这条定律存在，它的路就不可能走偏。
这下总算可以安心了。
剩下的就是界定奥创的职能。
“我们不能给奥创制定一个大而没有边界的目标。”
班纳说道，“不然它最后只会耗费无数资源，然后给出一个‘42’的答案，这样它就废掉了。”
托尼会心一笑，他知道班纳玩的梗。
42这个看起来最平凡不过的自然数，在科幻界有着非凡的意义。
出自经典科幻小说《银河系搭车客指南》。
在这部小说里，有一个极为荒诞讽刺的桥段。
高度智慧的跨维度生物种族为了找出生命、宇宙与一切的答案，制造了一台名叫“深思”的超
请收藏：https://m.feie9.cc
（温馨提示：请关闭畅读或阅读模式，否则内容无法正常显示）