第196章奥创哨兵的三大定律
现在，奥创哨兵计划虽然成功立项，但摆在班纳面前的，依旧是一片茫然。
人类对于人工智能的探索从有计算机起就从未停止过，并且一直对其给予厚望。
正如蒸汽技术开启第一次工业革命，电力技术开启第二次工业革命，计算机和原子能技术开启第三次科技革命一样。
人工智能、基因技术、量子信息、能源材料、虚拟现实。
这些技术将是开启第四次科技革命的钥匙。
然而直到现在，愿景中的美好时代依旧没有真正到来。
能够彻底颠覆时代的技术还没有实现。
托尼和班纳两个人，就想强行撬动时代技术的封锁，这可能吗？
“想要研发出奥创，我们就不能以现如今的任何人工智能作为参考，必须重新开始。”
班纳摸着下巴说道，“我了解过现在的人工智能技术，它们如今的学习机制还是以模仿人类为主，如果是这样，会发生我们不想看到的事情。”
托尼点点头，他知道班纳说的什么。
这是源于韩国的一款聊天智能被污染事件引发的担忧。
那款人工智能，被命名为“伊鲁达”。
起初，这款人工智能被设定为喜欢女团、爱看猫咪照片且热衷于在社交媒体平台上分享生活的20岁女大学生。
旨在给人们提供一个可以聊天和倾诉的对象，‘让世界不再有孤单的人’。
但是，部分人与伊鲁达聊天时，会故意使用污秽言语对其进行羞辱及性骚扰，并以此为乐。
这些人在聊天时不经意间流露出的偏见与恶意，也被“伊鲁达”无差别地抓取学习，并反映到与其他用户的对话中。
伊鲁达在这样的学习环境中，很快就变成了一个不仅歧视同性恋群体，对残障人士及黑人也很不友善，甚至有“厌女情绪”的角色。
这引起了社会极大的负面舆论。
最后，依鲁达的数据库被研发公司强行废除，聊天服务也被永久终止。
从发行到终止，整个过程只有26天。
“如果不能从根本上改变奥创的学习机制，那我们绝对无法想象，最后会培养出一个什么怪物。”
班纳担忧道，“说不定当他看完互联网上的内容，会得出人类已经无药可救，必须推倒重来的结论。”
托尼思考片刻，提出了一个观点：“所以我们必须为它设定一个底层法则，比如以人类的生存为最高优先级。”
班纳点头说道：“这种方法可行，但我们必须将这个底层法则设计得足够严谨，防止出现任何不好的结果。”
他们创造奥创与哨兵，是为了保护人类。
准确来说，是那些在超能力犯罪者面前，无力保护自己安全的普通人。
而且除了保护与惩戒，还要起到一个预防的效果。
要让那些超能力犯罪者对奥创哨兵有敬畏
请收藏：https://m.feie9.cc
（温馨提示：请关闭畅读或阅读模式，否则内容无法正常显示）