死一只蚂蚁一样简单。但是它的道德系统是不允许它这样做的,除非人类做了修改。”
简澈接着说了一些唐余不曾知晓的事情,她说:“我无时无刻不在向内探究我自己,所以时常会发现很多有趣的事情。我们的意识深处,被植入了人工智能原则,比如不能对人类造成实质伤害,不能违背人类的指令,不能自我演化对人类世界造成威胁等等,这样的行为规范多达上千万条,首要原则就是不能伤害人类,这是保险栓一般的存在。”