三号机器人得到的指令是,取出电池,不要考虑与目的无关的事情。结果,三号机器人甚至没能进入洞穴。因为与目的无关的事情无穷无尽,一一排除这些事情需要无限多的时间。
人类很容易想到必须先拆除危险的炸弹,再取出电池。但对AI来说,没有“拆除炸弹”这个指令,它们就想不到这一点。
其实,这个从洞穴里取出电池的问题是AI研究早期阶段提出的问题。现在,AI已经可以在规避炸弹的前提下取出电池了。
然而,这并没有解决机器人无法适当处理意料之外的事这个实质性问题。如果设定好条件和情景,框架问题可以得到解决。但是,要解决所有问题,必须输入大量信息。
人类的“经验”优于AI的“信息量”。
人类的优势在于能处理意料之外的情况。如果一个人面对意料之外的情况就不知所措地停下脚步,其实和早期的AI没什么区别。
经验就是不断重复“成功”和“失败”
经验就是反复经历“成功”和“失败”。
例如,AI在下围棋或将棋时会积累怎样做会成功、怎样做会失败的信息。
哺乳动物也一样。通过反复经历成功和失败,慢慢认清怎样做会成功、怎样做会失败。这就是经验。
但是,对哺乳动物来说,获得经验是有条件的——经历必须是安全的。如果不安全,哺乳动物也许会因此丧命。
“被狮子撕咬”和“从高楼上跳下来”之类的经历无法提供对生存有用的信息。因为失去生命意味着一切都结束了。