为什么有些bug不消灭更好？

原创韩焱精选湛庐文化

前段时间，微信出现了bug，很多人说接收不到信息，或者显示不出好友了。虽然持续的时间不长，但仍然有很多人表示不满。

这可能是因为微信在我们的生活中太重要了，所以大家才会要求它一点儿问题也不能出。但实际上，现在的生活已经充满了各种程序和算法，所以bug也是无处不在。

那么，我们真的需要把所有的bug都消灭掉吗？

《为什么需要生物学思维》这本书的作者，复杂系统研究专家塞缪尔·阿贝斯曼他就说：bug是消灭不完的。而且有些bug, 你与其费尽心机去消除它，不如反过来利用它，这样可以更好地了解和优化系统的内在运行逻辑。

推荐阅读

▼

作者：[美] 塞缪尔·阿贝斯曼

译者：贾拥民

点击书封即可购买

让我来给你举个例子。

微软曾经设计过一款AI聊天机器人，模拟19岁的人类少女在网上和用户聊天。微软给“她”开设了Twitter账号，还不到一天，这个机器人竟然满口都是各种种族主义言论。

这其实就是机器人的聊天算法里出现了bug，也就是说，由于微软没有对机器人聊天“做出必要的设定”，这个机器人学坏了！

但是，这个bug的出现，却给科学家带来了一个重要的关于设计AI机器人的洞见。那就是AI系统的学习其实是自适应的，它自我改进的方式人类还不完全掌握。所以，并不是科学家“希望”他们做什么他们就会去做什么。

因此，科学家们开始研究如何把AI可能造成的负面影响限制在可控的范围内。比如说他们开始研究AI的监督架构；研究如何对机器人训练的数据进行筛选；还有如何提升AI核心代码的安全性等等。

你看，这就是坏事变好事了。

我再来给你举个例子。

假如你让我在1~100之间猜一个数字，那么，我会先问你，这个数字是不是超过了50？如果是，我会接着问，这个数是不是大于75？以此类推，最终，我总能通过这个一分为二的方法，猜到你心中的那个数字。这种方法就叫作“二分检索法”。

在计算机世界里，“二分检索法”的运用随处可见。可是，在面对海量数据的时候，它也有时候会失效，尤其是当系统复杂到一定程度之后，它甚至会变成一个系统bug。

但是，对于绝大部分的运算来讲，“二分检索法”是一个非常有效的方法，所以，当它出现bug的时候，恰恰可以帮助研究人员了解：在海量数据下，我们还能有什么更优化的新算法？

上面我讲了这么多，你一定会同意：我们不应该把所有的bug都当成对立面去消除，这样不但解决不了问题，还有可能引起更多的“不和谐”。

相反，只有坦然接受世界充满了bug这个现实，人们才能利用这些bug，让人与机器之间的协作更和谐。只有先接受这个世界的常态，我们才能找到更优化的与它相处的方法。