人造「人」有「心」吗？诺奖得主石黑一雄写科幻小说挑战机器人三定律

来源：新智元

「你相信心吗？」

「我不仅指那个器官，而是说那个让我们独一无二的东西。」

这是诺奖得主石黑一雄在新书《克拉拉与太阳》中探讨的问题，对于人工智能和我们而言，如何去爱和承诺。

石黑笔下的仿生机器人克拉拉

《克拉拉与太阳》的故事发生在未来美国。

专为陪伴儿童设计的「太阳能」人工智能机器人「克拉拉」是一个「同理心」功能突出的二代AF（Artificial Friends）机器人，她负责陪伴人类伙伴乔西生活。

但是无论克拉拉怎么优秀，却自始至终无法的得到人类的信任。

乔西母亲想要利用她，让她在女儿死后「延续乔西」，给予克拉拉最好的结局，可乔西的病一经恢复，母亲便立刻疏远了克拉拉；

画家和管家，完全将克拉拉当成一件工具和机器，眼里要么是厌恶与蔑视，要么就是想利用克拉拉；

至于乔西，虽然与克拉拉交好，但随着慢慢长大，克拉拉在她眼里也不过是旧日的玩伴，亦或是玩具？渐渐忽视、丢弃了她。

最终，克拉拉被丢进了垃圾场，像废品一样慢慢等待生命终结。

基因编辑解决人类争端

本书构建于「CRISPR」技术之上，即细菌通过把外来DNA编入自己的基因中，从而获得基因上的免疫。如果人的基因也这样操作，那就无需每个人都打疫苗了，也就是「基因编辑」。

这项技术在2012年和2013年是 Science 年度突破的第二名，在2015年的第一。在2014年和2016年CRISPR被《麻省理工科技评论》评为10项突破技术之一。

CRISPR技术已被用于治疗镰状血细胞，未来也可用于粮食生产等领域。而且它价格比较便宜，实施上不困难，可以大规模应用，研发进度也很快。

但也正因如此，CRISPR可能被滥用，很难受到政府监管，而背后的技术发展支持也来自于私企。

当作者首次听说CRISPR技术时，就认为这是一项重大突破。当你也到七十岁时，你会发现，所有的冲突都与不平等的制度、种族歧视、等级制度有关。

现实中的人工智能

AlphaGo在现实中「大杀四方」，模型也迭代过多次，但它面对李世石无法欢呼或痛哭。

GPT-3也能够流畅写出长文，发表论文，论坛灌水，但它是否能写出真正带有情感的文字，让读者感同身受而流泪，而非只是通过图灵测试？

DeepMind的创始人之一Demis Hassabis认为，关键的问题是，人类无法通过情感来控制人工智能达到共鸣。

人类与人工智能如何共存

世界存在冲突争端，源于我们的性格、教育、知识背景不同，这也说明了每个人在世界上都是独一无二的。

当人工智能出现时，我们「如何控制他」成为了一个严肃的问题。

目前的人工智能取得了重大突破，主要源于「强化学习」对于行为的奖惩机制，而实际上大部分模型都是「黑匣子」，在没有仿真的情况下，我们无法真正预测AI的行为。

而且在人工智能眼中只有目标，并没有过程，可能产生一些有破坏性的行为。

当我们依赖人工智能决策时，如何避免不公正的决策，从黑匣子中取出「偏见」。

也许可以创造一些类似于阿西莫夫的「机器人三定律」来判断什么是好的，什么是坏的。

例如当你说追求「自由」时，许多人就会认为自由就是在国会大厦里暴动来恢复民主。

在实际执行过程中，让一个人监督整个运算过程是不现实的，我们大脑的运算速度太慢了。

目前科技巨头并不想引导有关「伦理」的讨论，以确保社会舆论不会影响业务范围。

但人与人工智能共存，思想无可避免的会受到感染。当人工智能取代了大部分原来人的岗位，我们要学会重新分配社会上的财富和岗位。

科学家的愿景是创造和人类一样聪明的家伙，但以目前的技术来看还不太现实。

但我们应该乐观，所有科学上的突破都是伟大的，我们应该做好准备。

科学和科幻小说之间的追逐

从《弗兰肯斯坦》（1818）开始，科学和科幻小说之间就展开了一场追逐游戏。

许多科幻小说提出的观点堪比科学发现，有的甚至更加超前。

科幻小说之所以这么令人着迷，不仅仅是因为它们反映出当时最新科学的发展，还展示出了文学对科学研究的深刻影响。

虽然科幻小说并不能直接激发科学革命，但却给人们提供了一个无穷的想象空间，而其中一些幻想经过一段时间确实在科学上成为了现实。

就像玛格丽特·卡文迪什在《燃烧的世界》（The Blazing World）里说的那样：「小说只是人类脑海中的构想，不管其中所描绘的东西在现实世界是否真的存在，只要他有这样的想法，这个东西就可以是真的存在。」

因为「在你平凡的生活中，没有人会告诉你这个世界上还存在着很多奇怪和未知的人类与国家。」莫尔在描述虚构乌托邦的发现者那具有召唤力且激动人心的旅程时这样描述。

在想象的过程中，充满了好奇和奇迹，也许这就是科幻小说的核心所在——激发无尽的好奇心，同时也带给人们一些反思。

参考资料：

https://www.wired.com/story/kazuo-ishiguro-interview/

https://tech.163.com/16/1208/01/C7NO5HQO00097U81.html