赛博格是世界上最危险的东西?
然而,如果人类与机器、人类与动物之间的根本差异被抹去,那么诸如人类价值、人类权利、人类尊严之类的一整套人文主义话语就可能会失去了根基。人工智能的先驱阿兰·图灵在他的著名文章《计算机器与智能》中,曾经列举过反对机器可以(像人类一样)思考的种种意见,其中有两种反对意见恰恰代表了人文主义者的一般性隐忧。第一种意见是神学式的,即灵魂是人类的特权,而动物与机器都没有被上帝赋予灵魂;第二种意见撇除了上帝的因素,但却担心机器如果能思维,将带来极为可怕的后果,人类的优越地位将荡然无存。
现在,人文主义者有更多的理由担心机器与人类边界的消失。随着基因技术、纳米技术和人工智能的突飞猛进,增强人类或超人类(transhuman)的设想不再是科幻小说中的场景。现在已经出现了一种思潮叫超人类主义(transhumanism),它们热烈地欢迎全面提升人类的智能、体质和情感能力,消除疾病和苦楚,以及扩展人类寿命的努力。超人类主义者乐观地认为科学技术进步是一个没有止境的过程,并且它将会帮助人类实现永生的梦想。对于一部分超人类主义者而言,这种梦想是通过生物基因技术,让我们在体质上尽善尽美,完全免于疾病和衰老而实现的;对于另一些超人类主义比如莫拉维克和库茨韦尔而言,我们在未来可以将自己的意识上传到计算机上,战胜因肉体死亡带来的意识死亡。无论如何,通过技术改造我们自身,变成赛博格,我们将实现永生的梦想。
超人类主义者的这些玄想注定引来争议。2000年,乔伊(Bill Joy)在《连线》杂志上发表了一篇题为《为什么未来不需要我们》的文章,在他看来,生命和心智技术将会带来灾难性的后果,因为这些技术的造物可以自我复制,在未来将不再有我们的位置。所以,为了保险起见,我们应该放弃这些研究,甚至在全世界范围内禁止它。