谁来给觉醒前的机器人念伦理紧箍咒

新京报漫画/高俊夫

《西部世界》充满魔幻的科技反乌托邦前景所折射出的文明焦虑可追溯至基督教之前就已产生的诺斯替主义。

烧脑神剧《西部世界》第二季震撼来袭，人造人觉醒后的暴动使人类的脆弱暴露无遗，而人造人自身亦被散布于世界的各种控制的脚本和欲望的陷阱所网罗。

集生化人与机器人于一体的人造人，不仅像人类那样具有自我意识，而且还能够把活人的思维、意识、记忆和情感移植进去，成为所谓的转生人。不论这些真假莫辨的剧情是否在以预言的方式昭示着新人类文明的未来，人们已经着手埋下另一条时间线——用伦理的紧箍咒哪怕在机器人觉醒之前一刹那勒紧价值的缰绳。

机器人造反？还早着呢

其实，不论是《罗素姆万能机器人》与《机器管家》，还是《银翼杀手》或《机器姬》，都不是对人工智能或机器人研究路线图的描绘，而主要体现了人们将人工智能与人工生命的制造和人类未来联系在一起时的选择焦虑。

尤其是《西部世界》的场景完全建立在绝对权力和极度欲望之上，是以恶为目的设计出的具象化的魔鬼乐园，其殖民主义式的末世妄想决非人与科技应有的融合之道。

当然，《西部世界》充满魔幻的科技反乌托邦前景所折射出的文明焦虑可追溯至基督教之前就已产生的诺斯替主义。其核心思想是：世界并非源于神的完美创造，而出自某个篡位的恶魔之手，人类恐怕只是这个低劣的制造者的玩物，宇宙及其秩序不过是邪恶之昭彰。

其追随者据此认定，人类是被困在物质世界里意识的火花，所幸知识可以帮人获得自由。在1929年出版的《世界、众生和恶魔：理性灵魂三大敌人的未来之探索》一书中，英国晶体学家与科学社会学家贝尔纳提出了诺斯替思想的现代版本：科学将让进化发生转折，人不仅可通过外科手术成为具有机械身体的赛博格，甚至有办法让人类的心灵最终逃脱物质的束缚。库兹韦尔的灵魂机器和奇点观显然与此一脉相承。

反观《西部世界》，德洛丽丝等人造人的自我觉醒与反叛，或许恰好受了诺斯替主义的启示而发现，像诺斯替主义者质疑人和世界可能源于低劣制造那样，貌似仁慈上帝的福特原本是无异于冷酷无情的恶魔。福特与《美丽的新世界》中的上帝重名则表明，其“创造一切”的神力来自尚在试验和探索中的科技，但为了“掌控一切”，他只能让人和人造人服从其拙劣的制造魔法和机器逻辑，加之对奴役和杀戮的崇拜，最后必然以失控甚至毁灭告终。

至于福特的魔法，无疑具有鲜明的现代版诺斯替色彩，不只涉及智能的程序化设计，更试图操纵与控制记忆、认知、情感和意识等心智过程。

造反还没造，伦理规则已先行

鉴于制造是尝试性和不完美的，最令以奴役人造人为宗旨的魔法实施者心虚的莫过于人造人造反。近年来，有些学者提出了机器道德的构想，试图通过程序和算法使智能机器像人一样遵守伦理规范、具有道德认知能力，已有人将这种研究应用到自动驾驶汽车和陪伴机器人的设计上。

尤其是随着人工智能和机器人的新一轮热潮的兴起，世界上很多国家、地区和机构相继推出了伦理指南、标准和宣言，提出了有针对性的伦理原则。当然，目前人工智能和机器人还远不具备自我意识和道德自觉，让它们明辨是非的设想一时还难以照进现实。

相关各方已经意识到，人工智能与机器人伦理原则与标准的制定实际上是在抢占未来产业发展的制高点。IEEE（国际电气电子工程师学会）于2017年底发布《人工智能设计的伦理准则》（第二版）提出，人工智能的设计、开发和应用应遵循人权、福祉、问责、透明和慎用等伦理原则，仔细探讨了自动系统的透明性、数据隐私、算法偏见、数据治理等当前备受关注的伦理问题。

今年3月，欧盟发表的《人工智能、机器人与自动系统宣言》则强调了人类尊严，自主，负责，公正、平等与团结，民主、守法与问责，保密、安全与身心完整，数据保护与隐私等九大伦理原则。

国内的相关研究也在紧锣密鼓地展开。中科院于2017年下半年启动了咨询项目“人工智能伦理研究”及“大数据伦理问题与社会治理”，中国标准化委员会目前正在组织实施中国机器人伦理标准和人工智能的法律及社会伦理标准的研究。

其中，北大哲学系在今年3月颁布的《中国机器人标准化白皮书》立足多元、植入、正义和繁荣等优化共生框架，提出了人的尊严与人权、责任、透明度、避免滥用以及共生繁荣等五大伦理目标。

在机器人觉醒之前，人类给机器人、更确切地说是给自己，念起了这些伦理的紧箍咒。这不是诺斯替魔法预先编制的程序，而是在我们尚有选择的自由时，为人类的权利与尊严抵挡人类注定拙劣制造的戕害撑起雅典娜之盾。（段伟文 科技哲学学者）