人工智能伦理

图1.50 猴子“伊多亚”通过脑机接口远程控制机器人的行走

跑步机上的猴子“伊多亚”在美国的北卡罗来纳州，机器人“计算大脑”（computational brain, CB）在日本京都。通过高速网络，猴子可以观看到机器人腿部的实时影像，如果“伊多亚”能让机器人的关节活动和自己的同步，则给它一些奖励（葡萄干和麦片粥）。植入猴子大脑的BCI设备同时采集250∼300个运动神经元的信号，这些信号被用来预测猴子腿部的运动，精度达到90%。数据通过高速网络传送，当神经元信号和机器人的腿部活动建立起关联之后，伊多亚看着屏幕里的机器人，只要略微想想就能让“计算大脑”走动起来，稍后即可大饱口福。

尼科莱利斯认为，“脑把机器人也当作了自己身体的一部分，它在运动皮层的不同区域建立起机器人的代表区”。因此，“我们的自我意识并不是在我们身体细胞的末端结束，而是在我们用大脑控制的工具的最后一层电子上终止”。

另外，脑机结合有望极大限度地扩展人类的记忆能力、计算能力、学习能力等，对人类智能来说将是一场革命，因为它改变了人类获取知识、技能的方式（有些已经可固化在芯片里与生俱来），令他们有更多的时间和机会释放创新能力。同时，人脑的优势也将弥补AI的一些不足，让直觉变得可以计算。总之，脑机结合模糊了智能载体的界限，它既是人类智能的扩展，也是一种新型的人工智能。

2011年，尼科莱利斯在其著作《脑机穿越——脑机接口改变人类未来》里，为我们描述了一个“人机融合”的明天：人们仅仅通过思考就可以相互交流、操纵设备^[16]。2013年，尼科莱利斯团队发现两个大鼠可以通过脑机接口进行交流，支持者认为人类朝意识读取又前进了一步。然而，也有反对者指出，这些成果是“拙劣的好莱坞科幻剧本”，缺乏对照实验，充其量是一些不成熟的想法。

图1.51 意识读取若能实现，读心术、心灵感应（telepathy）将变为可能，人类的交流方式也将突破语言。非侵入式的脑机接口设备依然是一个未解决的难题

在意识读取成为现实之前，可穿戴设备获取的物理数据都与意识无关，利用这类数据来攻击人类或侵害隐私的风险远远不如读取或干扰意识所带来的风险。人们在憧憬意识读取的各种有利应用之余，必须清楚地看到它对个人隐私的潜在威胁是无所不及的。现在我们依然可以认为，“只想不做”不会造成伤害，但当意识可以控制工具，意识的攻击性就由隐性变为显性的了。

例1.13 2010年的科幻电影《盗梦空间》（Inception）是英国导演克里斯托弗·诺兰（Christopher Nolan, 1970— ）的第七部作品，讲述了盗梦者（extractor）如何利用潜意识进入别人的梦境窃取商业机密，并通过意念植入实现犯罪。

图1.52 诺兰执导的三部与意识相关的电影的海报

电影里，参与共同梦境的人通过一个仪器（便携式自动梦素静脉注射器）连接意识。在梦中，各种感觉是真实的，同时梦境也会受外界刺激的影响，梦中的死亡会让做梦者醒来。梦里套梦，整部影片构造了多层梦境。这些预设有的已被认知科学验证，有的比较牵强，有的纯粹是科幻。但毫无疑问，沉浸在烧脑情节中的观众都被诺兰带入了设定的“梦境”之中，电影结束之时也是梦醒时分。

之前，诺兰执导的第二、第三部影片都是惊悚片，也都与脑科学相关，牵扯到记忆、焦虑、失眠、执行功能等话题。

口 2000年，《记忆碎片》（Memento）是诺兰执导的 第 二 部 影 片 ， 讲 述 了 患 上 顺 行 性 失 忆 症（anterograde amnesia）的男主角寻找杀妻凶手的故事。顺行性失忆症的病人遗忘的是患病后发生的事情。该病的机理尚不清楚，可能的病因有药物诱导、脑外伤、海马体病变等。与之相反，逆行性遗忘症（retrograde amnesia）病人遗忘的是患病前发生的事情。研究失忆症有助于理解人脑记忆的本质。

口 2002年的《失眠症》（Insomnia）讲述了两名洛杉矶警探奉命到阿拉斯加协助调查一宗谋杀案，一名警探失手杀死了同伴，这个意外使他患上失眠症，适逢当地的极昼，该警探的长期失眠让他丧失判断能力……

多数患者对侵入式脑机接口持保守态度，不愿意在大脑中植入电极。人们通过电生理技术（如，脑电图）这类非侵入式方法获取神经信号，也可以用来控制简单设备（如，拨打手机等），或者监控精神状态（如，疲劳、焦虑等）。

图1.53 图中颈部以下瘫痪长达15年的女士，经过短暂培训已经学会了仅靠意识操纵机械臂，用它伸出手来抓取物体（见《纽约时报》科学版，2012年5月16日）。当瘫痪女士“亲手”把咖啡杯送到嘴边的时候，她脸上的笑意让所有的研究人员充满了信心和动力。技术造福于人类的时候，有神一样的温暖和光辉

目前，电极片可以制作得非常微小，材料的有效期也很长久。对于那些严重脑损伤的病人，侵入式脑机接口是可选之项，它能更好地采集神经信号，从而有效地控制设备。

脑机接口技术在实际应用之前，还有许多障碍有待跨越。例如，研究中使用的设备大多笨重，机械臂的动作仍不精细，植入的电极片随时间推移有可能失效等。当前，脑机接口还停留在实验阶段，未达到实用的水平。其终极目标是一种有效的、安全的、隐蔽的系统，使得神经系统有损伤的行动不便者与正常人类一样，使用脑机接口与环境进行流畅的互动。

自由意志

类似生物克隆，读取和复制意识也将引起一些伦理问题。目前，多数国家和地区都禁止克隆人类。那么，克隆人类的器官呢？克隆人类的大脑呢？