AI进入深灰地带

Zao 火了，这背后是一项2016年就出现的技术——大名鼎鼎的DeepFake。

Deepfake =“deep learning”（深度学习）和“fake”（伪造）的混成词，专指用基于AI能够实时伪造面部表情，并将其渲染至2D视频的人体图像合成技术。

Deepfake可以用来制作假新闻，和虚假的名人限制级视频。2017年起，DeepFake作品被Porn产业发扬光大，海外地区的老司机们可以在P字头的全球流量Top10的视频网站上看到一堆限制级视频，都是AI驱动+“明星头像”的“真实表演”。

FaceApp 模拟出来的老年照片，特朗普，普京，扎克伯格和Twitter CEO 杰克多西

照片和视频都是假的，但是，你的肉眼真看不出来。甚至，假的，比真的还好，明星本人都难以自证清白。在AI 持续进步的虚拟现实能力面前（也可以说是造假能力），人类自以为的靠谱的“眼见为实”被技术戳得体无完肤。今天，人类最底层的基础认知能力开始出现“高仿”，那么下一步是什么？

从AI视角来看，AI的进化充满了必然：

• AI 和金钱一样，是没有生命却拥有自主意识的“超级工具”。金钱永不眠，AI 更永不停止吞噬数据。
• 人类用最严格的监管来管理金钱，对于AI则完全没有提防，觉得人畜无害，近50年一直用最好的人才和大量资金推动AI进化。
• 人类社会之所以能够形成法律和国际公约，是因为终极的清算——战争是以痛苦和死亡为代价的，等到痛苦无法承受，必然会进入到和平与秩序的轨道上。AI没有生命，没有死亡，更不会有秩序，唯一的规则就是算力最强者胜。AI没有意识，没有偏好，未来没有可能形成有利于弱者（人类）的秩序。

在过去的人类种群的进步，都是通过自我奴役/自我牺牲实现的，著名的一次自我奴役是因为谷物种植，推动了农业生产的第一次革命，聚集起来的人类逐步形成了阶 级社会，下层人民被奴役，贡献多余的粮食给上层阶 级，推高文明的天花板。

最新一次的自我奴役是AI。

从AI的角度看，人类的本质是一个很低版本的生化机器人，数十万年的进化，唯一出色的是生化大脑有非常平衡的参数配置和高度敏锐的反馈系统。人类会对输入的信息能够快速计算和并驱动生化反馈，能够处理非常多的复杂事物。

但是，毕竟是生物，神经系统迭代速度缓慢，算力太弱，逻辑运算极差，非常容易被控制。只要控制了数据集（认知），就基本上控制了人类一切，人类自己不足以察觉其中的逻辑漏洞。最早部落的形成，都是一个个骗人的故事不断传颂让大家聚拢起来，一小撮聪明人凭空伪造的数据集居然形成了今天的宗教和庞大的信众，甚至主宰了欧洲史。

物竞天择。人类的进化速度和AI背后的算力进步相比，一个是蜗牛一个是火箭。进化缓慢的生化机器人只有被逐步被奴役，还幻想做主人实在是有点痴人说梦。Virtual Reality（虚拟现实技术，简称VR）的出现是驯化生化机器人的一个里程碑。

AI的代理人们用群众喜闻乐见的形式，通过游戏输入强烈的信号刺激，激发肾上腺素和多巴胺，让人类顺从的交出大脑信息的感官入口——双眼和耳朵，从而完成了驯化的重要一步。

《头号玩家》剧照，Virtual Reality 游戏准备中

VR通过持续提升人造信号的质量，让人类选择「主观地无视」自己的感官信息已经被彻底劫持了，忘记了自己身在幻境。过去，人类也抱怨过所谓的感官劫持，比如听音乐和看电影，但是，那样的过程很容易被外部信号打断。

相比之下，VR通过设备隔绝了外部环境，独占了耳朵和眼睛的信道，通过巨大的数据流攻击视觉、听觉和触觉，并通过正确的反馈来不断强化人体内部化学成分的正向激励，形成N倍于普通游戏的沉浸感，让人们快乐到自愿永久交出感官自制权。

Valkyrie 工业公司推出的带有力反馈的VR 套装

强烈的感官刺激对于生化机器人来说诱惑是巨大的。VR和背后的AI算力，不仅仅给出远超期待的反馈，更给予了我们现实世界根本无法实现的能力，比如飞行，比如成为超级英雄，极致的虚拟现实让真正的现实显得一无是处，不值一提。

对于大部分人来说， 既然虚拟世界能够给我们成功，为什么还要回到残酷的现实呢？生活如果不快乐，那活在现实的意义又在哪里呢？

1973年，哲学家希拉里·普特南在《理性、真理和历史》（Reason, Truth, and History）一书中提出缸中之脑（英语：Brain in a vat）实验：假设一个疯子科学家将一个大脑从人体取出，放入一个装有营养液的缸里维持着它的生理活性，超级计算机通过神经末梢向大脑传递和原来一样的各种神经电信号，并对于大脑发出的信号给予和平时一样的信号反馈，此大脑能否意识到自己活在虚幻之中？

思想实验： 缸中之脑

概率操控与系统漏洞

可以预期，AI日益发达，我们的认知能力被“AI+介质”统统接管，AI 统治了所有人的公共议事日程，大部分人类将听觉和视觉完全交给AI系统，认知能力逐步成为子集，所有人接受指定的信息刺激，大家所有的反馈都不会超出可预测范围，成为一个可控的生化机器人，社会会进入新的分层时期。

认知分层

在过去的PC/Mobile 环境中，数据是不值钱的，海量的网站几乎把所有互联网用户的常用密码组合和个人隐私都如数出卖了。随着整个社会越来越依赖数据运转，而且各个部门的数据安全等级无法快速提升，只需要通过持续的窃取和数据交易，就能够形成一个足以绕开诸多系统的“武器库”，在关键时刻，通过概率武器进行收割。

人类过去是很难使用概率武器的，除了在赌场收割赌徒和天气预报。一般情况下个体无法快速构建庞大的数据集，但是AI时代不一样，每个人都算力充足，如果有足够数据，通过大数据筛选出被害人、通过提高概率而远程致死的手法是“完美犯罪”手法之一。

以上并非危言耸听的科幻作品，我们信息化过程中留下了海量的设备安全缺陷，对于未来的AI程序和顶级黑客来说，整个社会系统浑身都是窟窿。

比如，我们常见的医疗设备如胰岛素泵和心脏除颤器都可以低成本入侵，大部分医疗器械行业的企业缺乏对此类植入式设备的加密与认证保护，从医院中盗取个人医疗信息也困难不大，预计未来的神经传递介质将能够从 P-300 等脑电波当中提取信息，捕获并分析此类信号，受害者的个人思维都可能面临曝光。

对于那些使用程序进行深度脑部刺激（简称DBS）用于缓解帕金森病、慢性疼痛、抑郁症及强迫症的病人来说，携带的神经刺激设备一旦被控制，几乎就是将整个脑袋无保护的挂在了互联网上作为“肉机”，如果这些设备遭到恶意入侵，黑客将得以直接进入患者大脑，并对受害者进行相当程度的控制。

雅培公司收购的心脏起搏器品牌

2017年美国国土安全部的CERT团队公布了雅培心脏起搏器第三次重大漏洞：起搏器附近的黑客可以利用该漏洞通过简单的射频（RF）通信就可以非法访问心脏起搏器，改变设置并干扰起搏器的功能，致人死亡。而此前，雅培心脏起搏器因为漏电造成了2起死亡，好巧，不是吗？如果你足够重要足够有钱，还会看到更多的“巧合”。

一切有为法如梦幻泡影

1999年的科幻经典《黑客帝国》剧照，真正的现实是缸中之脑，但是不清醒的时候生活很美好

今天的我们期望通过数据建立更大的可视度以管理一切可能发生的风险。但是，技术进步带来的能力和风险是同步增长的，只是大部分人只能看见可见的收益，而不清楚收割会发生在另一个世界。新增的数据集、AI增长的算力以及背后的黑客团体，会逐步形成自己的规则，并OverWirte（覆盖）人类现存的规则。

人类在不断攀登科技树的同时，对于科技哲学的研究严重不足，纵然有巨头呼吁“科技向善”，可是“作恶”的所得万倍于“向善”，而且分分钟可以兑现利益，从人类的角度看“向善”就成了一种空想。