智能时代的来临，使人类在对人的认知上有了进一步发挥的空间，人类甚至可以探讨出人类思考的密码，面对这种科学上前所未有的进步，北京大学新媒体研究院副院长刘德寰教授在2015夏季思享会上发言称，尽管技术长足进步，但我们必须正视人类可能面临的风险，这种风险甚至可以导致人类走向毁灭。以下为刘德寰教授演讲原文：

　　刘德寰：在智能的问题上，有一些非常值得我们思考的东西。我的题目是“发挥科学怪人的能力控制科学怪人的心思”。科学怪人，你可以从技术的角度说他是一个天才，但是同时你可以从人性的角度说他是一个毁灭人性的东西。智能到底能带来什么？在整个科技发展进步的过程中，我们就以机器的角度看这个事情。

　　实际上我们已经大规模地开始了信息搜集，但是现在好在大家都基本上奔向商业，对人影响没那么大。但是，如果把社会学、心理学、生命科学、政治学、法学这些专家的观点都放进去，这件事情分析的图景一定不是现在的事儿——我自己做过几个大数据的研究，发现实际上每嵌入一个学科的思想时，模型的展现方式是完全不同的。

　　另外一块特别值得关注的就是认知，包括图像、声音、信息的各种识别能力，现在实际上已经开始，虽然没有达到80%以上，但是现在说达到40%、60%、70%，这已经非常多。但是更可怕的是机器决策。我们跟很多物体之间最大的差异在于人能够整合信息做出决策，做出决策就是感知的识别和判断的识别，如果在这些地方有一个突破性进展后果会是什么？实际上非常值得探讨。


　　当然，最可怕的是模拟人性。上述所有都代表人类的进步、认识问题的能力，但是如果把所有这些技术整合在一起，它是一个巨大的社会风险——整合在一起之后不是技术问题，是道德问题。就有点儿像基因，弄出克隆来了，现在克隆出一个人来没问题，但是问题在于在道德上有巨大的风险，对人类的未来也会有非常大的风险。

　　现在可看到的最可怕的机器人能模拟女性思维，我们知道任何一个女性都是一个大数据分析终端，这是非常厉害的。女性迅速把几个感知点连在一起做出一个决策，她的特点是情感导向、多信息、非线性、快速决策，而且她有更多的感觉。这个感觉本身如果放到机器上，大家可以想象后果是什么。但是在模拟人性这一点上，好在还没有把女性研究透，如果研究透了，这件事情也够吓人的。

　　在现实风险中，这些片面能力机器人的异常发展，比如无人机，未来会带来什么？机器的计算速度、信息整合能力、决策速度都远超人类，这些没有人性的机器人的快速发展——当然，人类实际上控制这一块还好控制——会对人类，尤其在战争领域，对人类社会可能是一个非常非常巨大的风险。

　　我还有一个非常杞人忧天的考虑：根据脑科学、生命科学、心理学、社会学、传播学等等这些理论模型，如果我们探讨出人类思考的密码，人类就会走向毁灭，因为它本身太可怕了。以现在的速度、现在的计算能力和人类自古以来的好奇心，这件事情还真有可能出来。

　　第二，刚才吴教授也谈到，网络安全性越高，隐患越大。前两天携程宕机了，有人说携程被人硬删除了，我不知道真假，如果是硬删除，这件事情是非常恐怖的。只是一个携程网还好办，如果是别的呢？刚才说的智能家居，如果外面无人控制的车被“删除”了，你可以想想得死多少人。这是一个非常大的风险。

　　还有一类是人类没有达到的知识极限。安全网络越大，我们面临的风险越大。现在最多是隐私被盗，损失点钱，但是如果所有的生活都依赖这个网络的时候，这种安全隐患是致命的。


　　第三，有一本书《过度互联》给我很大的启发：过度互联本身会带来过度风险。一旦我们的生活跟这些所有的东西联结在一起，也就是所谓物联网，那么这个网络绑架我们的一切、带来整体性安全事件的可能性会比较大。我们知道纽约大停电造成的影响，我们知道日本核电站。在论证的时候，谁不说是安全的？所以大家记住，这不是一个人类能够判断的问题。一旦形成这种过度的东西，它带来的风险是非常非常大的。

　　过度互联带来的另外一个问题，是会让我们丧失与生俱来的能力，我们会被机器裹胁，手的病、胳膊的病……很多病会增加，会带来社会成本的上升。

　　实际上还有一类：Wi-fi放在我们家，现在对我们没影响，可谁能告诉我30年之后呢？如果我们所有物联网的图景，我们家的冰箱、彩电、洗衣机都有传输能力，到底对我们有什么影响？不知道。长期的辐射带来的后果是什么，现在无法确认，但它是一个巨大的隐患，是一个潜在的公共卫生事件。

　　大家都会谈到，在过度互联，在安全性越高的网络当中，实际上还出现了一个纯社会性话题，也就是所谓社会风险。你会发现，现在在舆论中能独立思考的人越来越少，社会上有一个不雅词汇——“屌丝”。你会发现他们判断问题是直线思维，可能有泄愤、对隐私的伤害……生活在网络上时间长了，精神上可能会出现症状，因为你看到的都是不好的事儿，社会的风险在日益加剧。最可怕的是真谣言的危害，因为现在利用谣言来牟利已经成为了一个常态。前两天股市迅速暴跌，导火索都跟这些有关。

　　人类真的无法避免这件事情吗？我觉得，人们在规避它，人不可能线性化地去顺应这个趋势。刚才吴教授谈到物联网未来的图景，我相信会有很多人反其道而行之，就像在人类发展过程中出现的都市化、郊区化和反都市化是一致的，因为我们是自然的人。比如现在非常常见的一种说法：“离开设备，让时间静止一会儿。”这种人越来越多。未来互联到一定程度的时候，一定会有非常多的人逐渐地让时间静一会儿。人类一定会从一些思考角度去顺应互联时代的一些基本特征，让那些美丽的商业模型和不被“记录”的人性并存。

　　在这个点上，说到对数据产业的判断，现在中国的数据和世界的数据都一样，每一个数据都号称“全”，实际上都是“孤岛”。腾讯只有腾讯的数据，腾讯会有阿里的数据吗？腾讯会有百度的数据吗？所以，对任何一个数据来讲都是“孤岛”，对于人来讲你就是片面的，只要是片面的，对这件事情完整的轨迹的模拟，你就做不到。虽然我按电信网来走，我可以把Wifi关掉，把隐私里的位置关掉，因为我觉得害怕，如果我在哪儿你都知道。我们人类自会适应这种科技的迅猛变化。所以，数据产业是一个非常尴尬的产业，到现在为止，哪一个预测能够做到精准？我做过900万用户、半年的移动互联网的行为，够多了，够大了，但是它是短时间。别忘了，如果从人性的角度来讲，我们做任何一个判断，实际上是一个长时效果。我们都是根据我们自己脑袋里信息的沉积做出判断，这个判断是迭代性的，可能把很多小时候的东西都拿出来。至少在现在，要想把人类所有这些信息储存到数据里，成本太高。所以无论哪个地方的数据都是到一定时间节点以后进行结构化的筛选，留下一部分，扔掉绝大部分。在这种情况下，数据的尴尬也恰恰造就了人类未来模拟人性的这种机器出现，它可能是两三岁的智商、五六岁的智商，很难模拟出一个爱因斯坦。如果真的所有机器都变成了爱因斯坦，人也就麻烦了，真的非常的麻烦。

　　所以，一个小结语是，要发挥这个科学怪人的所有能力，让我们的生活更方便、更好，控制这个科学怪人的心思，因为如果不控制涉及到人性的部分，人类的风险是非常高的。谢谢。