为何技术会促成专制

　　人工智能会消除民主的许多实际优势，并侵蚀自由和平等的理想。如果我们不采取措施阻止它，它会进一步将权力集中在一小部分精英手中。

　　对被边缘化日益加深的恐惧

　　民主并非是必要的。由于民主国家在过去一个世纪或更长时间里取得了很大的成功，因此它们成为历史上的亮点。然而，君主制、寡头制和其他形式的威权统治是更为普遍的人类治理模式。

　　自由民主的出现与自由和平等的理想联系在一起，这些理想似乎是不言自明和不可逆转的。但这些理想远比我们认为的脆弱。它们在20世纪的成功取决于独特的技术条件，而这种技术条件有可能是暂时性的。

　　在21世纪的第2个10年，自由主义开始声名狼藉。关于自由民主服务中产阶级的能力的问题逐渐凸显;政治变得越来越种族化;在越来越多的国家中，领导人都开始表现出对群众煽动和专制的偏好。这种政治转变的原因是复杂的，但它们似乎与当前的技术发展交织在一起。支持民主的技术正在发生变化，随着人工智能的发展，民主可能会发生进一步的变化。

　　信息技术继续突飞猛进;生物技术正开始为我们的内在生活(我们的情感、思想和选择)提供窗口。信息技术和生物技术将共同在人类社会中造成前所未有的动荡，侵蚀人类机构并可能颠覆人类的欲望。在这种情势下，自由民主和自由市场经济可能会成为过去时。

　　普通人可能不了解人工智能和生物技术的任何细节，但他们能感觉到未来的趋势。在1938年，苏联、德国或美国的普通男人的处境可能比较严峻，但他们经常被告知自己是世界上最重要的事物，他们是未来。当他们看宣传海报时(这些海报通常描绘了煤矿工人和钢铁工人的英雄姿态)，会发现自己就在其中：“我就在那张海报里!我是未来的英雄!”

　　在2018年，普通人感到自己越来越无关紧要。在TED演讲、政府智库和高科技会议中，人们兴奋传播许多神秘的术语(全球化、区块链、基因工程、人工智能、机器学习)，普通人无论男女，都会认为这些术语与他们无关。

　　在20世纪，民众反对剥削，并寻求将他们在经济中的重要作用转化为政治权力。而现在，民众担心自己被边缘化，他们疯狂地想在为时已晚之前使用剩余的政治权力。2016年，特朗普和英国退欧得到了许多人的支持，他们仍然享有政治权力，但担心自己正在失去经济价值。也许在 21世纪，民粹主义的反叛将不是针对剥削人民的经济精英，而是针对不再需要他们的经济精英。

　　信息技术和生物技术革命仍处于初级阶段，它们对当前的自由主义危机究竟要负多大的责任，这值得商榷。伯明翰、伊斯坦布尔、圣彼得堡和孟买的大多数人只是模糊地意识到人工智能的兴起及其对他们生活的潜在影响。然而，毫无疑问，技术革命正在加速发展，在今后几十年中，人类将面临迄今所遇到的最严峻考验。

　　让我们从就业和收入开始讨论，因为不管自由民主在哲学上有多大的吸引力，它的力量在很大程度上都得益于一个实际优势：在政治学和经济学中，自由主义的特点是分散决策，这使得自由民主国家能够胜过其他国家，并为人民带来越来越多的财富。

　　自由主义向每个人承诺分得更大的蛋糕，从而使无产阶级与资产阶级、有信仰者与无神论者、土著与移民、欧洲人与亚洲人和解。如果存在一个不断增长的蛋糕，上述的和解是可能达到的。而且这个蛋糕很可能还会继续增长。然而，经济增长可能无法解决目前因颠覆性技术而产生的社会问题，因为这种增长越来越依赖于更具颠覆性的技术的发明。

　　当然，对于机器将人们赶出就业市场的恐惧并不新鲜。然而在过去，这种担心被证明是没有根据的。但是人工智能不同于旧机器。在过去，机器与人类所竞争的主要是手工技能。现在人工智能开始在认知技能上与我们竞争。

　　至少在未来几十年中，人类的智能在许多领域可能仍远超计算机智能。因此，随着计算机取代越来越多的日常认知工作，人类新的创造性工作将继续涌现。这些新工作中有许多可能会依赖于合作，而不是人类与人工智能之间的竞争。人类-人工智能团队可能不仅会比人类更优越，而且还会比独立工作的计算机更优越。

　　然而，大多数新工作可能需要高水平的专业知识和聪明才智，因此可能无法解决非熟练工人的失业问题或只能以极低工资就业的工人问题。此外，随着人工智能的不断进步，甚至那些需要高智商和高创造力的工作也可能逐渐消失。国际象棋世界就是例子，能够说明这种可能的趋势。在IBM的计算机“深蓝”于1997年击败加里·卡斯帕罗夫(Garry Kasparov)的几年后，人类棋手仍在蓬勃发展;人工智能被用来训练人类神童，由人和计算机组成的团队证明比单纯的电脑更加优越。

　　然而近年来，计算机已经变得如此擅长下棋，以至于他们的人类合作者已经失去了价值，可能很快就会变得完全无关紧要。2017年12月6日，谷歌的AlphaZero项目击败了 Stockfis 8项目，从而达到了另一个重要的里程碑。Stockfish 8 在2016年赢得了世界电脑国际象棋锦标赛的冠军，它可以接触到几百年来人类所积累的国际象棋经验和几十年的计算机经验。相比之下，AlphaZero并没有被其人类创造者教授过任何象棋策略，甚至连标准的开局都没有教过。相反，它使用最新的机器学习原理自学国际象棋。尽管如此，在新手 AlphaZero对阵Stockfish 8的100场比赛中，AlphaZero赢了28 场，打平了72场，一次都没有输。由于AlphaZero没有从任何人类身上学习，它的许多胜手和策略在人类看来似乎都是非常规的。这些策略即使不是真正的圣手，也是极具创造性。

　　你能猜出AlphaZero花了多长时间完成如下的工作吗?从头开始学习国际象棋，准备与Stockfish8的比赛，培养自己的天才本能。答案是4个小时。几个世纪以来，国际象棋被认为是人类智慧的最高荣耀之一。AlphaZero在没有任何人类的帮助下，在4个小时内从完全无知达到了创造性的掌握。

　　AlphaZero并不是唯一具有想象力的软件。在如今的国际象棋比赛中，抓作弊者的方法之一就是监控玩家展示的创意水平。如果他们下了一步特别有创意的棋，评委通常会怀疑这不是人类的下法，而一定是电脑的下法。至少在国际象棋中，创造力已经被认为是计算机而非人类的标志!今天人类-人工智能团队在国际象棋中正在发生的事情，未来可能会延伸到警务、医学、银行业和许多其他领域。

　　更重要的是，人工智能拥有独特的非人能力，这使得人工智能和人类工作者之间的区别不仅仅是程度上的差异。人工智能所具有的两种特别重要的非人能力是连通性和可更新性。

　　例如，许多司机不熟悉他们所行驶道路上不断变化的交通规则，而且他们经常违反这些规定。此外，由于每个司机都是个体，当两辆车接近同一交叉口时，驾驶员有时会误判彼此的意图并发生碰撞。相比之下，自动驾驶汽车会知道所有的交通规则，并且不会故意违反交通规则，而且自动驾驶汽车可以相互连接在一起。当两辆无人驾驶汽车接近同一个交叉口时，它们实际上不是两个独立的个体，而是同一个算法的一部分。因此，它们误判和碰撞的可能性要小得多。

　　同样，如果世界卫生组织发现了一种新的疾病，或者某个实验室研发了一种新药，我们无法使得世界上所有的人类医生立刻同步更新这个信息。然而，即使世界上有数十亿个人工智能医生，每个医生分别监测一个人的健康状况，它们仍然可以在一秒钟内完成更新，它们还可以互相交流对这种新疾病或新药的评估。连接性和可更新性的潜在优势是如此巨大，以至于即使在某些工作领域某些个人仍然比机器做得好，用计算机取代所有人也是有意义的。

　　所有这一切导致了非常重要的结论：自动化革命不是由单一的分水岭事件所组成的，相反，这将是更大混乱的连锁事件。旧的工作会消失，新的工作会出现，但新的工作也会迅速改变和消失。人们需要重新训练和改造自己，不是一次而是很多次。

　　在20世纪，各国政府为年轻人建立了大规模的教育体系，但在21世纪，他们将需要为成年人建立大规模的再教育体系。但这就足够了吗?变化总是充满压力的，21世纪初繁忙的世界已经产生了全球性的压力流行病。随着工作波动的增加，人们是否有能力应付?到2050年，可能会出现一个无用阶级，这不仅是因为缺乏就业机会或缺乏相关教育，而且也是因为缺乏继续学习新技能的精神毅力。

　　由于许多人失去了他们的经济价值，他们也可能会失去政治权力。同样的技术，可能使数十亿人在经济上边缘化，也可能使他们更容易受到监测和控制。

　　人工智能会吓到许多人，因为他们不相信它会听话。科幻小说中都认为计算机或机器人产生意识的可能性很大，不久之后就会试图杀死所有人类。但是没有证据表明：人工智能会变得更聪明而发展出意识。相反，我们应该担忧人工智能对人类主人的绝对服从而非反抗。人工智能与人类开发的任何其他工具和武器都不同;它会使得强者进一步巩固其权力。

　　说到监视，包括几个民主国家在内的许多国家，都在忙着建立前所未有的监视系统。例如，以色列在监控技术领域处于领先地位，并在占领的西岸创建了一个全面监控体系的工作原型。时至今日，每当巴勒斯坦人打电话、在脸书上发帖，或从一座城市到另一座城市旅行时，他们都可能受到以色列的麦克风、照相机、无人机或间谍软件的监视。算法分析收集到的数据，帮助以色列安全部队找到并消除他们认为的潜在威胁。巴勒斯坦人也许管理着西岸的一些城镇和村庄，但以色列人控制着天空、电波和网络空间。因此，不需要多少以色列士兵就能够有效控制住在西岸的大约250万巴勒斯坦人。

　　在2017年10月的一起事件中，一名巴勒斯坦劳工在他的个人脸书账户上贴出了自己在工作场所的照片，照片中他的旁边有推土机。在图片旁边，他写道：“早上好!”脸书的翻译算法在翻译阿拉伯字母时犯了一个小错误。算法将这些字母识别为“Ydbachhum”(意为“伤害它们”)，而不是“Ysabechhum”(意为“早上好”)。以色列安全部队怀疑这名男子可能是恐怖分子，打算用推土机把人撞倒，于是迅速逮捕了他。当他们意识到算法犯了一个错误后，他们释放了他。即便如此，脸书上的那篇帖子还是被删除了——你再怎么小心也不为过。巴勒斯坦人今天在西岸的经历可能只是全世界数十亿人终将会经历的一个预演。

　　然而，在大多数情况下，这种强硬的策略可能并不是必要的。在一些国家，自由选择和自由投票的表象可能仍然存在，甚至公众所受的实际控制越来越少。诚然，操纵选民情绪的企图并不新鲜。但是，一旦有人获得了操控人类内心的技术能力，民主政治就会演变成一场情绪化的木偶剧。

　　在未来的几十年里，我们不太可能会遇到有意识机器的反叛，但我们可能不得不面对成群结队的机器人。这些机器人比我们的母亲更懂得如何触发我们的情感，并在人类精英的命令下，利用这种不可思议的能力，试图向我们推销某种东西，无论是汽车、政治家，还是整个意识形态。机器人可能会识别我们最深的恐惧、仇恨和渴望，并利用它们来对付我们。我们已经在近期世界各地的选举和公民投票中领略到了这一点，黑客学会了如何通过分析有关选民的数据并利用他们的偏见来操纵个体选民。虽然科幻惊悚片中的末日伴随着大火和浓烟，但在现实中，我们可能只会面对一个由鼠标点击带来的乏味末日。

　　人工智能革命最大和最可怕的影响可能是民主国家和独裁政权的相对效率。我们倾向于认为民主和独裁之间的冲突是两种不同的道德体系之间的冲突，但实际上这是两种不同的数据处理系统之间的冲突。民主在众多人和机构中分配处理信息和决策的权力，而独裁则把信息和权力集中在一个地方。考虑到20世纪的技术，把太多的信息和权力集中在一个地方是没有效率的。没有人有能力快速处理所有可用的信息并做出正确的决定。然而，人工智能可能很快会改变这种趋势。人工智能使得集中处理大量信息成为可能。事实上，它可能会使集中式系统比分散系统更高效，因为当机器有更多的信息需要分析时，机器学习会更有效率。如果你无视所有的隐私问题，把所有与10亿人有关的信息集中在一个数据库中，那么相对于尊重个人隐私且只有100万人的部分信息的数据库，你最终会得到更好的算法。如果一个威权政府命令所有公民进行DNA测序，并与某些中央机构分享他们的医疗数据，这将使得该政府在遗传学和医学研究方面对那些医学数据严格保密的社会取得巨大优势。20世纪威权政体的主要障碍(将所有信息和权力集中在一个地方的愿望)可能成为其在21世纪的决定性优势。

　　当然，新技术将继续出现，其中一些技术可能会有助于信息和权力的分配，而不是集中。区块链技术以及其所导致的加密货币的使用就被吹捧为对集权的一种平衡。但是区块链技术还处于萌芽阶段，我们还不知道它是否真的能抵消人工智能的集中化趋势。请记住，互联网在其早期也被炒作为自由意志的灵丹妙药，它将人们从所有的集中系统中解放出来，但现在它正使得中央集权比以往任何时候都更加强大。

　　相关论文推荐：浅析专制主义中央集权

　　摘要：封建专制中央集权制度是中国封建社会生产方式发展的必然结果，客观上适应了封建地主阶级在政治和经济上的需要。在经济全球化、政治民主化、文化多元化的今天，学习中国古代政治制度，对正确理解当前中国政治发展状况，明确我们的发展任务和责任具有重要意义。

《为何技术会促成专制》

上一篇：新时期高校组工干部队伍建设的思考

下一篇：浅谈基于发明构思提取检索要素