冯象 · 2019-06-17 · 来源：保马公众号

人工智能给人类带来的三个挑战：个人隐私的逐渐消亡、法律制度的硬规则化以及生活习惯和生命意义的深刻改变。人类与人工智能间的关系归根到底取决于人与人之间的关系，人工智能既有可能成为少数人聚敛财富和社会权力的工具，进而导致彻底知识产权化的暴政，也有可能随着数据国有化以及党和政府坚持为人民服务，最终使我们得以展望共产主义的前景。

保马编者按：

人工智能的迅猛发展使人类社会走到一个十字路口，除了“机器换人”和人工智能的军事化，冯象老师还指出人工智能给人类带来的三个挑战：个人隐私的逐渐消亡、法律制度的硬规则化以及生活习惯和生命意义的深刻改变。人类与人工智能间的关系归根到底取决于人与人之间的关系，人工智能既有可能成为少数人聚敛财富和社会权力的工具，进而导致彻底知识产权化的暴政，也有可能随着数据国有化以及党和政府坚持为人民服务，最终使我们得以展望共产主义的前景。

本文为冯象老师在第132期文汇讲堂暨华东师范大学第五届思勉人文思想节上所做的演讲，感谢冯象老师授权。

谁害怕人工智能？

——人工智能带来的三个挑战

冯象

人工智能带来了一些非常严峻且不可避免的挑战。从人机关系的视角看，主要包括两项巨大的挑战，一是机器替换人类，导致一波接一波的失业浪潮。2018年已经见证了第一波失业浪潮，这背后就是人工智能带来的革新。二是人工智能的军事化，这也是已经发生的事件。用美国科幻文学的口号来说，未来已经来到，未来并不是将来概念，我们就生活在未来当中，包括智能武器在利比亚内战中的大量使用。可见，人类的苦难已经与机器智能密切关联并深受其影响。

作为一名法学家，今天我想从法律的角度谈谈人工智能带来的挑战。

挑战之一：个人隐私的逐渐消亡

人工智能带来的首要挑战是个人隐私信息的消亡。在传统社会，隐私之所以被称为“私”，是因为它可以“隐”。这一中文词将其特点诠释得非常完美。英文“privacy”虽然也与“私”有关，它的词根来源于拉丁语，但加上中文的“隐”就更加生动了。

当前社会已经普遍使用机器智能，它能够记录每个人的行为与信用表现，其背后涉及的法律问题就是个人的隐私权。

在法律层面，隐私权是一项非常重要的权利。美国在经过了多年的宪法诉讼后，隐私权早已被确立为宪法上的一项基本权利，处于较高的法律位阶。中国通过一系列的典型案例，也已将隐私权确立为民法中的一项重要权利。尽管宪法没有明文规定，但也有许多学说支持权利的重要性。值得一提的是，中国编纂起草的统一《民法典》正在审核中，隐私权正是其中一项非常重要的内容。

今天，人工智能的来临，导致隐私从人类的日常生活中消失。那么，我们是否有必要保护这种正在消失的权利?就像脸书创始人马克·扎克伯格说的，我们为什么需要隐私?我的客户很乐意把隐私交给我们，因为我们的服务能给他们带来不可抗拒的便利。这就让我联想到人工智能令人害怕之处，它过于便利，以致我们无法拒绝。尽管可以从哲学、伦理学、法学等各个角度切入，寻找多种理论上的应对方案，但人工智能技术实际上在现有的市场经济条件下，必定会按照一定的商业模式涌入社会。

通过观察可以发现，推广人工智能最有利的产品就是智能手机。1980年代初，我刚到美国之时，电脑已开始普及，但互联网还仅被运用于少数大学的科研领域，普通民众很少触及。那时很难想象我们今天会生活在这样一个环境中，人与人之间的交往很难排除机器的媒介。那时，人与人之间的交往还是通过电话、书信，以及面对面的方式进行。从1990年代开始，这种情况发生了巨大的变化，互联网慢慢地从学院转移到生活当中，并广泛运用于商业活动。微软、苹果走出了第一步，带领人类步入了手机时代。在我2009年回国之时，虽然手机已变得非常轻巧，但上网仍旧不便。但到了五六年前，每个人的生活基本上都发生了翻天覆地的变化，扎克伯格和他的团队惊人地推出人工智能的商业模式。

人工智能的商业模式是与知识产权相反的模式。所谓知识产权，就是在任何无形的东西上设立产权。例如，一束花并不是知识产权，但若给这束花拍照，这张照片的使用就可以成为知识产权，这朵花的香味也能做成一个具有识别性的标记，称作商标，也就是知识产权。因此，知识产权的主要用途就是禁止他人随意复制或使用，他人需要付费才能使用。

最近，视觉中国将黑洞图片说成是它的著作权，这是极其荒谬的行为。在我们目前的商业竞争和经济活动中，知识产权是一个非常有效的竞争手段，因为它可以打击竞争对手，通过诉讼强迫他人付费或承担更多的成本，以至于对方不得不屈服。事实上，视觉中国是否拥有那张黑洞照片的版权并不重要，重要的是他通过诉讼逼迫他人付费，这才是他的生存之道。但若将他与扎克伯格、马云的商业模式进行对比，就会发现其中的差别。

当前网络企业大平台采用免费或廉价的付费模式，以换取便利和所谓的美好、理想化的社会环境。从本质上说，商业模式的基础是对价交易，法律语言表述为，交易双方需要付出对价，形成契约。而我们付出的对价就是个人信息。从我们购买手机的那一刻起，就已经提交了个人信息，并且还需不断地提交，我称之为硬规则，因为消费者必须接受。这些数据被企业获取，用于建立数据库，再转卖给第三方或者用于其他用途，例如开发新产品等等。

数据如此重要，以至于现有的法律无法对其进行估算。数据所蕴含的巨大价值令业界非常希望将其财产化。数据财产化后的阿里巴巴，其产值将是一个令人恐惧的数字。试想，若将数据财产化，那数据的原始主人是谁?难道不是我们每一个人吗?难道数据不是我们的财产吗?若是这样思考，脸书就无法运营了，因为它需要与几亿人签订合同。因此，数据的财产化是个法律问题，目前无解。

虽然利益集团的游说非常激烈，不久的将来或会进行立法，但即使没有立法，数据事实上也已经是财产了，因为它是我们每天进行的无数次交易的标的物。法学理论认为，只要能成为交易的标的物，例如数据，那它就已享有财产的地位，只不过对它的保护缺少明文规定而已。所以，这些企业事实上已经掌握了我们每个人的隐私。

当然，还有一位参与数据收集竞争的主导者，即政府。在拥有发达的互联网产业之后，任何国家的政府必然深度介入数据的抓取。中国在这方面做得最好，道路每50米就安装一个摄像头，促使暴力犯罪大幅降低，即便在所有的发达国家中，中国也走在最前端。虽然从传统的隐私角度来说，这或许令人不安，但从产业发展以及政府对数据的抓取来说，这可以解决诸多问题。例如，许多传统上难办的案件到了数据时代非常容易。

挑战之二：引领法律走向硬规则体系

人工智能使我们忽视原本异常繁琐的程序、调查，不得不接受一些硬规则，这对于法制建设的影响非常巨大。关于硬规则的定义，可以用生活中一个有趣的现象来解释。中国的马路中间通常都设有一排铁栏，用于分隔两个车道，它强迫车辆必须在它自己的那条车道里行驶，不得越界。相反，这也可以说明软规则的失效，即传统法律规定和政策的执行率较低。虽然政府可以选择其他整治交通的措施，但都不如硬规则方便、廉价。国内存在非常复杂的“栏杆系统”，让民众不得不开始排队。

硬规则带来了什么好处?它不需要像传统的法制建设那样由政府积极推动普法，也不用通过文艺作品向大众宣传规则的重要性，也无须事先征求民众的意见。一般来说，我们国家的立法应当按照民主原则，通过人民代表大会制度进行，或通过政府有关部门制定规章。

但硬规则不同，硬规则是商家制度，尽管政府部门也制定硬规则，但商家的硬规则是智能社会，它通过智能终端添加到我们身上，智能手机就是最佳的例子。手机硬规则通过用户点击同意按键进入系统，之后会显示一份字体较小、内容复杂的授权合同，几乎一面倒地将权力给予了运行商。当然，如果用户不同意，也可以点取消键。这种合同在过去的人类社会中很少出现，而按照现在的制度和商业模式来看，这就是一种单方面为用户制定规则，使之通过衡量利弊或被迫接受的格式合同。

像阿里巴巴这样的企业，现在已拥有非常成熟的纠纷解决机制，平台本身提供了解决纠纷的各种可能性，政府也与之合作建立了互联网法律。所以，整个法律制度实际上被人工智能引领着走向了硬规则体系的方向。这令人感到无比害怕和忧虑，值得引起世人的注意。因为这种情况将导致资本力量过于强大。

在传统和现代社会，包括工业化以来的西方社会与改革开放后的中国现代化建设的新时期，对于立法和规则的制定，在民主方面都有比较明确的要求。从中国的国情与党和政府的立场来看，立法必须回应民众的要求、呼声与利益诉求，这也是中国共产党为人民服务的宗旨。但是，如果规则的制定权大量落入企业手中，其结果就大为不同了。

由于政府部门同样使用智能终端，所以商家制定的规则同样适用于政府部门。从政府的角度来说，为了避免商家成为其领导者，政府只能比过去的工业化社会更大幅度地介入商业活动，这就动摇了我们改革开放目标的基本前提。中国改革开放的目标之一是建设一个健康的社会主义市场经济，按照经典的表述，市场经济就是“一只看不见的手”，拥有自动调节的作用，政府应当撤出商业活动。依据市场经济理论来说，最理想的市场经济是政府只负责一部分的监管、注册和维稳等传统要求，但智能终端、智能经济、智能技术导致政府对商业活动的介入空前加大，在一定程度上促使市场经济不得不回归新的计划经济。

事实上，硬规则的制定权越来越多地归于商家，这是商家非常乐于见到的结果，因为这将增加利润收益。传统企业例如洛克菲勒家族的兴起，需经过一两代人的努力，而以扎克伯格为例的新一代富豪，从白手起家到获得成功用时较短，在短短的几年中就走完过去需要一个世纪才能走完的积累路程，由此带来的对整个社会的影响和控制是非常惊人的。它的危机表现形式就是十多年前美国发生的华尔街金融危机，其中一个运动叫做“占领华尔街”，起因就是贫富差距带来的1%的富人与99%的穷人的矛盾。

贫富差距不仅是中国改革开放出现的情况，亦是全世界的趋势，而网络技术、网络产业极大地推动了社会的分化。不久前，美国黑石集团共同创始人、全球主席兼首席执行官苏世民给麻省理工大学捐款建立人工智能学院，明确要求该学院必须包括关于人机伦理的研究，而这类研究必须解决贫富分化、财富过度集中的问题。可见，苏世民已经清醒地认识到，人类社会所面临的新挑战，是财富的巨大分化带来的社会难题，作为富豪，他有责任提出这个问题，而学者必须在研究科技的同时关注伦理问题。实际上，“钢铁侠”埃隆·马斯克也经常提及未来社会在伦理层面对现代人类有何种要求的问题。

所有的前沿活动都已提出了类似对人类生命的意义、社会的稳定、人机关系的建立等根本方面的问题，中国也不例外。中国“基因编辑婴儿”事件，本质是肆意践踏医学和生命科学最基本的不伤害原则，暴露了国内对于科技伦理的忽视。尽管背后的投资人和合作者都是美国人，他们以研究艾滋病的名义开展试验，一步一步突破伦理瓶颈，不断吸引韩国、美国等其他国家的投资，进行商业冒险。

这表明，商业资本在市场博弈中具有盲目性，缺乏伦理约束。正如马克思说的，如果有100%的利润，商人会怎样选择?如果有300%的利润，即便上绞刑架也无所畏惧。既然如此，我们该如何注意伦理问题?一方面，必须加强政府部门和行业本身的自律和外部约束。政府部门相当于外部约束、外部监管，行业本身也有自我教育、自我培训等自律的要求。

挑战之三：深刻改变生活习惯和生命意义

从科学发展的角度来说，探索是非常必要的。对那些不得不发展的产品而言，我们必须在技术条件与科学原理上继续探索，以便获得对人类有益而非有害的结果。人工智能在这方面的表现特别醒目。

当今社会显然已离不开人工智能，可以预见五年、十年后更是如此，因为当代的孩子是与手机这类智能终端一起长大的，只是接触多少存在差异。从上幼儿园、小学就开始添加微信，用手机在线上做作业已变得十分普遍。在人工智能深入渗透我们生活的情况下，如何正确使用是一个巨大的挑战。

开发人工智能的商家非常聪明，智能终端通常根据反复实验研究人的心理和习惯，以及由基因决定的倾向性来设计界面。因此，一个出生不久还不会说话的婴儿却会很快发现手机或平板电脑的可爱之处，并与之互动，这是设计的成功之处。

以麦当劳为例，麦当劳的快餐为何那么容易令小孩着迷?因为它是实验室的产物。麦当劳提供的快餐是以工业化养殖的牛、猪、鸡作为原始材料，经过混合、配方以及化学处理，调试出令全球小孩都喜欢的口味，并为此成立了一所麦当劳大学。在美国稍微年轻一点的人群，全都是它的常客，即便是含着金钥匙出生于贵族家庭的小布什也爱吃这种垃圾食品，因为他无法拒绝这种根据人类基因构成研制出的味觉配方。

终端界面的设计也是如此，新发布的产品也许会被用户挑剔，比如华为制造的可折叠手机最初也受到批评，但很快就寻找到了感觉与方向。因为华为拥有全球最顶尖的设计团队，所以对于主界面的设计细节超乎普通人的想象。但这些考虑背后的商业驱动因素并不仅仅是为了用户使用方便，而是要让用户无法摆脱。

微软小冰作诗是个很有意思的现象，经常有人在社会、媒体上评价小冰作诗或者其他机器人作曲的事情，总体评价并不太好。如果将机器人与杜甫、李白相比，那简直差强人意，机器人不过是把五四以来新文学运动涌现出的作家作品加以学习，然后组合，生产出几句称为诗的语句。

需要注意的是，微软研发小冰的意图并非让它成为杜甫，华为研发5G产品也并非想让其成为爱因斯坦或牛顿，他们的根本目的是占领市场。AlphaGo团队研究下围棋并非喜欢下围棋，而是研究作为顶级的透明规则游戏的围棋，将其研发产品投入市场，进而实现取代人类智慧的最终目标。

因此，我所关心的是小冰下一步如何发展，如何商业化，商业化之后如何改变我们与下一代人类对诗歌、文学以及艺术的感受。这一团队以及它的竞争者或许已在基因层面探索人类对文字和音乐的感受，以便研发出的产品能够改变人机关系，我将其称作较为终极的挑战，因为它改变了生命的意义。

尽管科学技术发展，政治朝代更迭，不同社会存在不同的发展路径，但自远古人类留传下来的宗教、伦理、法律、商业等方面的人类生活基本存在一个共识。但今后的发展可能无法预测，因为人类内心最深处的一些爱好和习惯，以及智力所能投放的领域将被取代。所以，当我看到柯洁在围棋比赛中负于机器时痛哭的画面，感到些许悲哀。作为世界顶级的围棋选手，他却被机器人击败了，并且在赛后说“我回去让机器复盘检查错在哪里”。过去他只需自己复盘，而现在，机器会立即指出他的错误。这说明，机器与人力已不处于同一段位了，在机器面前，人类如同孩童一般。机器教给人类最初级的下法，而其本身的下法人类已不可理解。

其他行业也面临同样的问题。如果机器学会作诗作曲，做出我们普遍喜欢的产品，如同科幻电影中那般，那人类的生活就将完全改变。可以想象那个时代，杜甫将是极少数学院派研究的对象，因为机器已经研发出完全不同的风格，让我们从小就会喜欢。音乐、美术、戏剧表演都是如此。

法律也可能被人工智能所改变，因为法律规则本身就很难区别其制定者。当我们知晓法律制定的来源是机器时，或许也会认为这是比较公正的，因为人类很容易通过算法获得信息，尽管算法的背后依然存在偏见，或者算法本身被用于偏见。但想挑战算法的合法性或合理性则相当困难，因为其过于专业。一旦机器大规模介入立法，人类将无法理清规则，因为每部机器都会将规则无限复杂化，其复杂程度就像顶级围棋水平一样远超人类所能理解的范围，只有利用机器才能与之对抗。那时，我们是否需要机器?这是一个终极挑战，它不仅颠覆了生命的意义，也颠覆了日常生活，它提供的便利和规则正在温水煮青蛙式地将人类逼至无法反抗的境地。

对此，我最近撰写的新书《我是阿尔法》中，提出了两种最终解决方案：一是彻底知识产权化的暴政。由于财富的高度集中，必定会诱惑更多专制和硬规则的普遍约束，某种意义上就像法西斯作为一种政治制度的专制。二是数据国有化。随着政府部门越来越深地介入商业活动，最终每次商业交易都必须由第三方政府参加，此时是否还是市场主体?每只手背后都是政府、商家以及我们心甘情愿所提供的信息，早已不是市场主体了。那时，分工将变得不太重要，机器会大规模出现，因此，我才提出共产主义的概念。前提当然是党和政府依然坚持为人民服务。

事实上，列宁曾说，人类将按照科学的进步程度来接受共产主义，共产主义在科学技术不发达的情况下是无法实现的，按照传统马克思主义观点注定是行不通的，因为能力有限。1960年代，一位苏联数学家提出综合数学模型，解说计划经济成功与失败的可能性，并获得了诺贝尔经济学奖。受此启发，我认为计划经济并非过去式，只不过不适合科技不发达的时代，将来人类有可能计划得非常完善，考虑到每一个人的需求。

目前许多领域已经能够做到资源的合理分配与使用，最简单的就是交通管制。若没有现在的网络和摄像监控设备，管制交通将非常困难。人类现在已初步拥有无人驾驶技术的研发手段，无人驾驶并不是一辆独立的车，而是像人类一样能够转弯、辨识方向、避开障碍物，具有自主意识的车。无人驾驶的未来目标是彻底改善整个交通系统。一位英国评论家甚至提议，考虑到过高的风险因素，在未来应当全面禁止人类驾驶。

现在，美国研发的无人驾驶车辆，包括小汽车、载重车、拖车等，经过几十万公里路程的测试，证明其安全系数已经大大超过人类驾驶员。虽然无人驾驶也发生致行人死亡的事故，但经过检测发现，这并非是系统漏洞，而是电脑经过所有数据整合之后，做出更安全的自主综合判断，在危机无法避免的情况下，撞死路人而非乘客的社会风险更低。这种判断的精确是人类无法与之相比的。

当前雄安新区建设的首要目标是疏解首都功能，但更远大的目标是建成全方位改造的新城市系统，以便容纳未来的无人驾驶。可想而知，新交通系统首先必须遍布传感技术，然后计算投入运行的每辆车并与整个系统联网，这就需要华为的5G技术。每辆车每毫秒的判断都须经过系统的严密计算，由于人脑远不如机器，因而机器驾驶将比人类驾驶安全得多。只是目前法律层面还未出现一个可供探讨的方案，企业也不愿在投入之后引发许多纠纷。因此，新技术需要法律同步地为它提供一些规则。当然，总体上我们还是比较乐观的，法律会逐步地提出一个解决方案。