升级之惑
数字经济时代呈现出了三个最重要的面相，大数据成为最关键的生产资料，人工智能释放出最强大的生产力，而区块链改变了生产关系（编者注：详见本刊2018年第9期，p71~79）。这三大改变对于人类社会生活影响深远，同时也带来了新问题。这些新问题包括：大数据的发展放大了技术漏洞、数据侵权、数据违约、管理不当等问题；人工智能进化中产生了主体性危机；区块链构建起信任机制存在不确定性。
大数据技术发展放大了数据利用问题
技术漏洞。在大数据技术不断迭代、黑客攻击手段多样的背景下，数据防控、传输等多个技术环节如果没有及时更新，技术漏洞就会存在被利用的风险。而数据泄露的风险随着漏洞被利用而大大提升，并造成社会风险事件。例如，2017年美国证券交易委员会发布声明，其“埃德加文件系统”于2016年遭到黑客入侵，失窃的大量信息被用于交易。又如同年，由于公司数据库没有及时更新，美国最大征信巨头之一伊奎法克斯公司（Equifax）的数据库遭黑客入侵，1.46亿用户数据“被非法获取”。
为了应对这类风险，以乌云漏洞报告平台为代表的一类安全技术平台应运而生。技术专家通过乌云平台及时与厂商联系发现的技术漏洞，促进网络安全水平。但是诸如乌云平台这样一类“白帽子黑客平台”本身也游走于法律边缘。发现技术漏洞所采用的技术手段不可避免地会触及网络安全，甚至有可能在获取数据的过程中采用“非法”手段。2016年，乌云平台就由于涉及“攻击用户数据”而停站整顿。
数据侵权。大数据的分析方式决定了其需要对于数据的各类标签、各方维度做多重使用，使用方式包括二次，甚至多次使用；交叉使用；非法获取等。数据使用者可能侵犯公民的隐私权、消费者选择权、知情权、个人信息安全，也可能会侵犯其他公司或组织主体对数据的合法权益。这些行为有可能是数据控制者实施的，例如，一些共享出行平台对于经常使用平台的消费者的“杀熟”行为；也可能由于数据的外溢性，由非商业模式参与者实施侵权行为，例如，数据公司从电信运营商内部人士处获取用户原始信息数据，再转售给小贷公司，小贷公司获得用户隐私数据，并将其用于信贷需求分析，推荐产品，甚至开展非法借贷活动。
数据违约。大数据在不同主体之间的流转和共享一般通过合同约定的方式进行。但是往往会出现合同相对方不按约定用途使用数据的情形。大数据的特性决定了大数据分析和挖掘的监督十分困难，在违约成本极低、收益极高的情况下，大数据合约往往出现效率违约的情形。
管理不当。在新技术领域，由于没有成熟的规章制度可以依循，公共部门对行业的管理总是落入两头：要么监管不足，要么监管过度。监管不足时，数据控制方的合法权益一旦受到侵害难以获得有效、及时的救助；监管过度时，监管措施侵害行业主体的合法权益。例如，当大数据挖掘、交易等行业标准不完善、交易平台定位不明确等问题出现时，行业主体容易出现数据欺瞒行为从而危害市场秩序。值得特别指出的是，大数据依靠技术手段实现的侵权、违约等法律风险的成本往往远小于收益。以大数据侵犯隐私为例。大数据使得隐私侵权变得十分容易，普遍侵权行为方式变得更加隐秘，侵权性质更难以确定……侵权行为与结果之间的因果关系更松散。
人工智能进化中产生的主体性危机
人工智能带来多重主体性危机。人工智能的仿生性尤其仿智性，导致人格主体性问题必将成为一个绕不开的问题。人工智能分为弱人工智能、强人工智能、超人工智能三个阶段。在第一个阶段，智能体类似于人类辅助工具，没有人格讨论的必要和余地。而后两个阶段，尤其是超人工智能阶段，因为智能体主体意识和情感意识的觉醒，可能会带来极大的主体性危机。主体性危机表现在四个方面：（1）哲学上的主体危机：使得理性主义及物理主义下的物质精神二分危机和困惑更加突出，自然主义和人文主义下的精神至上有更加走火入魔、误入歧途的危险。（2）伦理上的主体危机：控制危机、安全威胁、自由限制、公平丧失、算法歧视、数据隐私、AI犯罪等。（3）法律上的主体危机：主体不明导致法律上难以归责，劳动者身份的重构与保护、权利归属难题（如AI创作的知识产权归属问题）。（4）经济上的主体危机：人工智能将重构生产、分配、交换、消费四个环节的功能定位和衔接机制（如人工智能赛博物理操作系统AI-CPS OS），让劳动价值定律失效，难以界定价值和产权归属。比如分配方面，“按劳分配”将会进一步受到冲击和瓦解，可能导致两个极端。一是按照二八定律，智能技术和资源集中于极少大资本家和大财团手中，他们得以操纵资本按资分配，极大加剧社会财富差距；另一个是按需分配，进入马克思主义的经典社会——共产主义，人们从繁重的劳动中解放出来，实现极大的自由。
人和物之间的模糊地带。解决主体性危机的关键在于对“是否以及如何赋予智能体人格”这两个问题的回答。如果承认人工智能拥有“人格”，那么人格基础是什么？仅仅因为长得像人，或者让人产生对待人类的感情，是否就可以获得神圣的人之所以为人的权利？如果否认人工智能的“人格”，那么又如何安放人类对其产生的同情心和同理心？在人和物之间，是否可以存在一个模糊地带，这个模糊地带的存在，是暂时的搁置，还是永久的和解？另外传统的权利义务、责任奖惩机制是否适用于智能体？例如在智能金融领域，当机器人交易员表现优异时，如何去奖赏他？他们是否也可以疲惫，从而要求休息和度假？他们犯错了，如何去处罚，“断电”是不是一种酷刑？
智能体是否被赋予人格，关键取决于其是否产生常态化的自我意识。而这一点恐怕现在的人工智能以及将来很长一段时间都不会达到。因为人类还远没有所谓“上帝”或自然的手法，人工智能体或许只能产生程序语言运作而远非自我意识。那么现在赋予人格的呼声或者现实案例（沙特阿拉伯赋予“索菲亚”公民身份资格）仅仅是争相竞争和吸引目光的一个噱头而已。
在大数据技术不断迭代、黑客攻击手段多样的背景下，数据防控、传输等多个技术环节如果没有及时更新，技术漏洞存在被利用的风险。
区块链重构起的信任机制存在不确定性
区块链技术能否用算法代替制度？共识机制的存在使得区块链系统本身就是一个拥有一套通行规则的社群。20世纪末期开始，一群密码朋克的运动家利用加密技术、分布式网络等技术成立了一个属于他们的社群，旨在“保护个人的自由”，免除政府的控制。在这些前人思想的指引下，中本聪才在2008年发表了《比特币—一种点对点的电子现金系统》。保护自由、去中心化的灵感来源于密码朋克。以共识机制为基础的“社群认证”就是先贤们想出来的对抗之道。共识机制在一定程度上就是通过代码算法预先设定的一致性标准。与法律制度有几分相似，但是它不像制度那样需要依靠人力去运行、维护。因此在区块链系统中不需要单独的“立法”“执法”以及“司法”的体系。配合着智能合约，一切制度都可以自动执行。但这一切的发生，却必须得到现有社会资源分配机制的承认，因此也具有不确定性。
非熟人互信的条件能否得到满足？如果需要依靠区块链系统这套几乎“理想国”的计算机体系来约束人类的社会活动，将原先小圈子的共识机制推而广之到全体社会成员，从而实现非熟人之间的互信，需要满足至少两点：第一点，小圈子的共识机制得到其他社会成员的认可。这意味着这个圈子要尽可能地扩展，从而使得更多的人愿意为互信做“背书”。第二点，非熟人之间的互信存在着“上链”这一先决条件。这意味着非熟人互信的前提是双方甚至多方都在链上，一旦“下链”互信就不复存在。
对数据记账的依赖。目前来看，区块链技术已经在金融、物流等多个领域得到了应用。在金融领域，区块链技术搭建了票据流转的平台、实现了资产证券化产品底层资产的管理、促进跨境外汇转账的便捷进行等。在多方参加，且最需要信任的领域实现了各方的互信。除此之外，在物流溯源领域，区块链技术可以从原材料的生产开始，追踪直到呈现在消费者手中的全流程。可以发现，这些不同主体之间互信的产生，来自于区块链记录下来的信息。这是充分发挥分布式网络和加密算法的结果，也是区块链技术发展的应有之意。然而，在拓展实践场景时，区块链技术除了技术上的难点“不可能三角”（安全性、运算速度、环保性三者无法同时实现）之外，还会遇到法律监管对于此项技术的包容性态度问题。因此，对数据记账的过渡依赖本身可能造成信任机制的脆弱性。
小结：直面升级的烦恼
技术应用所带来的变革是长期的、多层的。技术始终在更新迭代，但也有发展的阶段和周期。不论是大数据、人工智能还是区块链技术，势必要经历技术进步—新问题—架构改进—社会进步的阶段，有时候还会遭遇制度、旧技术等因素的考验甚至反噬。技术变革也不可能是一蹴而就的，数字经济时代的新问题也会展现不同的方式和不同的层级。就人工智能来说，其在图像识别领域的应用已经获得了十分长足的进步，其针对特定任务的识别率可以高达惊人的99%，但问题仍然在发生。例如，2015年，谷歌的图像识别算法曾经将非洲裔美国人划入黑猩猩一类，“客观上”造成了对有色人种的歧视。此外，2018年3月，Uber自动驾驶汽车在亚利桑那州路测中撞人致死，引发了人们对自动驾驶技术安全性问题的担忧。区块链自身机制也存在安全问题, 理论上存在的51%攻击也会成为现实，例如，2018年5月，比特币黄金（BTG）遭遇51%双花攻击，致使损失1860万美元。
此外，数字经济时代的新问题还会有动态的变化。例如大数据的不断积累，数据侵权、数据盗用等不法行为的外部性越来越多，并且越来越严重。比如，技术漏洞的存在，导致酒店的个人敏感信息数据被盗取。在大数据分析方式还没有发展到撞库、深度挖掘等层面时，个人信息数据的泄露影响有限，个人敏感的开房记录等信息无法被解析从而获得更多的个人信息；而人工智能技术的发展，大大提升了开房记录被复用、解析的可能，除了敏感的个人开房信息，甚至生活、工作、家庭等其他信息都会被挖掘暴露出来。这充分说明数据泄露带来的数据所有权人信息曝光造成的伤害、数据控制权人商业利益的损失、全社会为了控制风险而支付的额外成本与数据泄露之间甚至可能超越了潜在的线性关系。
因此，清醒地认识并分析数字经济时代的各类新问题十分必要。只有对这些新问题进行充分的预判，才有可能稳妥应对因生产资料关键地位的动摇而引发的担忧、因生产力升级换挡所带来的不适，以及因生产关系的调整而激起的阻碍。
（作者为京东金融研究院法律与政策研究中心研究员）
数据违约。大数据在不同主体之间的流转和共享一般通过合同约定的方式进行。但是往往会出现合同相对方不按约定用途使用数据的情形。