理论与立法前沿
科技法迭代视角下的人工智能立法[1]
龙卫球[2]
摘要：当前人工智能以机器学习方法为支持取得突破，成为引燃第四次工业革命的表征科技，促生了巨大的社会生产生活迭代发展的态势，也带来了巨大的法律挑战。目前，法学界和产业界都在探求人工智能立法的思路或路径。本文认为，当前人工智能的立法基础和路径，应当深入科技法及其迭代发展的语境之中加以认识，并且自觉体现“历史—发展”、“社会-技术”的连接性。这是因为，人工智能具有科技事物的本质，理所当然属于科技法的规范对象，同时它作为一种具有主要驱动力且尚具有巨大上升空间的新兴科技，在科技市场、生产安全和科技风险、科技政策等领域均产生了大量的新的具体问题，亟待深加研究和辨析；此外，其因具有认知能力而与人类相通，导致了复杂的伦理问题的出现，形成了需要附加作为科技伦理法而构建的敏感特质。
关键词：人工智能 规范基础 立法路径 科技法语境 人工智能规范问题
人工智能科技及其应用近年来呈勃兴之势，引发当今信息科技革命大背景下的又一波新浪潮。欧洲委员会内设智库欧洲政治战略中心2018年的一份人工智能战略报告认为，采取认知系统与人工智能技术，将使全球商业收入从2016年的64亿欧元，增长到2020年的378亿欧元，预计到2030年，人工智能则将为全球经济贡献12.8万亿欧元，相当于今天全球GDP增长了14%。[3]目前中国和美国相关产业布局走在世界前列，据统计，2018年全球人工智能企业共计15916家，其中中国3341家，合计融资规模达165.54亿美元，占全球人工智能企业融资数额的46.94%，美国4567家，合计融资规模为135.93亿美元，占全球人工智能企业融资数额的38%。[4]与此同时，相应的规范问题呼啸而来。我们看到关于人工智能规范的讨论已经铺天盖地。有从法理学、法哲学角度来研究的，例如思考人工智能时代的法律代际问题、人工智能的法伦理发展、现行法在人工智能应用下的治理危机等；[5]有对着某些特定问题来研究的，例如关心机器人或人工智能的法律地位、自动驾驶的刑民责任、人工智能生成物的权属、智能合约或某种程度商业自主化决策的法律后果等；[6]也有从人工智能的技术架构探究特殊规范方法或者机理来研究的，例如关于智能算法的规范研究；[7]等等。上述研究还在不断深入，但笔者仍深感还有重要角度需要去关注。鉴于人工智能作为燃爆新一轮工业革命的表征科技之一，其显而易见具备科技事物的本质属性，因此不应该忽视对既有科技法的规范因循。因此，本文拟立足科技法及其迭代发展的语境，结合人工智能在当下的重要特质，就其立法基础、路径并附带就相关具体规范问题进行思考和分析。
一 正确认识作为当代科技发展新表征的人工智能
第四次工业革命正在发生这一点已经被广泛认可。第四次工业革命主要因为信息科技和生物科技的当下迭代发展而勃发。世界经济论坛创始人克劳斯·施瓦布在《第四次工业革命》一书代言指出，“从人工智能到生物技术，从先进材料到量子计算，一系列强大的新兴技术带来了大量的机会与挑战，并且将根本上改变我们的生活方式。我们将这一过程称为第四次工业革命。”[8]施瓦布特别强调，对于第四次工业革命，要关注其与第三次工业革命的紧密联系，因为“推动第四次工业革命的新兴技术建基于以往工业革命的知识和系统，特别是第三次工业革命的数字技术”。[9]其中，信息科技革命就是跨越两次工业革命的科技革命。它自身的突变经历了三个阶次：首先，第三次工业革命末期即20世纪90年代开始出现第一次突变，形成了第一波信息科技革新浪潮，即世界互联网化。最初，由互联网推广应用作为牵引，逐渐进行浏览器、电子邮件、信息门户网站等开发，[10]然后到21世纪初前后形成全球互联网体系，并且从社区交流发展到广泛的经济、社会和政治的信息交互应用，其特点是世界信息互通，使人们之间的信息交往瞬间扁平化。有识之士称进入了“世界是平的”的时代。[11]此后不久，大约2010年前后，信息科技革命自身又出现了第二波浪潮，移动互联网、云计算等突然呈现，直接导致大数据及其应用的强势蔓延，迎来“大数据时代”。这次大数据化的信息科技突变，直接显示了第四次工业革命到来的清晰化。
接下来，是人工智能科技，它在机器学习技术创新下以一种强势的新表征方式出现了，成为信息科技的新宠儿，直接引发信息科技革命第三波浪潮，并使第四次工业革命开启更加明显。人工智能思想，至少可以追溯到图灵测试。[12]20世纪60年代，机器人移动技术曾经成为一次里程碑事件，但意义有限。但是现在，通过大数据和深度学习等新技术的结合，当下人工智能脱胎换骨，与既往的技术版本具有质的不同。在大数据的促动下，人们发现和改进了一种机器的深度学习方法，[13]特别是开发语音识别、图像识别等新技术和新方法，使得人工智能发展到一种具有极高认知能力的新阶段，同时不断嵌入各种应用领域，形成引领新一轮信息科技产业化的表征科技。2012年，Google在人工智能领域发布了人脑模拟软件，这是一种划时代的具备自我学习功能的软件，可以模拟脑细胞的相互交流，可以通过看YouTube视频学习识别猫、人和其他事物，从而引发了人们对人工智能新兴技术的新想象。2016年，Google旗下的DeepMind出品的AlphaGo大战韩国职业围棋手李世石连胜三局等事件，成为人工智能新燃点。此后，Google、Facebook、Microsoft等互联网巨型公司纷纷表示未来将更重视AI，除了开源机器学习框架，还投入巨资收购人工智能公司和引进人才，使得该年成为人工智能元年，引发了人们的欢呼和恐慌。麦肯锡报告称“人工智能进入突破阶段”。[14]其应用的后果是，“人工智能正在彻底改造数字经济，很快也将重塑实体经济。人工智能在21世纪早期的目标包括让自动化机械引领物理世界的发展，以及实现人类与计算机之间的互联”。[15]换言之，我们的生产和生活模式快速通过机器学习，系统植入或者应用智能化且不断升级，这种智能化，从商业智能模式到工业智能系统，从企业智能活动到政务智能管理乃至军事智能化，无所不在。机器学习方法本身还在不断发展，有可能在不久的将来，许多领域会由智能辅助变为智能混合，乃至智能接管。以机器学习为支持的人工智能技术，在当下直接促成了一个所谓“弱人工智能”时代的到来，并且继续向前滚滚而行。[16]
关于人工智能今后到底会经过哪些技术突破和应用阶段，目前存在不少的预测研究。[17]一些人认为，人工智能软件架构可能会突然出现重大革新，从而使得人工智能很快达到人类水平。[18]例如，美国未来学家雷·库兹韦尔（Ray Kurzweil）就认为，2045年前后，人工智能将来到一个“奇点”，跨过这个点就将超越人类智慧。[19]但是，更多一些知名人工智能专家认为，人工智能大概需要几个世纪才能完成。[20]著名的美国未来学家、长期从事人工智能研发项目的罗宾·汉森（Robin Hanson）就认为大概需要200～400年，基于机器学习（图像识别、语音识别）的人工智能技术在硬件和软件上不久都会遇到瓶颈，下一个真正的阶段应该是仿真人（大脑仿真）为基础的AI的发展，这个过程大概需要一个世纪，然后进入仿真人时代，提出仿真人规范需求，之后才进入“不以仿真为基础的人类水平的AI”开发期。[21]
不管怎样，我们今天出现的人工智能科技及其应用，可以算是科技史上的一次石破天惊，应当作为当代科技发展的新表征加以认识和对待。一方面是作为人类历史上爆发性的科技革命背景下的一种塑形技术加以突显；另一方面与第四次工业革命的开启息息相关，是导致第四次工业革命发生的关键科技之一。第四次工业革命的表征科技，目前公认包括工业物联网、云计算、工业大数据、工业机器人、3D打印、知识工作自动化、工业网络安全、虚拟现实和人工智能九种。其中，工业互联网、云计算和工业大数据是三大底层基础设施，工业机器人和3D打印是两大硬件技术，知识工作自动化和工业网络安全是两大软件支持，虚拟现实和人工智能是面向未来的两大终极技术。[22]人工智能，一方面作为面向未来的爆发性终极科技之一，在科技为第一生产力的当下，对于人类生产、生活的影响必定是重大的甚至是颠覆性的。积极的方面，主要就是新兴科技带来的全新创造、福利和便利；但也可能有消极的方面，主要是新兴科技会导致的新风险和“适应不良症”。另一方面，它本身依旧是一种科技，具有自身生产、发展的条件和过程性，目前还处于以特定识别技术为支持的机器学习的阶段，尽管可以预期会不断提升直至达到或者超越人类智能水平，但是主流观点认为这还需要足够长的时间跨度，由此存在阶段区分的必要。这些是当前人工智能技术的时代背景和现实表达，也是其规范问题产生的时代条件和现实基础。
二 科技法在工业革命背景下的兴起与演化
（一）三次工业革命的科技及其产业化特点
迄今为止，人类文明经历了前农耕时代、农耕时代和工业时代三个阶段。工业时代大约自18世纪中期开始，又先后经历了三次工业革命，然后就是目前的第四次工业革命。所谓的工业革命，实际上也是科技革命，但是因为它最终导致工业社会的兴起和发展，所以就被称为工业革命。此前的时代并非没有科技发展，人类文明的产生和发展始终与科技进步密不可分，比如古希腊和古代中国，科技并非不昌盛，只是并没有因为应用而产生工业文明而已。工业文明是在经过15～17世纪启蒙运动之后的欧洲首先产生的，其原因较为复杂。美国未来学家罗宾·汉森提出一种“关键因素最佳状态说”或“水到渠成说”作为解释。他认为，几百年前，以英国为首，工业革命开始了它的辉煌时期，可能是因为某种关键因素已经达到了最佳状态或规模，这些因素一般包括技术水平、交流或交通成本、劳动分工、贸易区的范围、组织机构的规模、储蓄率以及专业的网络连接。[23]我们一般认为，工业革命的产生，与其说是某种关键因素到了某个临界点，毋宁说是欧洲在启蒙运动之后在自身历史总体积累上达到了临界点，即经过启蒙运动之后形成的政治、经济、社会和观念条件，产生了一种规律的东西，使得新一代科技可以点燃工业革命。
第一次工业革命在18世纪60年代出现，其核心科技是作为动力机的蒸汽机发明等。这些新科技的广泛使用使工业生产出现组织化、规模化和机器化，工厂代替作坊、有组织的机器劳动代替了手工劳动。当然，也在社会关系上导致了工业资本家和工人两大社会阶层的对立。其主要发源地是英国，这一时期发展起来的工业类型，包括纺织工业、采矿工业、冶金工业和运输业。第二次工业革命在19世纪70年代前后开始，还是欧洲为主，但也出现了美国和后来的日本等，以大量科技发明为特点，集中在电讯、电气、有机化工等新行业，促成了电讯、电气、有机化工等相关领域的新型产业。这些新技术和新产业有着共同的特点，就是都是在科学研究的基础上自觉产生的，不同于第一次工业革命的技术和产业发展，后者只能归功于能工巧匠自发摸索。这一时期最突出的不是新科技大量涌现的结果，反而是其原因，即基于科学和产业自觉的工业研究。所以，有一种说法是，“19世纪最伟大的发明就是发明方法本身”。[24]当时，在专利法和反垄断法的刺激下，追求技术发明成为科学家和企业的一种自觉。各种工业实验室被组织起来，其中很多是私人、企业建立的，也有不少是国家基于应付两次大战需要直接支持和扶持的工业研究，导致了大量期待中的新发明面世。换言之，科技研究和实验本身成为第二次工业革命的所有大工业生产的一个组成部分，人类由此进入“发明做出发明的方法”的时期。[25]这一时期，德国和美国因为工业研究的科技体制和组织优势的进步而后来居上。[26]第三次工业革命在20世纪后半期开始，约在第二次世界大战之后。这一时期诞生的核心科技，包括航天科技、信息科技以及系统与合成生物科技等，导致新一轮科技产业的爆发。这一时期与以往比较，各国科技政策格外重视科技创新，将科技创新政策化。[27]欧美国家科技决策机构纷纷制定教育、科研、产业改革政策，不仅进行科技资源动员，而且也引领科技研究更加系统，从过去的实证分析向系统综合转型。国家甚至从过去的科学的社会契约论向合作保障论（collaborative assurance）转变，强力介入基础研究，鼓励促进以需求侧为主导的新的“技术—经济”范式的形成。[28]中国在20世纪90年代开始基本赶上了这一时期的机遇，以更加强化科技创新政策的方式，通过出台产业现代化的重大立项与决策，促进相关领域的系统创新和应用，也迎来了航天、计算机、微电子、生物技术和新材料等新兴产业的快速发展。
（二）三次工业革命背景下科技法的迭代演化
现在回过头来看人类法律的发展，就可以看到一个现象，自进入工业革命以来，除了普通法或通用法的发展之外，法律体系中出现了专门的科技法，并且处于不断扩张发展的态势之中，占据越来越重要的位置。第一次工业革命之前，并无科技法这样一个专门的领域，法律在一般形态下演化，但是从第一次工业革命开始，科技法作为一个专门的领域诞生了，并且以某种特定的方式影响和联系着普通法律。此后，科技法随着科技发展和工业革命迭代，呈现不断扩张、不断升级的趋势，与三次工业革命发展同轨，大致也经历了三个发展阶段。
1.科技法发展的第一个阶段，即第一次工业革命时期，为鼓励科技发明的阶段。
近代法律体系诞生于工业革命背景，基于经济、政治和社会思想的根本变化，以个人理性和自由为基础做出了根本转型，并且与科学主义结合，不仅在一般法律范畴的意义上产生了近代意义的宪法、民法、刑法、诉讼法等法律部门；与此同时，基于工业革命背景下的科技发明具有不同寻常的意义，首次把科技问题纳入立法，产生了全新的科技法部门。最早发展的科技法，主要是以具体立法形式呈现的科技市场法，包括具有赋权意义的专利法和其他知识产权法，具有鼓励交易价值的技术合同法和技术中介法等，也包括最早的科技风险法，主要体现为科技应用于工业生产的语境下为了应对生产安全需要的工厂法，以及为工业事故灾害的管理和责任立法。
首先，这一时期科技市场法得到创制。第一次工业革命不仅发明了蒸汽机等新科技，更重要的是创设了专利法等新型财产权（兼具财产和人格利益的专利权），以赋予科技发明人以专利权的刺激方式，鼓励科技发明和创造，从而在制度上为工业革命提供了激励和保障。专利法的出现，产生了将科技、法律、经济协调起来的巨大功效。[29]这在历史上前所未有，过去科技创造完全出自个人的兴趣，发明出来的成果自动纳入公共领域，所以科技发明全凭个人的兴趣。但是，专利法之后，这种局面改变了，具有财产意义的专利权变成一种全新的利益驱动机制，科技发明成为更多个人和工厂企业的自觉的法律利益追求。这一时期专利法的发展，最重要的是1623年英国议会通过的《垄断法》，明确规定了专利制度的基本理念和具体形式，被认为是“发明人权利的大宪章”。后来跟进的有美国1790年颁布实施的联邦专利法，德国统一后1877年颁布实施的专利法等。[30]这一时期，除了专利权等之外，得到发展的还有专利交易制度和技术合同制度，成为科技市场法的不可或缺的一部分，专利权或科技发明只有能够置身于自由交易之中，才能够获得更加充分的价值实现和转化的机会。
其次，这一时期后来也开始关注工业革命带来的生产安全问题，这是早期科技应用导致风险的基本表现形态。工厂生产安全，与以前的作坊安全比较不可同日而语。科技发明在工厂条件下应用后，在带来规模效益的同时，也容易带来规模安全和灾害问题，这就是工厂安全和灾害问题，其中特别是对工人的生产安全威胁和给他们带来的事故损害。在社会压力下，首次开展工业革命的国家逐渐关注工厂安全和事故，发展出最初的工厂安全法则和劳动安全法则。1802年，英国政府制定《保护学徒的身心健康法》，建立了最初的工厂劳动保护规则，旨在保护工厂劳动者的健康，制定了学徒劳动时间、矿工的劳动保护、工厂的室温、照明、通风换气等工业卫生标准。1833年，英国颁布了世界上第一部系统的《工厂法》，对工厂条件下的工人的安全、卫生、福利做出规定。
2.科技法发展的第二个阶段，即第二次工业革命时期，为鼓励科技发明和防治工业灾害并举阶段。
这一时期，专利法和垄断法的存在，从正反两面鼓励了科技发明的自觉，工业研究实验室不断涌现并且走向成熟，在大量新兴科技发明和发明方法的支持下，除了传统的纺织、工矿等领域外，电讯、电气、有机化工等领域也得到发展，促进了产业化的极大发展。科技法发展也因此需要更进一步，在进一步提升鼓励科技发明和应用的同时，更加直面产业化带来的生产安全和事故频发的威胁。
首先，从科技市场法来说，是专利法等知识产权法更加扩展和强化的时期，国际专利关系也得到前所未有的促进和发展，例如订立1883年《巴黎专利公约》。这一时期，技术交易更加频繁、多样化，技术合同也得到丰富和广泛应用，因此技术合同制度更加发达，相关规范除了单行规定之外，也散见于民法、商法、反垄断法、反不正当竞争法等法律之中。
其次，工业在急剧产业化扩张之后，新老领域面临更加严峻的工业生产安全和灾害问题。工人安全和健康陷入困境，工厂事故不断，产品事故、交通事故等损害频发，环境污染日趋严重。这些不仅引发严重的社会矛盾，甚至加剧阶层对立和社会动荡。有关国家在几次社会矛盾大爆发之后，开始强化管控工业安全和灾害、减缓社会矛盾，制定了一系列应对工业安全和灾害的法律。[31]各国随着高尖端科技应用和产业化扩展，纷纷完善工厂法，并且制定统一的劳动安全法，因为原先零星分散的职业安全法规已经无法适应需要。[32]此外，产品责任法、交通事故责任法、灾害保险法等也得到发展。这些规则，许多是事后规则，但通过严格责任、惩罚性赔偿等使得其具有预防功能，也有许多是事先和事中规则，例如产品质量管理制度、交通安全管理制度、灾害保险制度等。这些极大促成了工业灾害和事故治理体系的确立和完善。这是过去时代所没有的，成为科技法在第二阶段的重要一环。二战之后，这种趋势更加强劲。
3.科技法的第三个阶段，即第三次工业革命时期，突出科技政策作用阶段。
这一时期，首先，鼓励科技发明的立场并没有变化。工业化国家继续完善专利法等知识产权法，并且在20世纪晚期明显出现“强专利/知识产权”趋势；工业化国家特别是美国在全球推行知识产权保护，导致TRIPS和WTO的出现，全世界接受专利制度，专利的国际申请不断增加，专利战略成为国家之间、跨国企业之间的核心竞争战略之一。[33]其次，继续提升工业安全和灾害治理。工业安全和灾害治理法律进一步强化，新兴的生态环境问题得到关注，环境法得到极大发展。最后，开始关注特殊科技安全和风险，不断制定相关特殊管控规范。针对生化科技、核科技、生物科技、信息科技等新科技的发展和应用，人们发现这些特殊新科技不仅带来了巨大福利可能，也带来前所未有的特殊风险，食品药品安全、生化安全、核安全、生物安全、网络信息安全等不断凸显出规范的急迫性，激发管控特殊科技风险的强烈要求，导致相关技术安全和风险管控法律的出台。“9·11”事件之后，更是添加了恐怖主义不确定性因素，特殊科技风险管控问题显得更加敏感。
但是，这一时期科技法体系最突出的扩展，是强化科技政策作用，更加注重政策导向和机制作用，发展出一套特殊的旨在促进科技进步、转化和创新的法律制度，可以简称科技政策法。20世纪40年代，各国动员科技资源备战，导致了科技进步与国家组织紧密结合。例如，美国成立了国防研究委员会，组织科技资源，增强国防能力，1941年建立科学研究和发展局，1945年又以“科学：没有止境的前沿”为理由建立战后的国家研究基金会。[34]此后形成惯性，各国从中尝到甜头，以提升国家竞争力和促进产业升级为目标，引入科技政策机制，干预科技发展，促进科技进步、转化和创新。20世纪50年代，各国科技政策致力于战后恢复和重建，大力投资基础研究和高等教育，为重建和发展打造知识资源和人力资源的基础，并且在经济扩张领域，促进电子、石化、原子能科技创新，力推新兴科技的转化经济，逐渐形成“技术—经济范式”。60年代，随着经济复苏，市场需求成为科技政策的关注点，政府又由简单的大力支持基础研究转为更加注重成本—效率比以及项目效益评估，为此进行了许多调整。80年代开始，政府更加强调科技资源供应和市场需求的结合，在微电子、生物技术和新材料等新领域实施“技术—经济范式”，后来调整为“技术—经济—环境—安全范式”，在“技术—经济范式”发展的价值追求中，同时引入生态环境保护和特殊技术风险防范。与此同时，各国启动创新政策，推进科技发展与产业化提升的紧密融合。所谓创新政策，按照英国著名学者罗斯韦尔的界定，是科技政策与产业政策协调的结合。[35]20世纪初，面对新一轮科技大发展的机遇期，各国旨在快速提升和确保国家竞争力，更是大力推进科技创新政策，甚至上升到科技创新战略的高度。欧盟早在1995年发布了《创新绿皮书》，提出改进创新环境的建议，1996年通过第一个《欧洲创新行动计划》，2000年由欧洲委员会提出“欧洲创新趋势图”，2005年欧盟委员会提出《研究与创新战略》，2011年底公布《2020战略创新计划》。美国在奥巴马时期的2009年和2011年发布了两份《美国创新战略》，明确提出美国加速创新的战略规划和措施；特朗普执政后对内重视自下而上的科技创新，发布2018年财年预算蓝图，对原有科技投入结构做出重要调整，废除《清洁能源计划》《全球气候变化计划》等，转而支持油气和煤炭行业发展，但对外强推美国优先，用力打压其他国家特别是中国的科技创新，以确保自己优势。[36]
（三）中国科技法的兴起和跨越式发展
中国科技法的发展没有体现这三个阶段的过程性，这是因为中国在前两次工业革命中处于边缘，某种程度上可以说是旁观者。第三次工业革命兴起之时，正是新中国成立之际，在这一轮新兴科技发展和工业化时期，中国开始紧追，三步变成一步走。20世纪50年代至70年代末，中国按照苏联模式建立科技体制，实行计划管理，集中力量动员有限科技资源，解决一些战略优先目标，成功发展了核武器、空间技术和某些基础科学。70年代末开始，中国启动经济体制改革，以“科技是第一生产力”的认识，确立了新时期“面向依靠”发展科学技术的新方针，即“经济建设必须依靠科学技术、科学技术工作必须面向经济建设”，并以此启动科技体制改革，全面助力经济体制改革。[37]之后，关于科技的政策，又经历了1995年实施“科教兴国”战略、加强国家创新体系建设[38]和2006年“自主创新战略”、增强自主创新能力[39]的两次提升。
中国科技法从改革开放开始得到重视和发展。首先，20世纪80年代初开始积极制定《专利法》（1982年）等知识产权法，出台《技术合同法》（1987年）等技术交易法，建立旨在鼓励和刺激科技发明和进步的科技财产权制度、交易制度，这些法律制度随着改革开放的深入不断修改和提升。其次，基于现代科技应用的工业化背景，制定和完善工业安全、劳动安全、事故管理、产品责任等法律制度，先后出台《矿山安全法》（1992年制定）、《劳动法》（1994年制定，其中一章专门规定劳动安全卫生）、《安全生产法》（2002年制定，2009年、2014年修订）等。同时，国家也注意到与科技工业应用相关的环境保护、特殊技术安全等问题，出台了一系列的环境保护法，以及特种技术安全法，除了交通安全、产品质量安全、食品药品安全方面的法律之外，还包括《民用核设施安全监督管理条例》（1986年制定）、《特种设备安全法》（2013年制定）、《网络安全法》（2016年制定）、《核安全法》（2017年制定）和正在起草的《生物安全法》等。最后，我国科技法从80年代确立“面向依靠”发展科学技术方针以来，特别强调国家政策对于科技进步、转化、创新的作用。我们先后制定了《科学技术进步法》（1993年制定，2007年修改）、《促进科技成果转化法》（1996年制定，2015年修改）等科技政策法，以国家政策支持、激励引导的方式，促进科技研发、转化及创新。同时，面对新一轮科技革命，高度重视和戒备，尤其感觉机遇难得，为了提高科技创新的力度和强度，将提升科技创新能力定为基本国策，出台系列政策文件或战略纲要。[40]
三 人工智能的科技法规范路径
人工智能在本质上属于科技事物，因此应当作为科技事物加以审视。前已述及，人工智能因为基于软件的机器学习技术出现而成为当下具有爆发性的新科技之一，是目前显示出来的支持第四次工业革命的九大支柱科技之一。一方面，当下的人工智能通过机器学习技术形成了认知能力。现在机器学习依托的方法，包括线形回归模型、决策树、贝叶斯网络、人工神经网络以及进化算法；加上传感器与材料科学的不断突破，促使人工智能的感知、移动和认知能力发展迅速。这种认知能力与人类独有的综合学习和高级推理能力具有相通性，并且有赶超人类的趋势。2014年聊天机器人通过了简单的图灵测试，2016年Alphago击败了世界围棋冠军。另一方面，这种机器学习技术能够形成的能力目前还只是“弱人工智能”，距离通用人工智能或者超级人工智能遥遥无期。基于机器学习的人工智能缺乏人类具有的大背景和常识，达不到通用人工智能的高度，只适宜完成具体明确任务，例如谷歌的搜索算法、苹果的语音会话、智能手机的文字输入预测、选择性呈现网络广告、强化网络安全、控制工业机器人、自动驾驶汽车、归纳文本信息以及诊断某些疾病等。[41]
所以，对于人工智能的规范思考，从回溯事物本源的意义上说，需要盯紧其作为第四次工业革命新兴科技具有的科技本质属性以及当前依靠机器学习发展认知能力的特殊性。首先，对于人工智能的规范，应当自觉遵循人类既有的科技规范路径，充分动用现有的科技法加以规范评价。换言之，现在的科技法体系应该成为规范当前人工智能的现实规范体系。这是法治主义应该具有的基本立场，“法治”从字面意思看就很清楚是法律的统治，即人们应当遵守法律。[42]哈耶克认为，坚持法治的意义在于，“规则的相当确定性使我们有可能预见权威在特定情况下将如何行使其强制性权力，从而根据这种常识安排个人事务”。[43]现在的科技法体系，包含鼓励科技发明和应用的科技市场法，例如专利法和其他知识产权法、技术合同法、技术中介法等，包含管控工业和科技风险的法律，范围涉及工业生产安全、劳动保护、事故责任、环境保护和特殊技术风险等，以及科技政策法，即旨在促进科技进步、转化和创新的法律政策。其次，对于人工智能的规范，又要注意科技事物的发展性和特殊性，由此对现有规范进行更新调整和特殊改变，以达到合乎时宜和具体合理。一方面，要体现人工智能的发展性，认识人工智能是当下新科技，具有作为正在引领第四次工业革命的一种表征科技的定位，在与过去加以充分比较、对未来加以合理预测的基础上，就此带来的新发展、新问题做好规范。正如哈特所说：“人类的法律创制者们，不能够预见到所有未来可能发生的相关情形。这意味着，所有的法律规则与概念都是‘开放的’，并且当一种未曾预见到的情形发生时，我们必须进行一个全新的选择，并且以此改进我们的法律概念，使它们更符合社会所预期的目的。”[44]另一方面，要体现人工智能的特殊性，在将既有科技法制度加以一般适用的同时，善于认识人工智能的具体性规范要求，就此进行具体立法或者适用。这种人工智能的具体性还体现在人工智能开发和应用功能的多样性上面，所以还应当做好基于功能区划的细分规范。人工智能新功能问世的速度日益加快，可用来分析和识别信息、物体，获取数据，辅助决策；可进入知识服务领域，例如新闻、医疗、护理、会计、教学和法律的人工智能应用；可进入交通领域，包括无人机和无人驾驶汽车；可进入工业领域，例如独立装配汽车的工业机器人；可部署到探索卫星、制造机器人、执行搜救、驾驶飞行器等；可应用为担任警务和发展自动武器；等等。这些基于应用领域和功能的不同，导致了合理规范需求的差异性。
四 科技法视野下的人工智能规范问题
（一）科技市场法语境下的人工智能规范问题
科技市场法，特别是专利权等知识产权制度、技术合同、技术中介等技术市场交易制度等，对于人工智能具有基础适用性，应该成为驱动人工智能技术进步和应用的基本制度。人工智能作为一种正在发展中的科技，是决定第四次工业革命的关键因素之一，具有能够为行业和社会创造巨大效益的潜能，因此有必要积极推动其发展，而最有效的方式就是运用科技市场法的赋权、交易和转化激励机制。目前人工智能需要不断完善自己，处于亟待着力开发和提升的时期，预计全球对于人工智能机器人的投入在2019年超过1350亿元。[45]基于人工智能将对经济、社会带来巨大价值的认识，包括微软、亚马逊、脸谱、IBM、谷歌、深思（DeepMind）、阿里、腾讯、百度等在内的巨型互联网企业，都在开发和研究相关的人工智能，研发投资不断增加。其背后的动力，取决于法律对于这种投入及回报提供的支持和保障。
但是人工智能作为一种新兴技术，本身又存在特殊性和发展性，这就使得其与现行科技市场法的有关规定并不完全契合。在这方面，人工智能的研发和应用产生了许多新的规范问题，需要及时研究和跟进立法。首先，人工智能的很多重要的技术改进，往往体现为学习方法、进化算法等，这些在现在的专利体系里面很难获得专利授权。其次，现在的技术交易制度，主要是合同交易的方式，而人工智能价值实现的方式，更多依赖于合作、协同应用，通过动态的系统嵌入运行来实现其价值功能。再次，人工智能技术专业性极强，因此还需要促进相关专业技术市场的发展，重点引导不同类型的创新型技术市场的发展，例如美国的国家技术转移中心（NTTC）、英国技术集团（BTG）、德国弗朗霍夫学会、日本的技术研究所等实体技术市场，欧洲的创新驿站（IRC）、美国的yet2.com公司等网上技术市场。[46]最后，也是最重要的，人工智能开发和应用需要依赖数据资源。例如，欧盟委员会《关于欧洲合作智能交通系统战略协作、连接和自动移动性的决议》（COM/2016/0766）就提出，“个人数据和隐私保护是自动驾驶汽车成功部署的决定性因素，必须使用户确信他们的个人数据并非商品，用户能够有效控制数据的使用方式和目的”。[47]目前，很多具有创新力的机器学习研发工作，主要由著名大学研究机构或大企业承担，它们的优势在于能够获得数据资源，而且很大一部分是可公开数据资源，当然这也是目前许多人工智能可验证和可确保透明度的前提。但是，这显然是不够的。那么，如何确保人工智能创新中的合理充沛的数据来源呢？此外，人工智能应用也要求用户使其数据处于有序状态，确保人工智能应用中的相关专有数据得到适当的整理和保护，那么如何做好这些数据管理工作呢，其法律依据何在？实践揭示，目前应用者主要依靠开发特定的人工智能系统来协助检索、挖掘并整理公司系统和服务器的数据，从而达成机器学习的先决条件。[48]可见，现在的科技产权制度并没有解决这些问题，亟待从人工智能研发和应用的合理需要的具体角度，做出相应完善。
（二）科技风险管控法语境下的人工智能规范问题
现有管控工业风险、劳动保护、事故责任、环境保护和特殊科技风险的科技风险法律制度，对于人工智能同样具有可适用性。人工智能作为科技，无论其开发还是应用，同样存在安全、灾害和特殊技术风险问题。同时，作为引爆第四次工业革命的新兴科技，人工智能还具有独特的科技安全和风险问题，因此还需要特殊应对。施瓦布、戴维斯认为，第四次工业革命及其科技挑战，至少面临以下几个问题：（1）如何确保合理分配第四次工业革命效益；（2）如何管理第四次工业革命外部性效应特别是控制风险和伤害，包括针对弱势群体、自然环境和未来世代的保护措施，以防范意外后果、变革成本、次生影响（second-order impacts）或蓄意滥用新技术等问题；（3）如何确保第四次工业革命及其科技开发和应用由人主导、以人为本。[49]这些是以前三次工业革命考虑不多的。本文经过梳理认为，就人工智能科技的特殊研发和应用而言，目前至少面临五项特殊安全或风险问题。
第一，人工智能不确定的技术风险。人工智能目前的方法在结构上还不够完善，今后也不可能百分之百完善，可见技术风险不能避免。所以在人工智能运用中，要特别注意防范这种不确定的技术风险。人工智能应当在设计和应用时，将安全保障同时配套；在重要领域部署人工智能，要做到确保其具有支持业务稳定、持续运行的性能，并保证安全技术措施同步规划、同步建设、同步使用。[50]鉴于人工智能技术的特殊技术风险，尤其要避免技术误用，因为一旦出现错误的匹配、错误的输入，就可能失之毫厘，谬以千里，产生预计不到的后果。例如德国在人机互动的案例中，协同工人的误用导致被工业机器人打死的意想不到的后果，这里既有误用的问题，恐怕也有技术安全设计瑕疵的问题。[51]
第二，人工智能偏离设计应用的风险，这也是人工智能特殊技术风险的一种形态。人工智能的行动、决策是否保证其与设计者的目标一致，或者保证始终与控制者合作，都需要依靠技术本身，但现在的技术并不能保证万无一失，尤其目前机器学习技术并不能确保人机协同的绝对可预定性，更不能保证人机价值观的一致。如果不加风险管控，一旦偏离目标，后果可能不堪设想。例如，警务机器人发生偏离，错误击毙可疑人员。越是让人工智能执行复杂系统的工作，例如管理交通、监控安全，就越要注意这样的风险。目前一种建议是，在设计时强化安全伦理原则，即所谓的机器人原则，但问题是这些仍然只是一种设计而已，在正常情况下固然可以更好指导机器人行动，但并不能真正解决运行中的偏移。所以，正确的办法，还应该包括增加对运行中的人工智能训练，通过训练和及时的调整使得技术设计的可行性转化为行动的一致性。此外，还应该引入可检验、可修正、可控制的人工智能应用模式。
第三，人工智能非法使用的风险。例如，企业通过运用人工智能出现歧视、进行不公平交易、窃取别人数据或者暗箱操作的行为。欧盟数据保护委员会2015年11月发布《应对大数据挑战：呼吁通过设计和可责性实现透明性、用户控制及数据保护》，提出要重视大数据对穷人或者弱势群体的歧视问题，并提出是否可以让机器代替人类来做道德、法律等问题的判断；美国联邦贸易委员会（FTC）2016年1月发布《大数据：包容性工具抑或排斥性工具？》，也要求关注大数据中对消费者的歧视和偏见问题，确保关于消费者公平机会的法律得到有效执行，同时防止大数据分析中出现歧视等不公平行为。[52]又例如，犯罪分子包括恐怖主义使用人工智能欺骗、入侵、操纵、修改别人的人工智能。人工智能的非法使用，也可能体现在国际层面，比如国家或个人开发不可信任或不加区别的人工智能武器。人工智能安全漏洞的严峻性也在不断升级之中，一部分是因为人工智能使用者自身违规设计或应用导致的，也有相当一部分来自外部的不法行为。
第四，人工智能的社会风险。在经济、管理和社会服务的许多领域，人工智能淘汰了一些工作岗位，给劳动力市场带来影响和挑战。例如，富士康在近两年有6万工人被机器人取代，而且这种风险还在扩大。那么，政策制定者是否做好研究和对应部署了呢？劳动者或者其他利益相关者是否准备好了呢？人工智能的社会风险，广义上还包括技术迭代导致的各种社会不适应性。那么，我们是简单奉行物竞生存论，还是也应当重视社会和谐价值呢？每一次工业革命，都会导致社会剧烈变化，有些人能够适应变化，但也有很多人并不容易适应变化。而且，“我们并不能保证所有适应性行为都对世界或宇宙有益，有时这些行为也可能有害于我们的生活”。[53]可见，需要进行很好的平衡。人工智能的社会风险，也包括新科技应用可能导致的社会分配公平问题。新的财富和福祉分配很可能并不公平，特别是财富和机会向少数人集中，导致新一轮赢者通吃效应。这种平衡不仅存在于国内，也存在于国际社会。从国际社会来说，人工智能可能加大国家之间的极差，因此需要积极考虑应对。发达国家在享受人工智能发展福利的同时，应当负有责任，在维持和构建良好国际秩序的基础上，做好人工智能的国际利益协调。
第五，人工智能的伦理风险。人工智能是一种具有认知能力的技术，因此与人具有相通性。目前，人工智能技术虽然离通用智能特别是全智能还有差距，但在一些场景互动方面表现已经接近人类甚至超过人类，包括游戏、客服查询、医疗诊断、自动驾驶汽车导航。[54]认知能力原本是人类独有，现在可以为人工智能所有，这种情况势必导致与其他科技不一样的伦理风险。因为它会带来与我们人类的根本混淆——人类伦理的一个根本追求是种的保全或者说人自身的保全。现在我们制造与我们具有相通的人工智能，这个严峻的伦理挑战就产生了。[55]如果下一波开发出仿真人或者超级智能，这个特殊的伦理问题就会更加严峻。这是人工智能特殊的技术风险之一。那么，我们可以在多大程度开发和应用这种具有认知能力的机器或软件？假设目前还可以实施允许开发和应用的通用政策，我们是否需要就伦理风险达到某种级别的人工智能开发、应用和运行进行严格管控以及区别不同层次进行监管？是否可以赋予具有接近或超越人的认知能力的人工智能以完全自主决策的权力，因而也具有相等的刑法、行政法、民法的主体地位？[56]是否应当确保人类对于人工智能的可信任与可合理期待？是否需要对人工智能植入某些必要原则、伦理标准并进行确保有效的运行监管？是否可以开发和部署负有特殊职能的警务机器人以及如何对其管控？是否可以开发和部署致命自动化武器或战争机器人以及如何对其管控？如何应对和救济人工智能对伦理安全的威胁或损害？是否可以惩罚甚至“杀死”所谓“不法”或者“犯罪”的人工智能以及如何执行？现实中的人应该如何对待智能机器人、特别伙伴机器人？等等。这些伦理风险问题归结起来，就是如何处理人类与人工智能的关系，包括现阶段，也包括未来阶段，我们应当建立何种与人工智能，特别是与其中的机器人相处的基本规则。这些问题越来越受到关注，不断促成阶段性的人工智能伦理政策或规则的形成。[57]当前一种人本的、普惠的新科技思想正在兴起，认为包括人工智能在内的第四次工业革命的技术应该具有价值定向，技术应当“赋能，而非支配”，未来应当“由人类设计，造福于人类”，技术应当“使价值成为特点而非漏洞”，主张人工智能技术应该包含一整套假设、价值观和原则，应当优先考虑社会价值观，兼及利益相关者，服务于人民和社会制度。[58]
最早美国科幻作家艾萨克·阿西莫夫（Isaac Asimov）在1950年末由格罗姆出版社出版的《我，机器人》一书的序言提出著名“机器人三定律”，用来避免设计、防止机器人失控：机器人不能伤害人类；它们必须服从于人类；它们必须保护自己。可见，最早的关于机器人的伦理考虑是恐惧这个很小的点，所以只是希望机器人不给人类带来伤害或威胁而已。[59]后来，还加入了“第零定律”：机器人不得伤害人类整体，不得因不作为使人类整体受到伤害。今天，随着人工智能新一轮发展，关于人工智能伦理问题的认识有了更加进一步的展开。但是总体上，目前还只是一些国家或者机构做出了一些发展或者倡导，而国际社会还没有形成适用于人工智能开发和应用的全球伦理规范。[60]
2016年，美国电气和电子工程师协会（IEEE）发布了人工智能伦理报告（2016），即《合伦理设计：利用人工智能和自主系统（AI/AS）最大化人类福祉的愿景》，将人工智能定性为“社会—技术系统”，倡导要深化价值观。[61]该报告提出了发展人工智能的四项原则，即人类利益原则、责任原则、透明原则、教育和意识原则。[62]2017年12月，还对报告进行了更新。[63]2019年2月，特朗普发布第13859号关于启动“美国人工智能倡议”（Anaerican AI Initiative）的行政令，随即美国国家标准与技术研究院（NIST）在2019年8月发布了《美国如何领导人工智能：联邦参与制定技术标准及相关工作的计划》，提出了要确保使用人工智能技术的系统可靠、稳健、值得信赖。[64]其中也明显包含了一些最低伦理标准，但主要还是可安全信任的技术伦理问题，对于相关人文伦理关切尚欠明确。
欧盟委员会2019年4月8日为了提升人们对人工智能产业的信任，在人工智能高级别专家组（AI HLEG）起草的支持下，发布《可信人工智能伦理指南》（Draft Ethics Guidelines for Trustworthy AI），明确可信赖的人工智能伦理准则，同时宣布启动试行阶段，邀请多方面对该准则进行测试。[65]根据其解释，有两个必要的组成部分：一是应尊重基本人权、规章制度、核心原则及价值观；二是应在技术上安全可靠，避免因技术不足而造成无意的伤害。“可信赖的人工智能”包括七个关键条件：人类的自主性和监督，技术的健全性和安全性，隐私和数据管理，透明度，多样性、非歧视和公平性，社会福祉，问责机制。[66]
我国在2017年国务院印发的《新一代人工智能发展规划》中开始提及人工智能发展可能引发方方面面的问题，其中包括伦理问题，提出要重视人工智能法律伦理的基础性研究。[67]2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则—发展负责任的人工智能》，提出了人工智能治理框架和行动指南，强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开发协作、敏捷治理八个原则，其中涉及伦理治理要求，重点在负责任。我国不少机构和企业也做出响应，自动提出倡导人工智能伦理要求。[68]但总体上看还远远不够，距离真正明确和合理的伦理规范还有很多距离。
（三）科技政策法语境下的人工智能规范问题
科技政策法对于当前人工智能开发和应用更加具有可适用性，这不仅仅是因为人工智能科技的发展与科技进步、科技转化政策契合，更是因为其发展代表了当前科技创新的重要领域和方向。在我国，现有的《科学技术进步法》和《促进科技成果转化法》提供了诸多进步机制、转化机制，这些当然对于人工智能科技的开发和转化具有支持意义。不过，目前尚存在许多体制机制障碍，特别是国有企业、事业单位科技成果的严格国有体制和国有资产管理体制，加上市场培育不够，导致了科技主体、动力、程序、保障等多方面的局限，严重影响科技进步和转化，所以目前相关法律都面临修改、调整等进一步完善的要求。
但是，对于人工智能的科技政策，更重要的还是特殊化问题。人工智能作为一种全新的具有巨大应用价值同时又以具有与人相通的认知能力为特点的科技，对此应该采取何种科技政策加以促进和管控，考量起来确实较为复杂；加上其本身还在不在动态演化之中，可以说充满变数。某种程度上，可以说仁者见仁，智者见智，但鉴于其发展之势又亟须早日明确，可以考虑阶段式立法和不成熟时授权政策试点方式：在一个阶段之内具有共识的，可以通过修法加以确定；一个阶段之内还难以清晰但又亟须明确的，可以通过授权专门部门采取出台政策方式进行探索。例如学者雷恩·卡罗（Ryan Calo）等认为，人工智能政策的核心问题，应该包括：（1）正义和公平（Justice and Equity）。包括应用中的不平等（Inequality in application），例如：将非裔美国人识别为大猩猩；搜索引擎将工程师自动关联为男性，将护士自动关联为女性；重要决策（Consequential decision-making），与程序规则或者其他保障规则相抵触，例如犯罪量刑系统运用算法辅助做出假释决定。（2）武力的运用（Use of Force）。如何决策人工智能武力的使用，谁为机器的决定负责。（3）安全和资质（Safety and Certification）。包括设置和确定安全门槛，上岗资质要求，网络安全。（4）隐私和权力。人工智能基于模式识别能力、高度精细信息的部署方式等导致更复杂的隐私问题，企业和用户不对称关系导致数据对称或平等隐患。（5）税收和劳动力替代。（6）其他问题，例如机构建设和专业知识，投资和采购，消除责任的障碍，人工智能的心理模型等。[69]2016年美国白宫发布《为人工智能的未来做准备》（Preparing for the Future of Artificial Intelligence）的报告里，建议了23项政策，包括鼓励私立和公共机构研究是否以及如何以有利于社会的方式负责任地利用人工智能和机器学习；联邦机构应优先考虑人工智能中的开放式训练数据和开放数据标准；联邦政府应探索提高关键机构将人工智能应用于其任务的能力的方法；美国国家科学技术委员会（NSTC）机器学习和人工智能小组委员会应为政府内的AI从业者建立一个实践社区；在为使用AI的产品制定监管政策时，各机构应利用适当的高级别技术专家；各机构应使用全方位的人事分配和交换模式（例如雇用机构）来培养联邦劳动力，使其对当前的技术状况有更多不同的看法等。[70]
人工智能对于全球当下和未来影响巨大，特别是具有较大技术风险和社会风险，有鉴于此，相关政策考量更加复杂，也有必要提升层次。目前，发达国家无一例外都将人工智能发展提到发展战略高度，进行系统化的政策引导。一方面，引为科技创新重点，赋予其优先发展的战略地位；另一方面，同时针对技术、社会、国家安全和人类伦理等，引入风险规制政策，积极防范负效益，趋利避害。2013年以来，随着人工智能研发浪潮在全球兴起，美国、英国、德国和日本纷纷将AI上升为国家战略，相继出台相关战略规划，都是旨在争夺AI产业技术制高点。2016年以后，人工智能战略化推进更加明显。我国也不例外，甚至有引领之势。
美国早在奥巴马执政时期就研究人工智能战略，2016年10月，白宫发布《国家人工智能研究和发展战略计划》（National Artificial Intelligence Research and Development Strategil Plan）报告，旨在运用联邦基金资助不断深化对AI的认识和研究，从而使得该技术为社会提供更加积极的影响，减少其消极影响，号称新的“阿波罗登月计划”，同时还发布了《为人工智能的未来做准备》；12月，白宫又跟进《人工智能、自动化与经济》（Artificial Intelligence Automation，and the Economy）报告，认为应对人工智能驱动的自动化经济，是后续政府将要面临的重大政策挑战，下一届政府应该制定政策，推动人工智能发展并释放企业和工人的创造潜力，确保美国在人工智能的创造和使用中的领导地位。[71]2019年2月11日，美国总统特朗普签署《维护美国在人工智能时代的领导地位》（Executive Order on Maintaining American Leadership in Artificial Intelligence）的行政令，启动“美国人工智能倡议”旨在从国家战略层面调动更多联邦资金和资源用于人工智能研发，应对来自“战略竞争者和外国对手”的挑战；美国国防部在2019年2月12日颁布了《2018国防部人工智能战略概要：利用人工智能促进安全与繁荣》（Summary of the 2018 Department of Defense Artificial Intelligence Strategy）；2019年6月，美国白宫更新《国家人工智能研究发展战略计划》，政府人工智能研发战略重点扩展至八个。[72]
2018年3月27日，欧洲委员会下属欧洲政治战略中心发布了《人工智能时代：确立以人为本的欧洲战略》报告，介绍欧洲人工智能发展，提出欧洲应采取的对策。[73]同年4月25日，欧盟委员会向欧洲议会、欧盟理事会等提交《欧盟人工智能报告》，描述欧盟人工智能在国际竞争中的地位，制定2018～2020年以及未来十年欧盟人工智能行动计划，提出三大目标，即“加强公共部门和私营部门AI投资，增强欧盟的技术与产业能力，推进人工智能应用”、“为迎接社会经济变革做好准备”以及“确立合适的伦理和法律框架”。[74]英国在2016年先后发布了《人工智能对未来决策的机会和影响》（Artificial Intelligence：Opportunities and Implications for the Future of Decision Making）[75]和《机器人技术和人工智能》（Robotics，Automation and Artificial Intelligence）；[76]2017年11月，发布《产业战略》，提到“人工智能与数据经济”的挑战；2018年4月26日，发布《产业战略：人工智能领域行动》对该部分相关想法、人民、基础设施、商业环境、地区五个生产力基础领域制定具体行动措施。[77]2018年11月15日，德国联邦政府正式发布了其人工智能战略，提出“人工智能德国制造”，全面思考了人工智能对社会各领域的影响，定量分析了人工智能给制造业带来的经济效益，重视AI在中小企业中的应用，并计划在2025年前联邦层面投入30亿欧元。[78]
我国自2015年以来就开始出台系列文件支持人工智能发展，2017年7月20日，国务院发布《新一代人工智能发展规划》（以下简称《规划》），旨在抢抓人工智能发展的重大战略机遇，构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国。《规划》提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，提出了“三步走”战略目标。即2020年实现“人工智能总体技术和应用与世界先进水平同步”，初步建成人工智能技术标准、服务体系和产业生态链，人工智能核心产业规模超过1500亿元，带动相关产业规模超过1万亿元；2025年，人工智能产业进入全球价值链高端，人工智能核心产业规模超过4000亿元，带动相关产业规模超过5万亿元；2030年，人工智能产业竞争力达到国际领先水平，人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。《规划》要求应对挑战，确保人工智能安全、可靠、可控发展，提出要重视人工智能法律伦理的基础性研究。[79]2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南，积极推动人工智能全球治理。[80]
五 结语：加快制定人工智能科技特别法
人类社会总是在向前发展着，特别是基于科技革命而进入工业文明之后甚至形成迭代发展态势，到今天则呈现加速迭代发展之势，在这种情况下，法律本身也出现需要不断发展、迭代发展和加速迭代发展的特点。但是值得注意的是，法律的每个阶段发展，或者是每个方面的发展，始终以一种维护法律稳定性的方式向前演化，遵循自身的体系轨迹，不到万不得已，通常不会，也不该完全打破既有体系重来。旧法与新法的关系，就好比维特根斯坦所说的绳索论，每一截新的绳索与前一截可能并不相同，但却相互联系着，构成了一种家族相似性。[81]
当前的人工智能立法也是这样，应该以一种历史与当下联系的发展思维加以对待。人工智能今天发展到了机器学习阶段，正在发生着作为第四次工业革命表征科技的巨大作用，同时因其具有与人类相通认知能力的特点，还产生了与人类命运的特殊伦理关联。在这种意义上，人工智能发展势必引发如何跟进合理规范的问题。人类自工业革命开始，就在普通法律之外，关注到科技作为特殊规范事项的独特意义，发展出专门的科技法，并且从科技市场法到工业生产安全法、事故责任法、特殊科技风险法再到科技政策法的不断叠加，多次迭代发展形成了现在具有稳定价值和内容的规范体系。当前的人工智能基于其为科技事物的本质，理所当然应当纳入科技法范畴加以评价，在因循现行科技法的基础上再加以正确的发展思维，合理地探索自身具体的发展性和特殊性。
本文认为，鉴于人工智能作为新兴重大科技，正在以其非同寻常的发展潜力和特点，显著塑造社会生产和生活方式，包括改变财富分配和社会组织方式，甚至挑战着人与人造物的既有关系。这种改变和挑战，随着人工智能技术不断提升，认知能力也不断升级，进而导致规范发展和应对的迫切性。上文第四部分通过相关分析梳理显示，人工智能需要规范的新问题可谓巨量，而且还在不断增加。在此，建议尽早制定专门的人工智能法，以人工智能科技作为特殊规范对象，并作为科技法的特别法而定位，从人工智能的科技市场、科技风险和科技政策等具体问题入手，通过对既有科技法价值的继承和发展，对既有科技法规则的具体化和合理变化，形成一套专门适用于人工智能研发和应用的具体规范体系，以备现实人工智能法律实践所需。其中，人工智能立法的伦理性具有前所未有的复杂性，反映着我们在开发和应用这种具有与人相通的科技时如何能够确保我们人类自身不受危害和威胁的需要。我国目前有关方面已经将人工智能立法项目纳入了立法规划，值得拭目以待。[82]
[1] 本文原载《法商研究》2020年第1期（总第195期）。
[2] 龙卫球，北京航空航天大学法学院院长、教授、博士生导师，北京科技创新中心研究基地首席专家。
[3] 参见European Political Strategy Centre of the EU Commission，The Age of Artificial Intelligence：Towards a European Strategy for Human-CentricMachines，https：//ec.europa.eu/epsc/publications/strategic-notes/age-artificial-intelligence_en，最后访问日期：2019年10月2日。
[4] 参见乌镇智库《全球人工智能发展报告（2018）》，http：//www.sohu.com/a/312958560_100065989，最后访问日期：2019年10月8日。
[5] 参见吴汉东《人工智能时代的制度安排与法律规制》，《法律科学》2017年第5期；季卫东：《人工智能时代的司法权之变》，《东方法学》2018年第1期；马长山：《智能互联网时代的法律变革》，《法学研究》2018年第4期；左卫民：《热与冷：中国法律人工智能的再思考》，《环球法律评论》2019年第2期。
[6] 参见龙文懋《人工智能法律主体地位的法哲学思考》，《法律科学》2018年第5期；熊琦：《人工智能生成内容的著作权认定》，《知识产权》2017年第3期；王迁：《论人工智能生成的内容在著作权法中的定性》，《法律科学》2017年第5期。
[7] 参见於兴中《算法社会与人的秉性》，《中国法律评论》2018年第2期；张凌寒：《商业自动化决策的算法解释权研究》，《法律科学》2018年第3期；张凌寒：《算法权力的兴起、异化及法律规制》，《法商研究》2019年第5期；林洹民：《自动决策算法的法律规制：以数据活动顾问为核心的二元监管路径》，《法律科学》2019年第3期。
[8] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第3页。
[9] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第3页。
[10] 互联网兴起中，有两个重要的事件起到了引领作用：一是位于加州的一家小公司即网景公司（Netscape），创造了第一个重要的网页浏览器（我们今天常用的是后来的IE）并且打造电子邮件；二是英国物理学家蒂姆·伯纳斯-李提出了万维网概念。
[11] 参见〔美〕托马斯·弗里德曼《世界是平的》，何帆、肖莹莹、郝正非译，湖南科学技术出版社，2006。该书提出“世界是平的”的观点。
[12] 艾伦·麦席森·图灵（A.M. Turing，1912-1954）是英国数学家、逻辑学家，被称为计算机科学之父。1950年，他发表著名的“机器能思考吗”一文，预言创造出具有真正智能的机器的可能性，并提出著名的“图灵测试”。为此，图灵被称为“人工智能之父”。参见A. M. Turing，Computing Machinery and Intelligence，Mind，Vol. 49，1950，pp.433-460。
[13] 参见陈海虹、黄彪、刘峰、陈文国《机器学习原理及应用》，电子科技大学出版社，2017，第2～19页。
[14] 参见麦肯锡报告《2016年人工智能投资超300亿美元，正进入最后突破阶段》，亿欧网，https：//www.iyiou.com/p/48002.html，最后访问日期：2019年9月7日。
[15] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第141页。
[16] 关于“弱人工智能”（TOP-DOWN AI），通常的解释是认为基于此不可能制造出能真正地推理和解决问题的智能机器，它们像是智能的，但是并不真正拥有智能或自主意识。对应的是“强人工智能”（BOTTOM-UP AI）。
[17] 参见Stuart Russell，“Artificial Intelligence：The Future is Superintelligent”（Review of Life 3.0 by Max Tegmark），Nature，31 August，2017，p.548，pp.520-521.
[18] 参见Yudkowsky，Eliezer，“Intelligence Explosion Microeconomics”，Technical Report 2013-1，Machine Intelligence Research Institute，Sep. 13，2013；Bostrom，Nick，Superintelligence：paths，Dangers，Strategies，Oxford University Press，July 3，2014.
[19] 夏妍娜、赵胜：《中国制造2025：产业互联网开启新工业革命》，机械工业出版社，2016，第146页。
[20] 参见Brooks，Rodney，“Artificial Intelligence is a Tool，Not a Treat”，Rethink Robotics Blog，Nov. 10，2014，http：//www. rethinkrobotics.com/artificial-intelligence-tool-treat/；Madrigal Alexis，“The Case Against Killer Robots，form a Guy Actually Working on Artificial Intelligence”，Fusion，Feb. 27，2015，http：//fusion.net/story/54583/the-case-against-killer-robots-from-a-guy-actually-building-ai/。
[21] 参见〔美〕罗宾·汉森：《机器时代：机器人统治地球后的工作、爱情和生活》，刘雁译，机械工业出版社，2018，第53～54页。
[22] 参见夏妍娜、赵胜《中国制造2025：产业互联网开启新工业革命》，机械工业出版社，2016，第91页。
[23] 参见〔美〕罗宾·汉森《机器时代：机器人统治地球后的工作、爱情和生活》，刘雁译，机械工业出版社，2018，第16页。
[24] 参见〔英〕克利斯·弗里曼、〔英〕罗克·苏特《工业创新经济学》，华宏勋、华宏慈译，北京大学出版社，2004，第379页。
[25] 参见刘立《科技政策学研究》第7章“工业研究实验室的起源和发展”，北京大学出版社，2011，第69页及以下。
[26] 后来居上的美国发展两种大量生产的主要方法。第一种方法出现在19世纪，是先制造标准的、可互换的零件，然后以最少量的手工劳动把这些零件装配成完整的单位。例如伊莱·惠特尼的滑膛枪制造法。第二种方法出现在20世纪初，是设计出“流水线”。例如，亨利·福特发明的能将汽车零件运送到装配工人所需要的地点的环形传送带。
[27] Guston，David，H.，Between Politics and Science：Assuring the Integrity and Productivity of Research，Cambridge University Press，2000，p.175.
[28] 参见刘立《科技政策学研究》，北京大学出版社，2011，第97～102页。
[29] 参见吴汉东《科技、经济、法律协调机制中的知识产权法》，《法学研究》2001年第6期。
[30] 参见刘立《科技政策学研究》第八章“专利制度的历史演进”，北京大学出版社，2011，第88～96页。
[31] 美国学者约翰·法比安·维特在《事故共和国》一书中指出，在1880年到1910年，美国经历了世界历史上工业国家内最最严重的工作事故率，因此迫使其必须走上管制工厂安全风险的道路，建立工厂安全有效的法律制度成为工业美国20世纪法治发展的试金石；到了60年代，在健全工业事故灾害法的基础上，才着手应对更加复杂的科技风险调整，例如环境风险。参见〔美〕约翰·法比安·维特《事故共和国：残疾的工人、贫穷的寡妇与美国法的重构》，田雷译，上海三联出版社，2008。
[32] 例如，英国在1937年、1948年、1959年、1961年四次修改了《工厂法》，1974年、1975年1月和4月分三次颁布了《劳动安全卫士法》。日本也在1914年制定现代意义的工厂法，并在1923年修改，二次大战后颁布《劳动基准法》，用一章规定劳动安全卫生法规，并在1972年颁布《劳动安全卫生法》。美国国会1970年在工伤事故和职业性危害日益严重，特别是见证铀矿工人的悲惨遭遇的背景下，不再顾虑雇主反对，通过了统一的《职业安全卫生法》，由尼克松签署生效，改变了过去只由各州制定相关立法的局面。此外，联邦德国在1974年颁布了《职业安全法》，加拿大在1978年颁布了《职业卫生与安全法》等。
[33] 参见刘立《科技政策学研究》，北京大学出版社，2011，第89页。关于知识产权战略话题，可以参见陈昌柏《知识产权战略：知识产权资源在经济增长中的优化配置》（第二版），科学出版社，2009；关于知识产权的国际化，可以参见吴汉东《知识产权国际保护制度的变革与发展》，《法学研究》2005年第3期。
[34] 1944年，负责美国科学研究与发展局（Office of Scientific Research and Development，OSRD）的布什（Vannevar Bush）主持完成了《科学：没有止境的前沿》的报告，提出科学的进步是维护国家安全、提升人民健康、创造就业、实现更高生活水准以及文化进步的关键，因此建议设立国家研究基金会，发展和促进国家的科学研究和科学教育政策。参见刘立《科技政策学研究》，北京大学出版社，2011，第99～100页。
[35] 参见陈劲《科学、技术与创新政策》，科学出版社，2013，第230页。
[36] 参见龙卫球《科技创新需要法治保障》，《群言》2019年第3期。
[37] 参见刘立《科技政策学研究》，北京大学出版社，2011，第107页。
[38] 参见中共中央、国务院1995年《关于加速科学技术进步的决定》和1999年《关于加强技术创新、发展高科技、实现产业化的决定》。
[39] 参见2006年《国家中长期科学和技术发展规划纲要（2006～2020年）》以及中共中央、国务院《关于实施科技规划纲要增强自主创新能力的决定》。
[40] 2006年公布的《国家中长期科学和技术发展规划纲要（2006～2020年）》提出，要在15年内进入创新型国家行列。2012年11月，中共十八大明确提出，科技创新是提高社会生产力和综合国力的战略支撑，必须摆在国家发展全局的核心位置，同时，强调要坚持走中国特色自主创新道路，实施创新驱动发展战略，随后，中共中央、国务院即印发了《关于深化科技体制改革加快国家创新体系建设的意见》。2016年8月，国务院发布了《“十三五”国家科技创新规划》，明确了“十三五”时期科技创新的总体思路、发展目标、主要任务和重大举措。2017年，中共十九大报告将创新放在新发展理念之首，指出创新是引领发展的第一动力，是建设现代化经济体系的战略支撑。
[41] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第八章“人工智能与机器人”，第141～155页。
[42] 参见〔英〕约瑟夫·拉兹《法律的权威》，朱峰译，法律出版社，2005，第185页。
[43] Friedrich A. Hayek，The Road to Selfdom，London Press，1944，p.54.
[44] 参见〔英〕H.L.A.哈特《法理学与哲学论文集》，支振锋译，法律出版社，2005，第12篇，第285页。
[45] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第148页。
[46] 参见蒋芬、魏建良《网上技术市场：理论与实践》，科学出版社，2015，第5章和第6章，第71～110页。
[47] 参见欧盟委员会《关于“欧盟合作式智能交通系统战略”的通讯》，第8页，https：//eur-lex.europa.eu/legal-content/EN/TXT/PDF/？uri=CELEX：52016DC0766&from=EN，最后访问日期：2019年10月8日。
[48] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第153页。
[49] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第10～11页。
[50] 参考借鉴《网络安全法》第33条关于关键信息基础设施的运行规范要求。
[51] 参见《德国工厂发生首期“机器人杀人案”》，腾讯科技网，https：//tech.qq.com/a/20150702/015801.htm，最后访问日期：2019年10月7日。
[52] FTC还建议对企业考察以下问题：数据集是否具有代表性？所使用的数据模型是否会导致偏见？基于大数据进行预测的准确性如何？对大数据的依赖是否会导致道德或者公平性问题？参见曹建峰《人工智能：道德外包与“黑箱”中的算法歧视》，https：//www.tisi.org/4798，最后访问日期：2019年10月8日。
[53] 参见〔美〕罗宾·汉森《机器时代：机器人统治地球后的工作、爱情和生活》，刘雁译，机械工业出版社，2018，第25页。
[54] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第154页。
[55] 控制论之父维纳在其名著《人有人的用处：控制论与社会》中认为，自动化技术和智能机器的趋势是要在所有层面上取代人类，而不是只是用机器能源和力量取代人类的能源和力量，很显然这种新的取代将对我们的生活产生深远影响。这里就是指可能会导致与人混淆的伦理威胁。参见〔美〕维纳《人有人的用处：控制论与社会》，陈步译，北京大学出版社，2010。
[56] 2015年，欧洲议会向欧洲委员会提出一份关于机器人民事规则的建议，Report with recommendations to the Commission on Civil Law Rules on Robotics（2015/2103（INL）），http：//www. europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html？redirect。关于机器人相关法律地位精彩的研究，可以参考〔意〕乌戈·帕加罗《谁为机器人的行为负责》，张卉林、王黎黎译，上海人民出版社，2018。
[57] 参见宁宣凤、吴涵等《人工智能系列开篇：伦理准则与现行规制》，金杜研究院微信公众号，2019年9月21日发表。
[58] 参见〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第31页以下。
[59] 参见百度的“机器人学三定律”词条，https：//baike.baidu.com/item/%E6%9C%BA%E5%99%A8%E4%BA%BA%E5%AD%A6%E4%B8%89%E5%AE%9A%E5%BE%8B/10969803？fr=aladdin，最后访问日期：2019年10月8日。
[60] 引自联合国教科文组织总干事阿祖莱在2019年3月初举办的“推动人性化人工智能全球会议”的观点。参见杨骏《超越“机器人三定律”人工智能期待新伦理》，http：//www.xinhuanet.com//2019-03/18/c_1124249611.htm。
[61] 〔德〕克劳斯·施瓦布、〔澳〕尼古拉斯·戴维斯：《第四次工业革命——行动路线图：打造创造型社会》，世界经济论坛北京代表处译，中信出版社，2018，第36页。
[62] 参见IEEE《合伦理设计：利用人工智能和自主系统（AI/AS）最大化人类福祉的愿景》，https：//engagestandards.ieee.org，最后访问日期：2019年10月8日。
[63] https：standards.ieee.org/news/2017/ead_v2.html.
[64] 参见US Leadership in AI：A Plan for Federal Engagement in Developing Technical Standards and Related Tools，https：//www.nist.gov/topics/artificial-intelligence，最后访问日期：2019年10月8日。
[65] 参见https：//ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai，最后访问日期：2019年10月8日。
[66] 参见赵娜亚《欧盟抢先发布人工智能道德准则：AI要以人为本，负责任且无偏见》，https：//www.guancha.cn/internation/2019_04_09_496946.shtml；方莹馨：《欧盟发布人工智能伦理准则》，http：//www.xinhuanet.com//tech/2019-04/11/c_1124350837.htm，最后访问日期：2019年10月8日。
[67] 参见国务院《新一代人工智能发展规划》，http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm，最后访问日期：2019年10月8日。
[68] 参见《腾讯发布人工智能伦理报告 倡导面向人工智能的新的技术伦理观》，https：//tech.qq.com/a/20190711/004971.htm，最后访问日期：2019年10月8日。
[69] 参见〔美〕雷恩·卡罗、郑志峰《人工智能政策：入门与路线图》，《求是学刊》2019年第2期。
[70] 参见White House HOTP，Preparing for the Future of Artificial Intelligence，https：//www. whitehouse.gov/sites/whitehouse.gov/files/images/EMBARGOED%20AI%20Economy%20Report.pdf。
[71] 参见孙那《超级大国的AI雄心：解读美国〈国家人工智能研究和发展战略计划〉》，https：//www.tisi.org/4796。
[72] 参见Executive Order on Maintaining American Leadership in Artificial Intelligence（American AI Initiative 2019），https：//www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/。
[73] 参见European Political Strategy Centre of the EU Commission，The Age of Artificial Intelligence：Towards a European Strategy for Human-Centric Machines，https：//ec.europa.eu/epsc/publications/strategic-notes/age-artificial-intelligence_en，最后访问日期：2019年10月2日。
[74] 参见Nicos Komninos，Artificial Intelligence for Europe，https：//www.urenio.org/2018/05/05/artificial-intelligence-for-europe/。
[75] 参见Artificial Intelligence：Opportunities and Implications for the Future of Decision Making，https：//philpapers.org/rec/GOVAIO。
[76] 参见Robotics，Automation and Artificial Intelligence，https：//www.gov.uk/government/publications/robotics-automation-and-artificial-intelligence。
[77] 参见Industrial Strategy：Artificial Intelligence Sector Deal，https：//www.gov.uk/government/publications/artificial-intelligence-sector-deal/ai-sector-deal。
[78] 参见Strategie Künstliche Intelligenz der Bundesregierung，https：//www.bmbf.de/files/Nationale_KI-Strategie.pdf。
[79] 参见国务院《新一代人工智能发展规划》，http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm。
[80] 参见谷业凯《我国发布〈治理原则〉发展负责任的人工智能》，http：//finance.sina.com.cn/roll/2019-06-18/doc-ihvhiqay6393300.shtml。
[81] 关于维特根斯坦家族相似概念的理解，请参见蔡祥元《语言游戏确定性的根源——对维特根斯坦“家族相似”概念的再澄清》，《现代哲学》2016年第6期。关于维特根斯坦后期规则理论的认识，可参见胡雯《从维特根斯坦的规则观看其后期确定性思想》，《东南学术》2019年第5期。胡文认为，维特根斯坦后期在《哲学研究》中关于规则与“遵守规则悖论”的讨论，充分体现了对意义的一种“合宜的”外在确定性与一种“基础的”内在确定性的追求。
[82] 2019年3月4日，十三届全国人大二次会议举行新闻发布会，大会发言人张业遂表示，已将与人工智能密切相关的立法项目列入立法规划。参见新京报《人工智能立法提速把握“边界”是关键》，https：//baijiahao.baidu.com/s？id=1627085573194397300，最后访问日期：2019年10月2日。