法律与人工智能高级导论

伍德罗??巴菲尔德和乌戈??帕加洛简要介绍了与人工智能 (AI) 的设计和使用相关的法律问题，探讨了人工智能应用与人权、宪法、数据保护、刑法、侵权法和知识产权法等相关的问题，同时比较研究了美国、欧盟、日本和中国在内的多个法域的法律法规和判例法。

重点内容包括：

?? 对可能受人工智能影响的人权和宪法问题的批判性见解；

?? 讨论法人的概念，以及随着人工智能在智能方面的发展，法律如何应对；

?? 介绍适用于人工智能的现行法律法规，并确定未来可能对法律提出挑战的领域。

这本高级导论非常适合对法律如何应用于人工智能感兴趣的法律和社会科学学生。它还为寻求了解这一新兴领域的法律从业者提供了有用的切入点。

作者简介：

伍德罗??巴菲尔德（Woodrow Barfield）

拥有工科博士（Ph.D. in engineering）、法律博士（J.D.）和法律硕士（LL.M.）等学位，系《虚拟现实》（Virtual Reality）杂志编辑和《人工智能前沿》（Frontiers in Artificial Intelligence）的评审编辑以及《德尔菲：新兴技术跨学科评论》（Delphi: Interdisciplinary Review of Emerging Technologies）编委会成员，曾任美国华盛顿大学工程学教授。

乌戈??帕加洛（Ugo Pagallo）

意大利都灵大学法律系法学教授，欧盟责任与新技术专家组成员。他还与欧盟科学、媒体和民主研究所合作参与“民享人工智能”（AI4People）项目，这是欧洲设立的首*有关人工智能社会影响的全球论坛。帕加洛还与IEEE人工智能与自主系统的伦理考量全球计划、法国斯特拉斯堡的欧洲科学基金会等机构合作。

译者简介：

苏苗罕，中国社会科学院法学博士，同济大学法学院副教授、上海市人工智能社会治理协同创新中心研究员、上海金融与法律研究院研究员，主要研究方向为行政法、信息法和能源法。曾在英国诺丁汉大学、美国行政会议、美国美利坚大学华盛顿法学院从事访问研究工作。独译Richard J. Pierce, Jr.著《行政法》（第五版）三卷本，合译《规制及其改革》《何谓法律：美国最高法院中的宪法》《英国行政法（第十版）》，校译《自然法与自然权利》《规制：法律形式与经济学理论》《政府监管的新视野：英国监管机构的十大样本考察》。

丛书序

当前，在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，新一代人工智能正在全球蓬勃发展，推动着经济社会各领域从数字化、网络化向智能化加速跃升。作为新一轮产业变革的核心驱动力，人工智能正深刻改变着人类的生产生活和消费方式以及思维模式，为经济发展和社会建设提供了新动能新机遇。

人工智能是影响面广的颠覆性技术，具有技术属性和社会属性高度融合的特征。它为经济社会发展带来了新机遇，也带来了新挑战，存在改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。从国内外发展来看，人工智能的前期研发主要是由其技术属性推动，当其大规模嵌入到社会与经济领域时，其社会属性有可能决定人工智能技术应用的成败。“技术”+“规则”成为了各国人工智能发展的核心竞争力。各国在开展技术竞争的同时，也在人工智能治理方面抢占制度上的话语权和制高点。因此，在大力发展人工智能技术的同时，我们必须高度重视其社会属性，积极预防和有效应对其可能带来的各类风险挑战，确保人工智能健康发展。

人工智能是我国重大的国家战略科技力量之一，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。我国在加大人工智能研发和应用力度的同时，高度重视对人工智能可能带来挑战的预判，最大限度地防范风险。习近平总书记多次强调，“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”。2017年国务院发布的《新一代人工智能发展规划》也提出，要“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”，并力争“到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系”。近年来，我国先后出台了《网络安全法》《数据安全法》《个人信息保护法》等一系列相关的法律法规，逐渐完善立法供给和适用；发布了《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》，为从事人工智能相关活动的主体提供伦理指引。标准体系、行业规范以及各应用场景下细分领域的规制措施也在不断建立与完善。

人工智能产业正在成为各个地方经济转型的突破口。就上海而言，人工智能是上海重点布局的三大核心产业之一。为了推动人工智能“上海高地”建设，上海市先后出台了《关于本市推动新一代人工智能发展的实施意见》《关于加快推进人工智能高质量发展的实施办法》《关于建设人工智能上海高地 构建一流创新生态的行动方案（2019-2021年）》《上海市人工智能产业发展“十四五”规划》等政策文件。这些文件明确提出要“逐步建立人工智能风险评估和法治监管体系。开展人工智能领域信息安全、隐私保护、道德伦理、法规制度等研究”；“打造更加安全的敏捷治理，秉承以人为本的理念，统筹发展和安全，健全法规体系、标准体系、监管体系，更好地以规范促发展，为全球人工智能治理贡献上海智慧，推动人工智能向更加有利于人类社会的方向发展。”此外，上海还制定和发布了《上海市数据条例》和《人工智能安全发展上海倡议》，并且正在推进人工智能产业发展和智能网联汽车等应用场景的立法工作，加强协同创新和可信人工智能研究，为上海构建人工智能治理体系和实现城市数字化转型提供了强大的制度和智力支撑。

重视人工智能伦理、法律与治理已成为世界各国的广泛共识。2021年联合国教科文组织通过了首份人工智能伦理问题全球性协议《人工智能伦理问题建议书》，倡导人工智能为人类、社会、环境以及生态系统服务，并预防其潜在风险。美国、欧盟、英国、日本也在积极制定人工智能的发展战略、治理原则、法律法规以及监管政策，同时相关的研究也取得了很多成果。但总体而言，对人工智能相关伦理、法律与治理问题的研究仍处于早期探索阶段，亟待政产学研协同创新，共同推进。

首先，人工智能技术本身正处于快速发展阶段。在新的信息环境下，新一代人工智能呈现出大数据智能、群体智能、跨媒体智能、混合增强智能和智能无人系统等技术方向和趋势。与此同时，与人工智能相关的元宇宙、Web3.0、区块链、量子信息等新兴科技迅速发展并开始与经济社会相融合。技术的不断发展将推动各领域的应用创新，进而将持续广泛甚至加速影响人类生产生活方式和思维模式，会不断产生新的伦理、法律、治理和社会问题需要理论与实务的回应。

其次，作为一种新兴颠覆性技术，人工智能是继互联网之后新一代“通用目的技术”，具有高度的延展性，可以嵌入到经济社会的方方面面。新一代人工智能的基本方法是数据驱动的算法，随着互联网、传感器等应用的普及，海量数据不断涌现，数据和知识在信息空间、物理空间和人类社会三元空间中的相互融合与互动将形成各种新计算，这些信息和数据环境的变化形成了新一代人工智能发展的外部驱动力。与此同时，人工智能技术在制造、农业、物流、金融、交通、娱乐、教育、医疗、养老、城市运行、社会治理等等经济社会领域具有广泛的应用性，将深刻地改变人们的生产生活方式和思维模式。我们可以看到，人工智能从研究、设计、开发到应用的全生命周期都与经济社会深深地融合在一起，而且彼此互动和影响将日趋复杂，这要求我们的研究也需要不断扩大和深入。

再次，我们不能仅仅将人工智能看成是一项技术，而更应该看到以人工智能为核心的智能时代的大背景。人类社会经历了从农业社会、工业社会再到信息社会的发展，当前我们正在快步迈向智能社会。在社会转型的时代背景下，以传统社会形态为基础的社会科学各学科知识体系需要不断更新迭代，以有效地研究、解释与解决由人工智能等新兴技术所引发的新的社会问题。在这一意义上，人工智能伦理、法律与治理的研究不仅可以服务于人工智能技术的发展，而且也给哲学、经济学、管理学、法学、社会学、政治学等社会科学带来了自我审视、自我更新、自我重构的机遇。在智能时代下如何发现新的研究对象和研究方法，从而更新学科知识，重构学科体系，这是社会科学研究的主体性和自主性的体现。这不仅关涉个别二级学科的研究，更是涉及一级学科层面上的整体更新，甚至需要多个学科交叉融合的研究。从更广阔和长远的视角来看，以人工智能为核心驱动力的智能社会转型为社会科学学科知识的更新迭代提供了良好契机。

纵观世界各国，人工智能技术的发展已经产生了广泛的社会影响，遍及认知、决策、就业和劳动、社交、交通、卫生保健、教育、媒体、信息获取、数字鸿沟、个人数据和消费者保护、环境、民主、法治、安全和治安、社会公正、基本权利（如表达自由、隐私、非歧视与偏见）、军事等众多领域。但是，目前对于人工智能技术应用带来的真实社会影响的测量和评价仍然是“盲区”，缺乏深度的实证研究，对于人工智能的治理框架以及对其社会影响的有效应对也需要进一步细化落地。相较于人工智能技术和产业的发展，关于人工智能伦理、安全、法律和治理的研究较为滞后，这不仅会制约我国人工智能的进一步发展，而且会影响智能时代下经济社会的健康稳定发展。整合多学科力量，加快人工智能伦理、法律和治理的研究，提升“风险预防”和“趋势预测”能力，是保障人工智能高质量发展的重要路径。我们需要通过政产学研结合的协同创新研究，以社会实验的方法对人工智能的社会影响进行综合分析评价，建立起技术、政策、民众三者之间的平衡关系，并通过法律法规、制度体系、伦理道德等措施反馈于技术发展的优化，推动“人工智能向善”。

在此背景下，2021年新一轮上海市协同创新中心建设中，依托同济大学建设的上海市人工智能社会治理协同创新中心正式获批成立。中心依托学校学科交叉融合的优势以及在人工智能及其治理领域的研究基础，汇聚法学、经管、人文、信息、自主智能无人系统科学中心等多学科和单位力量，联合相关协同单位共同开展人工智能相关法律、伦理和社会问题研究与人才培养，为人工智能治理贡献上海智慧，助力上海城市数字化转型和具有全球影响力的科技创新中心建设。

近年来，同济大学在人工智能研究和人才培养方面始终走在全国前列。目前学校聚集了一系列与人工智能相关的国家和省部级研究平台，包括：依托同济大学建设的教育部自主智能无人系统前沿科学中心，作为技术和研究主体的国家智能社会治理实验综合基地（上海杨浦），依托学校建设的上海自主智能无人系统科学中心、中国（上海）数字城市研究院、上海市人工智能社会治理协同创新中心，等等；2022年同济大学获批建设“自主智能无人系统”全国重点实验室。这些平台中既有涉及人工智能理论、技术与应用领域，也有涉及人工智能伦理、法律与治理领域，兼顾人工智能的技术属性和社会属性，面向智能社会发展开展学科建设和人才培养。同时，学校以人工智能赋能传统学科，推动传统学科更新迭代，实现多学科交叉融合，取得了一系列创新成果。在人才培养方面，学校在全国首批获得“人工智能”本科专业建设资格，2021年获批了“智能科学与技术”交叉学科博士点，建立了人工智能交叉人才培养新体系。

由上海市人工智能社会治理协同创新中心组织策划和资助出版的这套“人工智能伦理、法律与治理”系列丛书，聚焦人工智能相关法律、伦理、安全、治理和社会问题研究，内容涉及哲学、法学、经济学、管理学、社会学以及智能科学与技术等多个学科领域。我们将持续跟踪人工智能的发展及对人类社会产生的影响，充分利用学校的研究基础和学科优势，深入开展研究，与大家共同努力推动人工智能持续健康发展，推动“以人为本”的智能社会建设。

编委会

2022年8月8日

题献 8

致谢 8

法律与人工智能导论 13

第一章 定义、行为主体和概念 21

1 引言 21

2 人工智能的定义与行为主体 21

2.1限制领域人工智能与通用人工智能 25

2.2 图灵测试 26

3 人工智能的不同类型 29

3.1算法 29

3.2 专家系统 30

3.3 机器学习 33

4 法律与人工智能的概要 34

第二章 人权考量 36

1 引言 36

1.1 人权框架 38

2 联合国的人权工作 39

3 人工智能、算法和歧视 43

4 人权法的法源 45

4.1人权法院和宣言 46

5 代表性法院判决 49

5.1 美国判例 49

5.2 欧盟判例 53

6 概要 56

第三章 宪法挑战 58

1 引言 58

2 欧盟的人工智能与宪法权利 58

3 美国宪法 62

3.1第一修正案：言论自由权 64

3.2 第四修正案：搜查和扣押 68

3.3 第五修正案：正当程序 71

第四章 法律人格和人工智能 77

1 引言 77

2.2 赋予人工智能人格权的开放立场 82

2.3 赋予人工智能以人格权的反对者立场 84

3 概念的解析 86

4 人和各类行为体（AGENTS） 88

5 美国法的考察 90

6 结语 91

第五章 数据保护问题 93

1 引言 93

2 《通用数据保护条例》遭遇人工智能 95

2.1 最终性 96

2.2 最小化 96

2.3 自动化处理 97

2.4 通过设计的和默认的数据保护 98

2.5 控制者 99

3 执法 100

4合理期待和市场 102

5 结语 105

第六章 侵权法 107

1 引言 107

2 人工智能遭遇欧盟侵权法 109

3 场景依赖 111

3.1自动驾驶汽车的侵权责任 111

3.2 无人机的侵权责任 114

4 普遍挑战 116

5 结语 118

第七章 刑法 121

1 引言 121

2公平审理的原则 122

3 基于人工智能的新犯罪 126

4 新的罪犯 128

5 结语 131

第八章 著作权法 134

1 引言 134

1.1 人工智能的署名权问题 134

2 著作权判例 138

3 著作权的独创性标准 142

4 雇佣作品原则 147

5 结语 148

第九章 专利法 152

1 引言 152

2 专利的基础问题 154

2.1 可专利客体 156

2.2 具有通常技术者 159

2.3 谁是发明人？ 161

3 软件的专利权问题 162

3.1 软件专利的技术影响要求 163

3.2 欧洲专利局案例 164

3.3 对算法授予专利的美国路径 166

4 其他专利权问题 167

5 专利法和人工智能概要 167

第十章 商法、反垄断和商业秘密 170

1 对人工智能适用商法 170

1.1 商业交易的规制 171

2 反垄断法和人工智能 174

2.1 有关兼并与共谋的关切 174

3 商业秘密法 176

3.1 要求 177

3.2 商业秘密的规制机构 178

3.3 基本权利的保护 179

第十一章 展望：迈向人工智能法 181

1 引言 181

2 人工智能法的更多挑战 183

3 人工智能的法律治理 185

4 结语 188

索引 190