人工智能与法律的对话 2

本书深入研究了人工智能对法律制定、法律应用所带来的众多挑战，并在此基础上提出了相应的解决方案。第一部分探讨了规制人工智能的相关基础理论问题，并得出如下结论：在数据保护上，立法者有义务规范国家对数据的处理，规范人工智能的使用，从而尽可能保护基本权利。在个人自决上，应通过直接或间接的法律手段予以回应自动决策系统的巨大风险。在透明度上，建议借鉴相关不透明决策系统的规制经验。在反歧视上，需要从因果关系证明、弱势群体概念等内容出发，对法律进行部分调整。在法律人格上，当智能代理人承担类似老练仆人的功能时，就可以视为法律主体。第二部分从人工智能的具体应用领域出发，在具体场景中探讨人工智能的规制，并探讨了以下问题：在社交媒体中，越来越多地使用人工智工具所产生的法律问题。在法律科技中，重新构建法治并将其嫁接到技术之上的问题。在行政决定中，建立与机器学习算法相适应的内在规则问题。在智慧执法中，可问责性、非歧视以及法律执行问题。在金融市场中，人工智能技术的应用前景及其难题。在公共治理中，确定人工智能系统准则的问题。在税收程序中，从风险管理系统的角度研究完全自动化税收程序的问题。在医疗保健中，作为医疗器械的学习机器在监管中的角色、使用人工智能医疗系统时的医患关系及责任问题。在竞争法中，人工智能会产生的默契合谋、滥用市场支配地位以及卡特尔化的系统性倾向等问题。

编者[德]托马斯??威施迈耶（Thomas Wischmeyer）是比勒费尔德大学公法和信息法助理教授，讲授欧洲和德国宪法、行政法和法律理论。当前研究方向是信息安全及信息社会中的法。[德]蒂莫??拉德马赫（Timo Rademacher）是汉诺威大学公法与新技术学科的助理教授，讲授欧洲和德国的宪法、信息法。当前研究方向是大数据分析的监管框架。译者为：华东政法大学法律学院特聘副研究员韩旭至、上海市科学学研究所副研究员李辉、上海大学法学院讲师金枫梁、大连海洋大学法律与人文学院副教授王黎黎、中共上海市委党校讲师徐涛、东南大学法学院讲师余涛。

人工智能似乎已经颠覆了我们的日常生活，判断其使用是否符合现有法律规范变得越来越困难。本书分析了人工智能给个人和社会带来的事实和法律上的挑战，讨论了应对此问题的相关基础理论，从具体应用场景出发提出了规制建议，旨在不抑制技术发展潜力的同时保留其可问责性、合法性和透明度。社交媒体、自动化决策、金融市场、公共管理、医疗保健……

十大应用场景，法律与AI同行。通过理论与具体应用场景的实践分析，以求在机遇与风险中，发展负责任的人工智能。

主编序/1

本书作者/1

序人工智能向善/1

导

论人工智能对法律与规制的挑战

一、 人工智能的应用领域/2

二、 影响的程度/2

三、 法律问题/4

四、 治理模式/5

五、 通过数字善治以履行国家责任/7

六、 法律有效实施的障碍/14

七、 制度及规制的类型/17

八、 作为法律措施替代或补充的道德标准/22

九、 论跨国法的必要性/23

第一部分规制人工智能的基础

第

一

章人工智能与数据保护的基本权利：

为技术创新和创新保护打开大门

一、 本章的目标：“打开一扇门”/38

二、 为什么需要打开一扇门/39

三、 如何打开大门/44

四、 没有不带框架的门：立法者和法律学者的责任/50

第

二

章人工智能与自主：自动系统时代的自主决定

一、 简介及实际应用/60

二、 自动系统对自主决定的潜在风险/63

三、 法律框架条件：个人自决/67

四、 法律回应的可能/69

第

三

章人工智能和透明度：打开黑箱

一、 引言/82

二、 通过获取信息来产生知识/85

三、 通过解释创造能动性/92

四、 未来之路/98

第

四

章人工智能与歧视：对歧视性系统的歧视

一、 引言/114

二、 歧视性系统？/115

三、 当前的反歧视法理论与人工智能/119

四、 走向知识创造的范式/125

五、 结论/128

第

五

章人工智能与法律人格：“部分权利能力”的引入

——德国法上的“部分法律地位”

一、 引言/137

二、 双重困境/138

三、 德国的“部分法律地位”：部分权利能力的引入/145

四、 老鼠和机器/152

五、 结论/153

第二部分对人工智能的规制与通过人工智能进行规制

第

六

章人工智能与社交媒体

一、 军备竞赛和筛选偏差/164

二、 现象论/166

三、 社交媒体规制的概念/168

四、 保护性的社交媒体规制/169

五、 促进性的社交媒体规制/181

六、 结论/184

第

七

章人工智能与法律科技：对法治的挑战

一、 引言/196

二、 应用领域/197

三、 “法律”与“代码”之间的概念差异/201

四、 宪法框架/204

五、 “通过设计进行规制”的提出：一个平衡的方法/208

六、 结论/213

第

八

章人工智能与不确定条件下的行政决定

一、 引言/223

二、 冲突：机器学习对阵行政法/225

三、 挑战：机器学习和不确定条件下的行政活动/229

四、 结论/244

附录/245

第

九

章人工智能与执法

一、 引言：智慧执法/256

二、 智慧执法的现状/257

三、 宪法框架/260

四、 三个主要的问题/267

五、 结论/273

第

十

章人工智能与金融市场：照常营业？

一、 金融市场中的人工智能/292

二、 对金融市场中人工智能进行监管的方法/298

三、 金融市场中人工智能技术的治理/302

四、 人工智能与金融市场：走向新的未来/307

第

十

一

章人工智能与公共治理：政府与公共

管理中的人工智能规范性准则

一、 德国政府与行政部门在人工智能治理准则设计中

面临的挑战/319

二、 参考点：伦理与政治的比较/323

三、 指导准则/324

四、 展望/330

第

十

二

章人工智能与税收：全自动化税收

程序中的风险管理

一、 引言/339

二、 法律基础/339

三、 风险管理系统对人工智能的运用/343

四、 结论/346

第

十

三

章人工智能与医疗保健：产品和程序

一、 案例研究/353

二、 法律框架：《欧洲医疗器械法》概述/355

三、 医疗器械定义，德国《医疗产品法》第3条

第1款/356

四、 软件作为医疗器械的市场准入监管/357

五、 软件作为医疗器械进入市场后的监管/366

六、 前景/371

第

十

四

章医疗保健中的人工智能：医生、病人和责任

一、 引言：医学中的人工智能/385

二、 人工智能对医学伦理学中医患关系地位和

作用的影响/388

三、 人工智能对责任法中医患关系地位和作用的

影响/392

四、 医生在医患关系中的地位和作用/399

第

十

五

章人工智能对竞争法的挑战

一、 引言/413

二、 人工智能/414

三、 人工智能与对竞争法的挑战/415

简目/444

译后记/446