黑镜与秩序——数智化风险社会下的人工智能伦理与治理

本书从现代科技伦理的隐喻“黑镜”出发，系统而深入地剖析全球人工智能伦理与治

理发展的理论根源、人工智能落地应用场景中的伦理问题以及全球视野下的人工智能治理

问题。书中既包括对传统西方伦理学的形而上学的研究，也包括人工智能有关实践案例和

国际政策的解读。本书的目的不仅仅是对人工智能伦理和治理问题进行学术性梳理，而更

在于寻求解决真实世界中人工智能伦理与治理问题的路径，是一部在理论和实践层面都非

常有意义的专著。本书不仅讨论技术伦理涉及的伦理学、政治经济学、哲学和社会学等人

文科学思想，还涉及计算机科学、生物学以及医学等自然科学框架，利用跨学科思维深入

探讨如何在人工智能时代形成伦理共识和建立智能社会治理规则，以期帮助智能经济参与

者、人工智能研究和应用开发领域的专业人员以及公共管理决策者获得全面和独特的科技

洞察。同时，本书也是关注人工智能伦理与治理问题的读者适宜的科技人文读物。

随着智能时代的到来，人工智能、基因编辑、量子计算等前沿科技正在对

人们的生活与生产方式产生着巨大影响，更重要的是对人类社会的观念和思维方

式有深刻的影响。我们看到，从2015 年左右开始，全球不同的政府组织、企业、

智库以及多方利益共同体都提出了关于人工智能应该遵守的伦理原则与价值声

明，我们看到问责制、隐私、安全和公平等原则成为共识，而诸如可解释性、稳

健性和透明度等也成为可信人工智能概念的基础。同时，联合国也关注了这个命

题，我参与撰写的Code of Ethics for AI Sustainable Development（《人工智能可

持续发展伦理原则》）也入选了联合国经济和社会事务部面向全球发布的《人工

智能战略资源指南》，由此可以看到这个领域受关注的程度。在过去几年时间里，

我主要从事的研究范围就在人工智能伦理与治理领域，一方面参与了科学技术部

等部委的《人工智能伦理规范》等文件的建议工作，另一方面也在企业的研究院

做全球视野下的人工智能与伦理研究工作，并且在上海交通大学的计算法学与人

工智能伦理研究中心担任执行主任，与诸多法学界的教授专家一起解决企业和学

术界共同关心的伦理问题，其间收获颇丰。基于相关的思考，我在数字经济学理

论的框架下完成了这部学术专著，在这里，我将本书的主体内容和观点向各位读

者做一个陈述和分享。

第一部分“人工智能伦理：现代性带来的新问题”是理解人工智能伦理议

题的新思路和新观点。我们认为，正是因为智能时代的到来，才导致原本存在于

社会中的现代性问题从工业时代的“人性的异化”等问题转向智能时代的“人的

尊严与认同缺失”等问题。人工智能技术中的算法正在带来一种风险，即资本与

技术共同创造的“智能陷阱”。我们要警惕这种陷阱的风险，防止它使人类社会

陷入异化的困境，其关键就在于我们如何将人类社会共识性的伦理准则放入人工

智能演化的过程中，从而创造一种人机共生的技术发展新局面。与此同时，我们

需要用发展和均衡的视角看待人工智能伦理与治理，而不是作茧自缚地用过度的

伦理规范约束技术的发展，否则就会导致南辕北辙、因噎废食。

前言

Hjxzw.indd 13 2022/7/11 11:06:13

14 黑镜与秩序

数智化风险社会下的人工智能伦理与治理

第二部分“数智化时代的风险领域”结合了我们在产业领域的研究实践，

讨论了人工智能医疗、脑机接口、自动驾驶、虚拟现实等多个场景下的伦理问题。

如果说第一部分主要剖析了人工智能伦理命题在普遍意义上的本质，那么第二部

分则着重讨论了其在应用场景中的各种现象以及背后隐藏的风险与问题。读者在

这部分不仅可以对人工智能在不同领域中的伦理风险以及哲学思考有所了解，也

会对该领域的产业应用和技术实践有通识性的理解。我们认为，科技伦理的通识

化以及在实践中理解伦理命题都是非常重要的研究方式，也是建立伦理共识的

基础。

第三部分“数智化风险社会的治理与趋势”主要来源于我在企业实践过程

中对全球的伦理与治理文件、案例的研究成果，也包括我在计算法学领域研究

的一些重要问题，如算法歧视与人类尊严问题，机器何以为人的问题等。我们

通过研究全球伦理与治理的经验，可以得到的结论是：智能社会的发展需要进

行治理模式的创新，创新和治理需要协调推动，没有很好的规制治理就很难创

新，而没有创新则治理也就无从谈起。在后疫情时代讨论人工智能治理命题，不

仅是对技术创新的关注，也是对人类社会更好地利用科技创新的发展解决问题

和不断前进的助益。在不确定性空前的时代，需要长远的目光才能解决未来的

问题。

以上就是本书的主要内容，实际上这些内容都是我在数字经济学中的共识

政治经济学的研究成果。因为数字经济学理论中讨论的共识不仅包括人类社会在

数字经济领域中如何达成共识的问题，也包括如何将人类共识体现在人机共生的

时代中的问题。数智化时代的政治经济学关注人类社会的共同进步与发展，即人

类命运共同体的建设。我们希望把每个民族、每个国家的前途和命运都紧紧联系

在一起，风雨同舟，荣辱与共，努力把地球建成一个和睦的大家庭，把世界各国

人民对美好生活的向往变成现实。同时，我们也要看到，正确地建构人工智能的

治理机制，达成关于人工智能伦理的共识，也是关注人类未来社会发展的重要

命题。

最后，对本书的两位合著者梁正、郑烨婕表示感谢，如果没有他们的帮助，

本书无法顺利完成。感谢为本书赐序的侯文轩院士和张平院士，感谢为本书撰写

推荐语的各位前辈专家学者。作为后生晚辈，作者希望能够通过不断进步和努力

回报各位师长与同仁的信任与认可。感谢本书责任编辑白立军老师和我的朋友郭

Hjxzw.indd 14 2022/7/11 11:06:14

前言15

俊翔，他们在本书的出版过程中提供了很多帮助。总之要感谢的人很多，限于篇幅，

恕不能一一列举。我想，作为一个研究者，最重要的使命还是对真问题和真命题

孜孜不倦地进行研究，以得到更多的成果，这也是知识分子的使命和社会责任的

体现。对于我个人来说，建构数字经济学研究的理论基础，为这个学科的研究打

下根基，找到数字经济时代的真问题并给出系统性的思考，是我将长期孜孜不倦

坚持下去的工作。

“不要人夸颜色好，只留清气满乾坤。”希望在数字经济学领域有越来越多

的研究者能够参与进来，真正开拓出一个属于中国人的经济学的子学科。本书也

是一本结合中国的实践以及中国的视角思考伦理与治理研究的专著。放眼全球关

于技术伦理与治理的研究，中国的儒道释思想秉持着非人类中心主义的哲学，而

这一点是有别于西方的思考的，我们也要看到这样的思考对解决人工智能伦理与

治理问题是大有裨益的。本书是数字经济学在伦理与治理领域的第一次研究成果

与实践，未来我还会关于这个命题撰写更多的文章或者专著，希望各位读者和同

仁多多指教。“莫听穿林打叶声，何妨吟啸且徐行。”未来的路还很长，我愿意与

诸君共勉。

刘志毅

2022 年1 月于沪

先导篇 科技浪潮中的隐喻与人文主义未来

未来畅想曲 002

黑镜的隐喻 005

伦理与治理 010

第一部分 人工智能伦理：现代性带来的新问题

第一章 人工智能时代的新问题023

何以为人：人工智能与基因编辑的未来 024

人机共生：近未来的挑战与问题 031

数据伦理：新石油时代的政治经济学 038

第二章 算法的正义与秩序革命053

算法机制中的劣币与良币 055

代码的权威与算法规制 061

资本创造的智能陷阱 065

第三章智能时代的伦理启蒙 074

人类意识与机器意识的发展 077

从东西方差异视角看人工智能 082

人工智能伦理与道德责任 090

第四章数智化风险社会来临 097

数智化风险社会中的人工智能伦理 101

风险从何而来 108

数据隐私与社会责任115

第二部分数智化时代的风险领域

第五章 医疗人工智能：疫情、死亡与爱125

黑天鹅事件：疫情与流感 126

医疗人工智能的突破与伦理原则 131

重启人工智能，拓展生命的意义边界 143

第六章人工智能安全：图灵留下的“秘密”——隐私计算 149

深度学习的伦理转向：道德物化理论 150

图灵时代的幻想曲——从加密走向计算 160

隐秘的伟大：创造隐私增强的技术 164

第七章

人工智能与机器人：达尔文与叛乱的

机器 172

认知科学的范式革命：以意识研究为例 173

脑机接口下的人机共生 177

自动驾驶：“适者生存” 185

第八章

人工智能中的虚拟世界：增强现实与

深度合成 197

人工智能+增强现实：增强现实下的新世界 199

深度合成技术的新风险 204

戴上面具的虚拟数字人 210

第三部分

数智化风险社会的治理与趋势

第九章

开启人工智能治理的“大航海

时代”219“新航道”还是“旧船票” 221

卓越、信任与可靠 227

人类VS人工智能：人类中心主义的“胜利” 232

第十章

计算社会中的人工智能立法240

为谁立法 242

机器“何以为人” 248

文明的基础来自尊严 253

第十一章

人工智能时代的新规则与新秩序259

创造人与自然的技术契约 260

人机相处的“新规则” 264

国际社会“新秩序” 269

第十二章

后疫情时代，“我们”如何共同

治理280

全球视野下的公共产品 282

智能社会的治理与创新 287

人工智能的真相与黑镜的倒影 294