AI新生

从比尔??盖茨、埃隆??马斯克到霍金，众多企业家和科学家都曾表示担心AI对人类生存造成的威胁。真的有一天，人类会成为自己发明的机器的受害者吗？

在过去相当长的一段时间里，人类之所以能控制地球，是因为人类的大脑比其他动物的大脑要复杂得多。但如果AI变得比人类更聪明，我们要如何掌控这个世界？智能是一种权力，我们能否控制智能，决定了我们未来的命运。

这本书讲述了我们为理解和创造智能，在过去、现在和未来所做的尝试。这很重要，并不是因为AI正迅速成为当前的一种普遍现象，而是因为它是未来的主导技术。世界上的各个大国正在意识到这一事实，各家大公司也早就知道这一点。

作者在书中提出了一个大问题：如何破解人机共存密码，掌控比我们强大得多的智能，让AI获得新生？这可能是人类面临的最后一个大问题。这本书的目的是解释为什么这可能是人类历史上的最后一件事，以及如何确保这不会成为现实。

斯图尔特??罗素（Stuart Russell）

?? 加州大学伯克利分校计算机科学家，人类兼容人工智能中心（CHAI）主任，人工智能研究实验室指导委员会（BAIR）成员。

?? 世界经济论坛人工智能和机器人委员会副主席，美国科学促进会（AAAS）会士，美国人工智能协会（AAAI）会士。

?? 曾与谷歌研究总监彼得??诺维格合著，出版了人工智能领域里的“标准教科书”《人工智能》，该书被128个国家的1400多所大学使用。

?? 获得过多项科学荣誉，包括美国国家科学基金会总统青年研究员奖、国际人工智能联合会议（IJCAI）计算机与思想奖、国际计算机学会（ACM）卡尔斯特朗杰出教育家奖等，并受邀在TED、世界经济论坛演讲。

1.【在一个由超级AI主宰的世界里，人类如何保持独立？】

这本书提出一个大问题，给出一种解决方案。作者用三个大原则，一个“有益的AI”，带你破解人机共存的密码，这可能是人类面临的最后一个大问题。

2.【AI领军人物，业界公认的“标准教科书”作者，时隔25年，打造全新烧脑之作】

作者认为，人类试图将自己的目标灌输给机器，是注定要失败的尝试。这本书倡导一种颠覆性的新方法——逆强化学习，让机器根据人类行为，学习人类目标。

3. 【埃隆??马斯克、万维钢、姚期智、张宏江、黄铁军、周志华、周伯文、曾毅等鼎力推荐】

《思考，快与慢》作者丹尼尔??卡尼曼，《生命3.0》作者迈克斯??泰格马克，《为什么》作者朱迪亚??珀尔，《深度学习》作者约书亚??本吉奥 专业背书！

前??言 //V

01 如果我们成功了

我们如何走到今天？ //006 接下来会发生什么？ //008 出了什么问题？ //010 我们能解决吗？ //013

02 人类和机器的智能

智能 //017 计算机 //035 智能计算机 //043

03 人工智能在未来会如何发展？

近未来 //067 超级人工智能何时到来？ //080 概念上的突破即将到来 //082 想象一台超级智能机器 //095 超级智能的局限 //098 人工智能如何造福人类？ //100

04 人工智能的滥用

监督、劝导和控制 //107 致命性自主武器 //113 篡夺其他人类角色 //127

05 过于智能的人工智能

大猩猩问题 //137 迈达斯国王问题 //141 恐惧与贪婪：工具性目标 //145 智能爆炸 //147

06 不那么伟大的人工智能辩论

否认 //154 转移话题 //162 部落主义 //166 难道我们不能…… //168

辩论重新开始 //176

07 人工智能：一种不同的方法

有益机器的原则 //182 乐观的理由 //188 谨慎的理由 //190

08 可证明有益的人工智能

数学保证 //197 从行为中学习偏好 //202 辅助博弈 //205 要求和指示 //215 “主动嗑电” //218 递归式自我完善 //220

09 复杂的难题：我们

不同的人 //227 许多人 //229 善良的、可恶的、爱嫉妒的人类 //242 愚蠢的、情绪化的人类 //247 人类真的有偏好吗？ //250

10 问题解决了吗？

有益的机器 //263 对人工智能的治理 //265 滥用 //269 衰弱与人类自主 //270

附录 A??寻找解决方案 //273

附录 B??知识与逻辑 //283

附录 C??不确定性和概率论 //289

附录 D??从经验中学习 //301

致??谢 //311

注??释 //313

图片版权 //357