《人机对齐》封面

内容简介

如今的“机器学习”系统已具备非凡能力,能够在各种场合代替我们看和听,并代表我们做决定。但是警钟已经敲响。随着机器学习飞速发展,人们的担忧也在与日俱增。如果我们训练的人工智能(AI)做的事情与我们真正的目的不符,就会引发潜在的风险和伦理问题。研究人员称之为对齐问题(thealignmentproblem)。

畅销书作家布莱恩•克里斯汀用生动的笔调,清晰阐释了AI与我们息息相关的问题。在书中,我们将认识第一批积极应对对齐问题的学者,了解他们为了避免AI发展的局面失控,付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史,并且亲自深入科研一线同科学家对话,准确呈现了机器学习最前沿的进展。读者可以清晰认识到,对齐问题研究的成败,将对人类的未来产生决定性影响。

对齐问题还是一面镜子,将人类自身的偏见和盲点暴露出来,让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗,不仅审视了人类的科技,也审视了人类的文化,时而让人沮丧,时而又柳暗花明。

作者简介

布莱恩•克里斯汀(BrianChristian)畅销书作家,他的《算法之美》(AlgorithmstoLiveBy,与TomGriffiths合著),入选了亚马逊年度zui佳科学书籍和MIT技术评论年度zui佳书籍;《人机大战》(TheMostHumanHuman)广受好评,入选了《纽约时报》编辑选书,也是《纽约客》年度zui受欢迎书籍。他的作品赢得了多个奖项,入选了《美国最佳科学和自然写作》,被译成了19种语言。克里斯汀拥有布朗大学和华盛顿大学的计算机科学、哲学和诗歌学位,是加州大学伯克利分校的访问学者。

目录

目录
第一篇序篇
第二篇导言
第三篇预警
1. 代表
2. 公平
3. 透明
第四篇自主
4. 强化
5. 塑造
6. 好奇
第五篇示范
7. 模仿
8. 推断
9. 不定
结语
致谢
注释
······

最后修改:2024 年 06 月 14 日