人机对齐

如今的“机器学习”系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定。但是警钟已经敲响。随着机器学习飞速发展，人们的担忧也在与日俱增。如果我们训练的人工智能（AI）做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题。研究人员称之为对齐问题（the alignment problem）。

畅销书作家布莱恩·克里斯汀用生动的笔调，清晰阐释了AI与我们息息相关的问题。在书中，我们将认识批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控，付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习前沿的进展。读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响。

对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗，不仅审视了人类的科技，也审视了人类的文化，时而让人沮丧，时而又柳暗花明。

★ 畅销书作家布莱恩·克里斯汀的新作，普通人能看懂的AI入门书。

★ “对齐”问题，是关于人工智能我们zui迫切需要关注的问题。

★ 关于ChatGPT你应该了解的真相：以ChatGPT为首的Generative AI爆火全球，也为我们敲响警钟——我们究竟该如何看待AI？如何避免AI失控？AI是否会取代我们甚至使人类灭绝？

★ 控制人工智能，“拔掉电源插头就行了”, 错了！过时了！

★ 阅读本书，将帮助我们更深刻认识人性的弱点，思考我们的社会、文化、教育和未来。