中文版
《危崖——生存性风险与人类的未来》作者是澳大利亚的托比-奥德，哲学家、新锐未来学家是牛津大学人类未来研究所的研究生员。中文版由中信出版社2021年出版，顺便提一句，中信出版社有挺多好书新书。
本书的核心观点是我们身处人类历史的关键时刻，人类拥有毁灭自身的能力，我们处于史无前例的“危崖”（危险的悬崖之意）时期——即人类自我毁灭风险极高的时期。书里给出的人类在未来的生存性风险（可能摧毁人类长期发展潜力的风险）发生的可能性，预测的比例是1/6。
书中全面深度的讨论了生存性风险。主要有自然风险，如小行星彗星、超级火山喷发、恒星爆炸等；人为风险，如核武器、气候变化、环境破坏等；其他如基因工程引发的流行病、特别强调了价值未对齐的人工智能。以目前的认知，人工智能的发展应该遵循三大原则：被人类控制，为人类服务以及符合人类价值观。
书中关于人工智能的预测原话写的很有预见性：“从专家们的整体观点出发，在未来一个世纪里，有将近二分之一的概率会开发出几乎能够在所有任务中超越人类的人工智能体。如果这些全面超越人类的人工智能体在未来取代了我们，我们也不应该感到震惊。”
人类自身带来的威胁超过了自然界。人类的力量急剧增加，但智慧并没有相应的同步增长，人类的未来悬而未决，要么在接下来的几个世纪采取行动控制风险，保护人类的未来，要么就会失去扭转形势的机会。
（仅代表作者个人观点，如有疑问请联系删改。）
