AL123 人文社科会员免费专区文学 2025-11-26

AI赋能_【美】里德·霍夫曼；格雷格·贝亚托_AZW3_MOBI_EPUB_PDF_电子书（无页码）_【美】里德·霍夫曼；格雷格·贝亚托

内容节选

原则5 超级进化时代，“最强大的模型”依然会犯“最低级的错误” 测试是普通公众了解AI及其快速增长能力的最主要途径。在ChatGPT发布后的几个月里，新闻媒体试图描述这新一轮AI发展浪潮的范围、速度和影响，一个反复出现的主题迅速浮现： “准备迎接模型可靠性的提升：AI太空竞赛已经开启” “在争夺基准测试霸主地位的AI太空竞赛中，只有最准确且无害的AI才能存活下来” “谷歌和微软正在进行一场记录性能提升的高风险太空竞赛” “AI太空竞赛升温：数据科学家如何不懈地评估AI的一举一动” 开个玩笑，这些标题都不是真的。但以下这些是真的： “‘AI军备竞赛’已经开始。开始担忧吧”（《时代周刊》） “谷歌和微软的‘AI军备竞赛’可能带来‘意想不到的后果’，一位AI伦理学家警告”（美国有线电视新闻网） “在‘AI军备竞赛’中，伦理可能是第一个牺牲品”（Axios新闻网） “科学家警告，避免‘自杀式AI军备竞赛’的努力正在走向失败”（《新闻周刊》） “‘AI军备竞赛’的唯一赢家将是AI本身”（彭博社）很快，这些早期的报道就升级为全面的、相互推波助澜的夸张宣传，成百上千的媒体参与了一场新闻界的“军备竞赛”，似乎在比较谁能最频繁地使用“军备竞赛”这个词。但是，将ChatGPT的能力（比如，把《独立宣言》重新创作为本杰明·富兰克林发给英国议会的一系列刻薄推文），与能够瞬间摧毁一座有数百万人口的城市的高当量核弹头相提并论，真的合适吗？将一个在全球的关注中公开进行的过程，与一个通常由政府最高层以极其隐秘的方式决定的过程等同起来，这在逻辑上说得通吗？毫无疑问，AI的发展确实与时间因素密切相关。在普及性更高、可实践的AI发展两年多后，一种非常真实的竞争氛围界定了这一领域，目前有数百种模型可供全球数亿人经常性地使用。这加速了部署、反馈和持续改进的周期循环，这与20世纪中叶的太空竞赛非常相似——在短短10多年的时间里，人们见证了从1957年人造卫星首次环绕地球到1969年阿波罗11号登月的快速发展。在机器学习和大语言模型领域，我们也见证了类似的快速发展：从2013年DeepMind的DQN（一种基于深度学习和强化学习的算法）掌握老款雅达利游戏机上的游戏，到2016年AlphaGo击败围棋世界冠军李世石，到2020年AlphaFold在蛋白质结构预测方面取得重大突破，再到如今能够将冰岛语的自然语言提示转换为可用计算机程序的前沿模型，这些模型从未接受过关于冰岛语或计算机编程的明确训练。 “军备竞赛”这一短语及其强调的危险性和鲁莽性，将创新比作一场冲向世界末日的疯狂冲刺，这是否恰当？这种说法掩盖了AI发展的一个主要特征：令人眼花缭乱、应接不暇的全面测试。通常，AI的发展并不会吸引那些凭直觉行事、随兴发挥或相信内心声音的人。相反，这是一个主要由极端的数据极客所占据的领域，他们对测试的热爱程度甚至超过了TikTok“网红”乐于看到热门话题走红的程度。对他们来说，“三思而后行”这种确保产品质量的方法实在是太草率了。他们希望实现的是持续的数据驱动改进：不断测量，不断改进。人们开始进行AI测试的时间甚至早于AI诞生的时间。1950年，英国数学家、计算机科学家艾伦·图灵在《心智》（Mind）杂志上发表了论文《计算机器与智能》。他提出了一个问题：“机器能思考吗？”这篇论文中，图灵通过一种游戏奠定了评估机器智能的基础。这个游戏中，计算机试图让人类评审员相信他们正在与另一个人交流。今天，我们称这个过程为图灵测试。图灵测试为几十年来日益复杂的AI评估奠定了基础。如今，AI开发者以数百种不同的方式测试模型性能，还发明了更多的测试来衡量这些测试的有效性，再发表白皮书记录他们的发现。过去的70年里，AI的许多基础研究和关键突破大多发生在高等教育研究实验室而非商业环境中，这种传统在AI强大的数据驱动测试文化中得以体现。即使商业开发者在AI发展中开始发挥越来越大的作用，这种持续测试和评估的文化仍然存在，并以多种方式推动了整个领域的进步。下次你看到“军备竞赛”的报道时，请记住这一点：至少在AI领域，人们所讨论的“竞赛”不是一场疯狂的抢占或瓜分，而更像是一场铁人三项赛，只不过时间更长。你今天看到的AI模型是建立在多年精心设计的测试基础上的，这些测试旨在从多个维度衡量它们的性能。测试，让AI开发从合规转向持续改进除了好莱坞科幻大片，测试也是普通公众了解AI及其快速增强的能力的最主要途径。想想1997年IBM的“深蓝”超级计算机击败国际象棋世界冠军加里·卡斯帕罗夫的情景，再想想2011年“沃森”在《危险边缘》节目中击败冠军肯·詹宁斯（Ken Jennings）和布拉德·鲁特（Brad Rutter）的场面。从表面上看，这些都是人与机器较量的娱乐性游戏，但更重要的是，它们是标志着算......