首页 今日快讯文章正文

两位英国顶级神经科学家解释大众可能对人工智能的误解

今日快讯 2025年10月02日 01:03 2 admin
两位英国顶级神经科学家解释大众可能对人工智能的误解

专家揭示了人工智能如何改变我们对意识、智力以及新时代人类意义的看法。

作者：Tibi Puiu和Mihai Andrei

这次采访是在 2025 年切尔滕纳姆科学节上拍摄的，为了清晰起见，略作了编辑。

当两位英国顶尖的神经科学家和人工智能研究人员坐下来探讨人工智能时，会发生什么？你不会听到那些关于机器统治世界之类的炒作。相反，你会听到一堂速成课，了解科技如何重塑人类大脑，为什么猫比国际象棋大师更厉害，以及亚里士多德在阅读方面犯了哪些错误。


两位英国顶级神经科学家解释大众可能对人工智能的误解


史蒂夫·弗莱明（伦敦大学学院认知神经科学教授）和克里斯·萨默菲尔德（牛津大学/谷歌 DeepMind 认知神经科学教授）并非硅谷未来学家。他们是研究人员，致力于研究人类如何决策、反思和学习。如果你刚刚听够了人工智能的炒作，这或许会让你耳目一新。当他们谈论人工智能时，他们并不将其视为外星威胁。他们将其视为人类采用和适应的一系列技术中的一种——从泥板到智能手机。正如文字曾经重新编程了我们的大脑，使其将记忆外部化一样，当今的神经网络正在改变我们对创造力、推理甚至意识本身的看法。

ZME Science：我想从一个棘手的问题开始：人工智能会让我们变笨吗？

SF：我认为简单的答案是我们还不知道。我认为教育机构目前正在努力解决的一个问题是人们如何使用这些技术进行思考。人们使用它们的方式有很多种。一种是作为创意伙伴，帮助你构建思维，构建你为工作或学习所做的一切，等等。我认为这很有帮助，并且符合我们使用外部工具来支持我们认知的更广泛模式，回到了纸笔时代。但还有另一种模式，人们以一种更随意的方式使用它们，让它们代表他们创作内容。我认为我们还不知道这会对获得更复杂的批判性思维技能的能力产生什么影响。我认为我们还不知道，但存在一个潜在的危险可能会影响这些技能。

CS：科技总是会改变大脑，对吧？所以有一种叫做阅读或写作的技术。你可能会认为它很古老——它确实很古老——但从进化的角度来看，它非常新。它只有5000年的历史。这意味着我们的大脑是在阅读出现之前的时代进化的。所以你可以用这个来思考科技如何改变大脑。

我们大脑中确实有一些区域在发育过程中专门用于阅读。正如我所说，大脑没有进化出阅读能力，是因为在那些压力产生的时期，根本没有阅读。与其说你的大脑被科技塑造，不如说是大脑适应了科技。所以，阅读是一项改变我们思维方式的技术，而且改变非常大，因为我们能够将事物外化。并非所有人都认为这是一件好事。今天，每个人都认为阅读是一件好事，但亚里士多德曾说过，阅读是一个非常非常糟糕的主意，因为它会损害每个人的记忆力。所以，你知道，我们经历了这些由科技带来的转变，通常都会有阻力。我认为我们现在在数字技术上就看到了这种阻力。伴随着这些技术成长起来的一代人认为这完全正常，无法理解这一切的喧嚣究竟是为了什么。

ZME Science：我想问一下智能。我们如何定义它与人工智能的关系？

CS：我们一直以来都用我们认为自己擅长的领域来定义智力，人工智能也是如此。智力测试往往会偏向于测试者擅长的领域。在人工智能研究中，这种情况也一直存在。我们过去认为，如果你构建了一个比人类下棋更好的人工智能，那么你就基本上解决了人工智能问题。我们在1997年左右实现了这一点，但当时每个人都觉得，等等，我们构建了一个会下棋的人工智能，但我们还没有构建出一个具有普遍智能的人工智能。

然后人们说，那语言呢？如果我们构建一个能用语言与我们对话的人工智能，那么我们就解决了人工智能问题。现在我们已经解决了这个问题，但显然，我们构建的模型在其他方面并不智能。我认为这只是因为我们考虑的是人类擅长的事情。人类非常擅长下棋，至少相对于猫而言是这样，而且我们是唯一能用句子说话的物种。所以我们认为这些事情与智能有关。我们不会考虑动物能够做到的真正困难的事情，比如你的猫能做到的——跳上厨房台面、追老鼠、在环境中导航。这些事情实际上都是很难解决的问题。尤其是社交方面——很多物种都有非常复杂的社交行为。当然，我们现有的模型没有朋友，所以它们在这方面做得并不好。

SF：补充一下，我们与人工智能的一个显著区别在于，我们拥有身体。我们拥有多模态感官输入。事实上，作为婴儿，我们需要发展控制身体、精细运动控制等能力——这支撑着许多我们认为理所当然的、作为人类不可或缺的一部分。

与世界互动、探索世界、整理洗碗机、做饭等等。所有这些事情过去都不被认为是智力的一部分，因为我们视其为理所当然。正如克里斯所说，事后看来，那些更注重智力的方面似乎比那些在童年时期需要更长时间才能发展起来的事情更容易解决，而后者关乎的是身体的发育和与世界的互动。

ZME 科学：创造力怎么样？

SF：创造力是另一个方面。我认为很多概念很难真正界定。从某种意义上说，当前的生成式人工智能非常具有创造力。生成性支撑着从庞大的人类语言模型中采样并以新颖的方式重新组合，从而生成新诗歌和新音乐的能力。从这个意义上说，这些技术确实具有创造性，或许令人惊讶。回到十年或二十年前我们想象这些系统能做什么，我们并不一定会把创意产业列为即将被颠覆的产业之首。

CS：是的，所以当我们谈论创造力时，我们指的是两种不同的东西。一种是认知上可定义的，正如史蒂夫所说：能够将不同的知识模块以新颖的方式重新组合。毫无疑问，这些模型可以做到这一点，而且它们在很多方面都比我们做得更好，至少在很多领域是如此。创造力还有另一个要素，那就是做一些与众不同、与众不同的事情。你可以在创造力的心理测试中看到这一点。他们基本上会向你展示绘画，如果你喜欢古怪的抽象艺术，那么你就有创造力；如果你喜欢田野里的马匹画作，那么你的创造力就比较差。这并非关于大脑本身，而是很大程度上反映了我们对创造力的文化观念。这些模型在后一种意义上不会有创造力，因为根据定义，它们已经被训练得尽可能地像人类一样——就像普通人一样。它们在第一种意义上是有创造力的。你让它们用橱柜里随机放的五种食材做一份菜谱，它们可能至少能做得和你的家人一样好。

ZME Science：人们对人工智能存在很多误解。您认为哪些误解最为严重？

CS：这个问题很难回答，有很多误解。误解并不仅限于普通大众。每天与人工智能打交道的人们也存在着巨大的误解。一种误解是，人工智能只是鹦鹉学舌——完全照搬人类的做法，重复人类的句子。这是错误的。模型确实能以新颖的方式将事物组合在一起。另一方面，有人认为人工智能是解决一切问题的方案。这也是错误的。它受到计算能力、数据和我们设计的算法的限制。你不应该认为它拥有解决人类所有问题的神奇能力。

SF：我们实验室一直在研究的一个概念是，人们通常认为这些系统像机器一样——总是正确的，总能给出正确的答案。我们的研究表明，即使向人们展示人工智能和人类相同的表现，人们也会认为人工智能更有能力，也更愿意信任它。这源于人们普遍认为这些系统像机器人一样，不太可能出错。但如今最强大的人工智能系统是基于神经网络的，它们更像大脑，具有概率性，每次给出的答案都略有不同。理解这一点有助于你了解自己正在处理的问题。

ZME 科学：推理怎么样？

CS：我认为你有可能获得强大的系统，它能够提出与我们预期不同的行动，能够推理问题。围棋系统是一个推理系统。它通过不断推演，得出了一条人类从未做过的走法。这真是一步好棋。随着系统推理能力的提升，我们可能会在其他领域看到类似但不同的行为。每个人都希望科学——希望人工智能能够取得前所未有的突破。但围棋是一项结构严谨的游戏。科学是混乱、嘈杂且充满价值的。并非所有实验都同样有价值。要成为一名优秀的科学家，人工智能必须理解文化、人类价值观和纷繁复杂的数据。这要困难得多。

SF：补充一点，科研的一点经验是，最难的是知道该问什么问题。意识到自己不知道什么，知道这个领域应该朝哪个方向发展，并拥有这样的视角——这些都至关重要。既然我们能够与能够综合知识的人工智能工具互动，那么充分利用它们的方法就是知道该提出什么问题。这仍然是一个非常困难的问题。或许人工智能也可以帮助我们提出问题。

ZME Science：有人担心人工智能会做出邪恶的行为。这种情况可能发生吗？

SF：当你训练这些模型时，它们主要基于人类数据进行训练。它们继承了我们的优点，也继承了我们的缺点。人类会偏离理性，表现出偏见和自利行为。模型也会如此。人工智能的一个子领域已经出现，旨在纠正这些不良行为：一致性研究。其理念是将模型与人类行为的某种理想化版本相一致。技术挑战固然艰巨，但概念挑战更加艰巨——知道要与哪些价值观保持一致。不同的文化、世代和群体拥有不同的价值观。越来越多的模型被训练成拥有多种价值观。不同公司可能对不同模型抱有不同政治立场。

CS：这不是一个新问题。几千年来，我们一直在争论如何汇聚不同的观点。民主是一个解决方案。语言赋能人工智能的激动人心之处在于，它能够帮助汇聚语言本身而非仅仅数字层面的不同观点。这可能是一个机遇。同时，这些系统将变得更加个性化。它们会根据你的互动进行调整，从而提供更有益、更个性化的建议。但它也可能强化信息过滤，就像我们在社交媒体上已经看到的那样。

ZME Science：最后一个问题。人工智能最让您兴奋的是什么？最让您担心的又是什么？

CS：我最担心的是人工智能系统将如何连接在一起。社会中的大多数挑战都来自于互联互通——沟通渠道、交换模式。目前，人工智能主要是一个用户和一个系统。但我们的智能来自网络。单打独斗，我们的能力有限。团结起来，我们就能把人类送上月球。当我们转向人工智能之间的互动，系统之间交换信息并做出决策时，会发生什么？这会将人类排除在外，并为串谋、错位，甚至人工智能文化的出现创造机会。这才是我最担心的。

SF：我最担心的是下一代孩子会受到的影响。他们成长的环境里，充斥着看似与人类非常相似的系统，拥有语言和多模态能力。如果这些系统最终以机器人设备的形式出现在家庭中，这将如何影响孩子与父母、老师和信息来源的互动？这可能是良性的，但我担心的是，就像社交媒体一样，它可能会过滤他们对世界的看法。我们目前还没有足够的研究基础来了解其影响。

CS：从积极的一面来看，知识是件好事。能够即时访问一个几乎无所不知的工具非常有用。挑战在于如何配置系统，让知识提升我们与世界互动的能力，并赋予我们更大的自主权。这是有可能的。如果以这样的方式引导，这些系统可以让我们变得更聪明，更有能力解决问题。

SF：我完全同意。除了社会效益之外，我在智力层面也对此着迷。随着这些系统成为日常生活的一部分，它们将如何改变我们对人类的认知？我们会开始认为自己更像人工智能，而不是动物吗？它们会对意识和感知等模糊概念产生什么影响？我认为它们会对这些概念施加强大的压力。一旦我们制造出看起来和听起来都像我们的智能体，或许就会发现意识并不像我们想象的那么神秘。这将改变我们对自身的看法。这将是令人着迷的。

相关文章

发表评论

长征号 Copyright © 2013-2024 长征号. All Rights Reserved.  sitemap