在一项简单的创造力测试中儿童胜过领先的人工智能模型

《今日联系我们》（Contact Us Today），尤妮丝·尤（Eunice Yiu）、伊莉莎·科索伊（Eliza Kosoy）、艾莉森·高普尼克（Alison Gopnik）著，载于塞奇期刊数据库（Sage Journals）。关于大语言模型及语言-视觉模型的许多讨论聚焦于这些模型是否为智能体。我们提出一种替代性视角。第一，我们主张，这些人工智能（AI）模型是强化文化传播的文化技术，是高效而强大的模仿引擎。第二，我们通过检验它们能否被用来发现新工具与新奇因果结构，并将其反应与人类儿童的反应加以对照，来探讨 AI 模型能够就模仿与创新告诉我们什么。我们的工作迈出第一步，用以判定从特定的学习技术与数据中能够衍生出哪些特定的表征与能力，以及哪些种类的知识或技能。具体而言，我们探索对大规模语言数据进行统计分析能够支撑起哪些种类的认知能力。至关重要的是，我们的发现提示：机器可能需要大规模语言和图像数据之外的东西，才能实现小孩子所能产生的那种创新。最近，以 OpenAI 的 ChatGPT 与 DALL-E 为代表的大语言模型和语言-视觉模型引发了大量兴趣与讨论。这些系统在空前庞大的数据上训练，并针对提示生成新异的文本或图像。通常，它们以一个相对简单的目标进行预训练，例如正确预测文本串中的下一个项。在一些较新的系统中，它们还会由设计者进行微调，并通过基于人类反馈的强化学习加以微调——人类评判这些系统生成的文本和图像，从而进一步塑造系统的产出。思考这些系统的一种常见方式是把它们当作个体智能体，然后争论这些智能体有多智能。人们频繁使用「一个 AI」而非「AI」或「AI 系统」这样的说法，暗示着个体能动性。有人声称，这些模型能够处理复杂指令（如 Bubeck 等，2023），能进行诸如推断心智理论之类的抽象推理（如 Kosinski，2023），并以与个体人类智能体相平行的方式展现创造力（如 Summers-Stay 等，2023）。我们认为这种框架是错误的。相反，我们主张，看待这些系统的最佳方式，是把它们视为强大的新文化技术，类比于书写、印刷、图书馆、互联网乃至语言本身这些较早的技术（Gopnik，2022a，2022b）。大语言模型与视觉模型提供了一种新方法，使人能够便捷而有效地获取他人书写的海量文本与他人塑造的图像。这些 AI 系统为文化的生产与演化提供了新的手段，使信息得以在一群人与另一群人之间高效传递（Bolin，2012；Boyd 与 Richerson，1988；Henrich，2018）。它们聚合此前由人类智能体生成的大量信息，并从中提取模式。这与那些干预外部世界并生成关于外部世界之新信息的感知系统和行动系统形成对照。这一对照超出感知与行动系统本身。体现在理论中的那类因果表征——无论是科学理论还是直觉理论——同样是求真认知过程的产物（如 Gopnik 与 Wellman，2012）；它们依据外部世界接受评价，并对那个世界作出预测、塑造其中的行动。来自那个世界的新证据能够彻底修正它们。因果表征与知觉表征一样，旨在解决「逆问题」（Palmer，1999）：即从我们自外部世界接收的数据出发，重构一个新奇、变化中的外部世界结构的问题。尽管此类表征可以非常抽象——如科学理论那样——它们归根结底依赖于感知与行动——依赖于能够感知世界并以新方式作用于世界。这些求真过程也是一部分 AI 系统的基础。例如，强化学习系统，尤其是基于模型的系统，可被理解为作用于世界、求解某种类似逆问题的系统。它们积累数据以构建世界的模型，从而实现宽泛而新异的泛化。尤其在机器人领域，此类系统与外部世界发生接触，并因此修改自身模型，允许新异的行动与泛化，尽管这些行动与泛化仍极为有限。类似地，不少 AI 进路已把因果推断与理论形成整合进学习机制，试图设计更类人的系统（Goyal 与 Bengio，2022；Lake 等，2015；Pearl，2000）。然而，这些系统与典型的大语言模型和视觉模型极为不同——后者所依赖的是施加于海量既有数据之上的相对简单的统计推断。求真认知过程，与使表征得以从一个智能体忠实传递到另一个智能体的过程形成对照，无论那些表征与外部世界之间是什么关系。这种传递对语言学习与社会协调等能力至关重要。有大量证据表明，这种忠实传递的机制在发展早期便已就位，并在人类认知与文化中扮演格外重要的角色（Meltzoff 与 Moore，1977；Meltzoff 与 Prinz，2002）。然而，这类机制也可能与因果推断、理论形成等求真机制处于积极的张力之中，为善为恶皆有可能。例如，在「过度模仿」现象中，人类儿童（以及成人）会复现复杂动作序列的全部细节，即使这些细节与该动作的结果并无因果关联（Lyons 等，2011；Whiten 等，2009）。过度模仿可提高复杂动作文化传播的保真度与效率；但这也意味着这种传递并未植根于因果理解，而这种理解本可在变化的环境中借进一步证据加以改变。类似地，有证据表明，儿童起初不加批判地接受他人关于世界的证词，只有当这些证词被其他证据直接反驳时才予以修正（Harris 与 Koenig，2006）。我们主张，大语言模型（LLM）通过对既有文本加以概括和泛化，以强有力且重要的方式使能并促进了这种传递。然而，其训练或目标函数中没有任何设计是为实现感知、因果推断或理论形成等求真系统的认知功能的。尽管最先进的 LLM 已被训练去估计自身主张有效性的不确定性（Kadavath 等，2022），其输出的预测概率并不能区分认知不确定性——与知识缺乏有关、可由更多训练数据消解的不确定性——与偶然不确定性——与机遇或随机性有关、因而不可消解（Huang 等，2023；Lin 等，2023）。此类系统会产生「幻觉」（Azamfirei 等，2023），这是一个人所共知却提法不当的问题——「幻觉」一词意味着智能体原本就能区分真实表征与非真实表征，而 LLM 并不能。这种传递与求真之间的对照，又与文化演化讨论中模仿与创新之间的对照密切相关（Boyd 与 Richerson，1988；Henrich，2018；Legare 与 Nielsen，2015；Tomasello 等，1993）。文化演化取决于这两类不同认知机制之间的平衡。模仿使知识或技能得以从一个人传递给另一个人（Boyd 等，2011；Henrich，2016）。创新则通过与变化中的世界接触产生新异的知识或技能（Derex，2022）。模仿意味着每个个体智能体无须都去创新——他们可以利用他人的认知发现。但若没有一些智能体同时具备创新能力，仅有模仿将毫无用处。正是二者的结合带来了文化与技术的进步。当然，模仿与传递可能涉及某些种类的泛化与新意。例如，一条维基百科条目，甚至一篇老式的报纸文章，都是多位人类编辑集体塑造新文本的结果，而其中任何人都无法独自生成这样的文本。其结果包含某种泛化与新意。大语言模型产生类似的泛化。同样，有时仅通过对已知动作加以泛化也可能产生某种创新。如果我知道一架 2 英尺高的梯子能够到某个架子，我也许能立刻推断：一架更高的梯子能让我够到更高的架子，即使我此前从未见过这样使用梯子。然而，那些使人能够对新问题、新环境作出新适应的卓著创新，需要超出既获信息的推断。这些推断或以既有因果模型为起点，生成与早先观察到或传递过的可能性迥异的新因果可能性；或激发对外部世界的新探索。从 AI 的视角看，一种有用的思考方式是：模仿涉及的是一种插值式泛化——在已知范围之内，技能与知识被运用、仿效，并在多种情境中共享；而创新反映的则是更具外推性、「分布外」的泛化。在任何具体情形中，都可能难以判定是哪类认知机制产生了某种特定类型的表征、行为、知识或技能。例如，我在学校对一道考试题的回答，可能仅仅反映我记得所教内容，并能据此做出小幅泛化；也可能表明我拥有能够对外部世界做出新异预测、执行新异行动的知识。探查大语言模型的反应，或许能为回答这个问题提供一种工具——至少原则上如此。如果仅在语言内部统计规律上训练的大模型能够复现特定能力——例如针对提示生成合乎语法的文本——那就提示这些能力可以通过模仿发展出来，即提取编码在他人头脑中的既有知识。若不能，则提示这些能力可能需要创新，即从外部世界提取知识。由此，大语言模型与视觉模型为我们提供一个契机，去发现哪些表征与认知能力——总体上无论人类还是人工的——能够纯粹通过文化传播本身获得，哪些则要求与外部世界独立接触——这是认知科学中的一个长期问题（Barsalou，2008；Gibson，1979；Grand 等，2022；Landauer 与 Dumais，1997；Piantadosi，2023）。在本文中，我们探讨最先进的大语言模型与语言-视觉模型能够为我们理解模仿与创新贡献什么。我们将基于大规模文本数据语料或文本与图像数据语料训练的模型的表现，与儿童的表现加以对照。作为模仿引擎的大语言模型与语言-视觉模型。模仿指复制或复现模型行为背后特征或策略的行为（Heyes，2001；Tomasello，1990），它意味着插值式泛化。问题或情境的呈现方式可能变化，但底层的行为或观念源自已然存在的知识与技能库。通过观察和模仿他人，个体习得有效参与其所属文化群体所必需的技能、知识与惯例，随时间推移促进文化的延续。书写、印刷、互联网以及——我们认为——大语言模型在内的一系列技术创新，使这种模仿随时间推移变得越来越有效。而且，文化技术不仅允许获取信息，它们还以使能并便利传递的方式对信息加以编码、总结和整理。语言本身的作用方式就是把信息压缩进一套数字式代码。书写与印刷同样从口语更丰富的信息流中作出抽象和简化，同时允许在更宽的时间与空间范围内获取该信息。此外，印刷使许多人得以在同一时间接收相同的信息，而互联网当然将这一点高度放大。与此同时，索引、目录、图书馆，以及晚近的维基站点与算法搜索引擎，使人类能够快速找到相关文本与图像，并以这些文本与图像为跳板生成更多文本与图像。当今在大规模数据集上训练的深度学习模型极擅长模仿，其程度远超前代技术，因而代表着文化技术史上的一个新阶段。Anthropic 的 Claude 与 OpenAI 的 ChatGPT 等大语言模型，能够利用其训练集文本中的统计模式生成多种新文本，从电子邮件、文章到计算机程序与歌曲。GPT-3 能够近乎完美地模仿自然的人类语言模式和特定的写作风格，可以说它做得比许多人还好（M. Zhang 与 Li，2021）。显著而令人惊讶的是，这些系统所产出语言的句法结构是准确的。有证据表明，大语言模型甚至能以比人类更抽象的方式把握语言，并模仿人类的比喻语言理解（如 Jeretic 等，2020；Stowe 等，2022）。这提示：在海量人类文本中发现模式，可能就足以习得语言的许多特征，而无须任何关于外部世界的知识。反过来，这也引发一种可能性：儿童以类似方式习得语言或图像的特征。尤其值得注意的是，这一发现与大量实证文献存在有趣的关联，这些文献表明，婴儿从很小起就对语言字符串与视觉图像的统计结构敏感（如 Kirkham 等，2002；Saffran 等，1996）。LLM 提示，这种敏感性所能支撑的学习，可能比我们先前设想的强大得多，例如习得复杂句法的能力。另一方面，尽管这些系统容许熟练的模仿，它们所促成的模仿与儿童的模仿可能在重要方面不同。发展文献中存在争论：童年模仿在多大程度上只是忠实的文化传播（如过度模仿现象），又在多大程度上受理解他人目标与意图等更广义的求真过程塑造、并为其服务。儿童能够围绕施动者、目标物体、运动路径以及事件的其他显著特征，对观察到的视觉与动作模式做出有意义的分解（Bekkering 等，2000；Gergely 等，2002）。而且，儿童会独特地复制有意图的动作（Meltzoff，1995），在通过观察他人学习技能时，舍弃明显失败的尝试、错误以及因果上低效的动作（Buchsbaum 等，2011；Schulz 等，2008；Over 与 Carpenter，2013）。尽管大语言模型与视觉模型的模仿行为可被视为一种模式到另一种模式的抽象映射，人类模仿似乎自幼便由目标表征与因果结构理解所中介。考察大型模型是否也复现人类模仿的这些特征，将饶有趣味。大语言模型与语言-视觉模型能够创新吗？LLM 能够发现新工具吗？我们在哪里能找到这种传递与求真、模仿与创新之间对照的实证证据？一组重要而相关的能力涉及工具使用与创新。人属最古老的代表被称为能人（Homo habilis，意为「灵巧的人」），正是因为他们有能力发现并使用新奇的石器工具。工具使用是文化传播之优势以及模仿与创新之平衡的最佳例证之一。模仿使新手得以观察示范者并复现其动作，从而达成特定结果，即使并不完全理解工具的精微物理机制与因果属性。AI 与机器人领域的「行为克隆」之类技术也采用类似路径。然而同样地，以插值方式模仿和使用既有工具的能力，取决于同时以外推方式发现新工具的并行能力。工具创新是人类生活中不可或缺的部分，也已在多种非人类动物中被观察到，如乌鸦（Von Bayern 等，2009）与黑猩猩（Whiten 等，2005）。工具创新常被视为生物系统智能的鲜明标志（Emery 与 Clayton，2004；Reader 与 Laland，2002）。因此，工具使用可以成为理解模型与儿童之模仿与创新的特别有趣的比较点。计算模型与人类都能编码有关物体的信息（如 Allen 等，2020），但二者的工具模仿能力与工具创新能力可能不同。具体而言，我们的假设预测：模型或许能很好地捕捉熟悉的工具用法（例如恰当地预测锤子应被用来钉钉子）；然而，在需要为涉及不寻常或新奇工具的工具创新给出正确反应时，这些系统可能面临更多困难——这种能力取决于发现并使用新的因果属性、功能类比与可供性。不过，我们也不禁好奇：年幼儿童自己能否完成这类创新，还是它取决于明确的教导与经验。从零开始实际制作一件新工具，继而执行一系列通向预期目标的动作，对幼儿而言是一项困难的任务（Beck 等，2011）。但儿童或许更容易在日常物品上识别新功能，并在缺乏典型工具时挑选合适的物体替代品，以解决各类物理任务。在一项进行中的工具创新研究（Yiu 与 Gopnik，2023）中，我们考察了人类儿童与成人能否富有洞见地以新方式使用熟悉物体来达成特定结果，并将结果与 GPT-3、GPT-4 等大型深度学习模型的输出进行了比较。工具创新可以指从零设计新工具，也可以指以新方式发现和使用旧工具来解决新奇问题（Rawlings 与 Legare，2021）。我们可以把这理解为就功能目标作出分布外泛化的能力。我们的实验考察的是后一类工具创新。本研究包含两个部分：一个「模仿」部分（基于关于物体的既有知识作出插值判断）与一个「创新」部分（就物体可能被使用的新方式作出外推判断）。在研究的创新部分，我们呈现一系列问题，其中必须在缺少典型工具的情况下完成某个目标（例如，在没有圆…