驾驭人工智能与开放科学之间令人不安的相互依存关系

人工智能（AI）正被证明对开放科学具有高度颠覆性：它既被广泛用于学术文献的分析与生产，又深度嵌入公共信息公地。一方面，各领域的研究者正在利用人工智能和机器学习的力量完成前所未有的事情——例如快速处理海量数据集，或以多种不同语言综合大规模语料——极大地加速了科学进展并带来新发现。另一方面，人工智能正严重挑战开放科学赖以存续的一些基本假设，以前所未见的方式使开放科学生态系统面临风险，亟需紧迫关注。
开放科学与人工智能不仅是互补的，它们在结构上相互依存。开放资源是训练 AI 模型及其应用的基础材料；而运转良好的 AI 工具对于开展突破性研究正变得日益关键。然而，AI 作为开放科学产出的主要消费者，也带来了署名归属问题、信息污染的潜在风险，以及令其所依赖的基础设施不堪重负的激进自动化流量。若不加处理，这些压力有可能逆转开放科学运动已经取得的许多成果。
大语言模型（LLM）如今开始主导大多数发现系统，它们带来了一种内在的署名归属问题，切断了学术信誉与核查的链条。当你向 LLM 提问时，它通过综合其训练所涉数百万文档中的模式来生成答案。但 LLM 并不追踪哪些具体来源促成了其回答的哪些部分。因此，作者和机构越来越反对自己的作品未经同意或未具署名地被用于 AI 训练，而且这种紧张态势似乎还在加剧。
LLM 并不检索事实，它们生成统计上貌似合理的文本。这意味着它们可能编造出令人信服的说法、参考文献和摘要，实则毫无事实依据，却很容易被误认为正当的学术成果。这一点，加上由 AI 生成的假论文所增强的论文工厂稳步增多，有可能污染学术信息空间。而由于 LLM 会持续用新内容进行再训练，错误和捏造会在每一轮训练中被吸收、洗白并放大，使问题随时间自我强化。
除学术诚信的担忧外，仓储和其他数据提供方正被激进的机器人流量所淹没，令开放科学基础设施承受严重压力。COAR 的「应对机器人」（Dealing with Bots）社群资源是帮助仓储应对这一挑战的有建设性的第一步。但目前尚无理想的解决方案，而且这一问题已经在引发一种令人担忧的反应：越来越多的仓储为保护自身系统而设置机器访问障碍——阻断所有机器访问，致使友好的索引系统和 AI 系统也无法再访问这些资源。
开放科学的设计初衷是使学术记录更加可信、可及和有影响力。然而，上述种种压力有可能颠覆这一使命，把开放变成脆弱性而非优势。我们必须携手开发解决方案，在维护学术公地诚信的同时，尽可能保持开放，以确保研究持续推动科学进步。开放科学生态系统来之不易，不付出努力就无法维系。因此，COAR 致力于与我们的社群及其他利益相关方合作，推进落实开放科学愿景所需的步骤。作为第一步，我们建议仓储社群采取以下具体行动：