关于作者： 艾米·布兰德 (Amy Brand) 自 2015 年起担任麻省理工学院出版社 (MIT Press) 的总监兼出版人。她是一位认知科学家，拥有麻省理工学院的博士学位，曾在 CrossRef、哈佛大学和 Digital Science 担任领导职务。她是 CRediT 分类法的共同创始人、ORCID 董事会创始成员以及纪录片《想象一位科学家》(Picture a Scientist) 的制片人。布兰德因其在研究基础设施、学术交流和科学公平方面的贡献而广受认可。她获得的荣誉包括美国科学编辑委员会奖和美国科学促进会 (AAAS) 卡夫利科学新闻金奖。
科学对人类进步至关重要。同样至关重要的是我们如何传播科学，尽管这一点不那么显而易见。作为知识被发现和可信的体系，出版是研究基础设施的核心组成部分。
出版业该如何适应科研界的需求？科研界面临着审查制度、资金减少，以及生成式人工智能系统的迅速崛起，这些系统在吸取知识的同时，也侵蚀了知识的完整性。作为一名在科研、大学管理和出版领域工作了数十年的人，我从未见过科学和出版的未来面临如此巨大的风险。 和 科学传播。
随着我们周围的社会政治体系逐渐崩溃，人们很容易将生成式人工智能视为解决世界问题的灵丹妙药。大型语言模型（LLM）已成为通往发现的诱人门户，提供即时答案、无缝集成，以及看似知识的民主化。然而，它们的魅力掩盖了其作为系统的潜在威力，它们同时也加速了错误信息、欺诈和宣传的滋生。从设计上讲，它们生成的内容看似高度合理，但往往具有误导性，甚至完全错误。当验证过程困难且成本高昂，而“真实性”却廉价且有利可图时，这对科学来说是危险的，尤其是在欺骗人类思维如此容易的情况下。
是的，面对严峻的全球挑战，我们确实希望加速探索和解决问题。我们渴望相信机器能够比人类的认知架构或我们功能失调的机构更快地解决问题。但当不受限制的人工智能训练的支持者认为，公开所有科学内容和数据以加速创新是道德义务时，历史教训提醒我们谨慎行事。
我们以前就见过这种情况。早期的互联网被誉为推动言论和普世知识的民主化力量。最终，由于缺乏监管，大型商业平台占据了主导地位，侵蚀了信任，并摧毁了新闻和研究内容的经济模式。我们现在也知道，不成熟的开放获取政策加速了出版业的整合，并创造了经济激励，促使出版更多内容，但质量控制却较为松散。
让我们停下来思考一下，什么对人类的理解、学习和知识的进步最有利。当搜索只会导向人工智能的摘要，而用户却不会点击查看原始来源，当纯粹的阅读乐趣正在急剧下降时，我们如何才能避免未来我们创作和发布的内容只供机器消费？
我认为出版商在支持研究影响力和完整性方面发挥的重要作用值得保留和保护， 尤其是现在。 我理解人们对高昂的出版费和订阅付费墙感到不满，尤其是那些利用了学术声望市场的大型出版商，而这个市场历来对价格并不敏感。但我们的行业并非一个单一的、追求利润的实体。像麻省理工学院出版社和许多科学协会这样的非营利出版商，其运营价值观不同，利润也更微薄。
事实上，我们面临的威胁更大，不仅在于人工智能的“地盘争夺”，有时甚至在于我们长期以来支持的开放科学运动。因此，我们必须抵制那些忽视权力动态的道德姿态。“开放”的概念笼罩着一层光环，可能会掩盖经济学和激励机制等现实世界的复杂性。归根结底，并非所有开放都是良性的；并非所有对开放的抵制都是蓄意阻挠。
另一个误解是，出版商的利益与研究人员的利益不一致。我们最近进行了一项 大型作者调查 在STEM领域，关于其研究成果未经授权用于法学硕士（LLM）培训的问题一直存在争议。尽管绝大多数人相信人工智能有望为探索和学习带来变革，但他们仍然反对这种做法。他们希望能够选择同意或不同意这种使用方式，并期望在其研究成果用于LLM产出时得到授权。他们并不认为“开放阅读”与“开放培训”等同。
同样，许多人对大型人工智能公司的诚信持怀疑态度，并担心法学硕士将如何影响出版、阅读、写作、批判性思维和创造力；压制多元化的观点；并强化偏见和文化霸权。他们深切担忧，当我们将人类创作的作品分解成标记化的训练数据，并将其输入到无法保留其上下文或论点的模型中时，会造成怎样的损失。
如何以及在何种条件下将已发表的科学成果用于培养法学硕士，这个问题不仅仅关乎版权，还关乎谁掌控着知识的未来。我们是否应该将权力拱手让给不透明的、采掘性行业，而对研究界几乎不承担任何责任？还是应该建立一套能够维护研究成果归属、完整性和可持续性的体系？如果我们认真对待人类繁荣、基于证据的科学以及保护知识增长的环境，那么研究界及其机构就必须谨慎行事。
将已发表的科学和学术成果拱手让给一个高度掠夺且不透明的科技行业，这符合谁的利益？按照这个逻辑：作者、机构和资助者支付的开放出版费用，最终全部价值都落入了OpenAI和Anthropic之类的公司手中。说到掠夺性产业，我们也应该诚实地评估一下人工智能行业的价值与学术出版商的价值相比如何。
我本人仍然保持乐观，相信通过周密的规划和基于证据的政策，我们将利用人工智能改进同行评审，提高可重复性，并简化出版流程和成本。我们甚至可能能够构建有助于维持科学出版良好发展的解决方案。
但当前的模式——未经同意就开采已发表的记录，并由私营科技巨头将其货币化——是不道德的，对科学和学术研究具有破坏性。它也反映出人们对我们复杂的世界如何运作以及如何在解决我们面临的生存问题上取得真正进展的幻想。
免责声明
我们客座博客中呈现的信息、观点和建议均来自撰稿人个人，并不一定反映国际科学理事会的价值观和信仰。
将未来的开放科学综述直接发送到您的收件箱 - 现在订阅.
阅读更多关于“我们是在为我们所处的世界构建全球知识基础设施，还是为我们试图创造的世界构建全球知识基础设施？”的内容。 
