作者：
几乎任何一位科学政策制定者或研究资助者，只要问他们对人工智能的看法，都会得到类似的答案。人工智能正在改变科学家的工作方式。它加快了文献综述的速度，以前所未有的规模处理数据集，并辅助论文的撰写和审阅。它是一款卓越的生产力工具，而且正变得越来越不可或缺。
这并没有错，但可能并不完整。
人们过分关注人工智能作为科学家的工具（我们可以称之为人工智能在科学领域的“狭隘视角”），这正在悄然掩盖一系列更为根本的问题。而负责在全球范围内管理、资助和协调科学的组织和机构群体（我称之为有组织的科学界）才刚刚开始思考这些问题。
目前科学界关于人工智能的主流讨论本质上是关于加速的讨论。人工智能可以做得更多、更快。它可以发现人类会忽略的数据模式。它可以撰写文稿、翻译文本、总结总结。这些都是实实在在的优势，科学界关注它们是理所当然的。
但这种框架实际上将人工智能视为科学家才能理解的东西。 使用它是一种精密的仪器，与显微镜或测序仪类似，只是功能更强大。而当仪器本身成为框架时，某些问题就更难提出了。
当人工智能不仅辅助研究过程，而且……时会发生什么？ 行为 它会怎样？当人工智能不仅处理数据，还能提出假设、设计实验，并或多或少地自主地解释结果时，会发生什么？这并非遥不可及的科幻场景。 已发布的示例 人工智能系统能够以最少的人工干预生成新的科学假设，而世界领先的人工智能开发人员则表示，完全自主的人工智能研究只需几年时间，而不是几十年。
要清楚地思考利害关系，区分两种主要情况会有所帮助。
在第一个—— 人类主导的科学 人工智能渗透到研究过程的每个阶段，但人类科学家仍然掌握着主导权。人类仍然决定研究什么，制定研究议程，提出问题，并确定研究方向。即使大部分实际研究工作由人工智能完成，但方向盘上仍然握着人类的手，决定着研究的走向。这就是我们目前的现状，尽管人工智能的参与程度正在迅速提高。
在第二—— 人工智能主导的科学 人工智能不仅执行研究，还决定研究内容。研究议程不再完全由人类设定。人工智能系统越来越多地影响着提出的问题、生成的假设以及实验的优先级，其作用已从执行扩展到议程设定。未来，诸如物理人工智能和机器人实验室系统的应用等进步可能会进一步深化这种转变，使模型能够直接参与实验，而不仅仅是分析。这在实践中究竟会是什么样子，目前仍存在很大的不确定性。但已有研究表明， 人工智能主导的科学可能与我们所熟知的任何事物都截然不同。这不仅可能改变科学的步伐，还可能改变其基本逻辑：几个世纪以来定义知识生产的人类好奇心、推测和实验设计的循环。
这两种情况之间的差距，正是充满有趣问题的地方。
当人工智能系统能够自主开展研究时，一系列根本性问题便会随之而来，这些问题远远超出了伦理准则或信息披露政策的范畴。其中包括：
人工智能能否创造真正的新知识？ 目前大多数模型都是基于海量的现有人类知识进行训练的。它们能否推断出关于宇宙本质的真正新颖见解，还是最终只是将已知信息重新组合的复杂系统？
制度化的科学将会发生什么？ 如果人工智能可以半自主地进行研究，这是否意味着任何人都可以有效地“成为”科学家？我们所熟知的大学和研究机构是否仍将是知识生产的主要场所？如果是这样，科学家的角色是否会越来越多地从发现转向验证，例如事实核查、结果复现和人工智能生成结果的验证？
我们如何建立对人工智能所产生的知识的信任？ 几个世纪以来，科学界发展出了一套验证知识的规范和机制——同行评审、可重复实验、开放数据等等。这些规范和机制是为人类创造的科学成果而设计的，它们可能无法完全适用于人工智能创造的科学成果。
开放科学是否在无意中增强了私营部门科学的能力？ 人们普遍认为，向开放获取和开放数据转型是一件好事。但公共领域科学知识的日益普及也意味着商业科技公司可以随意获取这些知识，用于训练和改进其人工智能模型。这在科学作为全球公共产品的理想与一种越来越缺乏对全球科学界负责的新型知识生产体系的风险之间，造成了潜在的矛盾。
令人不安的现实是，负责科学治理的组织和机构似乎大多缺席了这场讨论。多边体系的关注点自然是人工智能的伦理和治理。各个科研资助机构和大学则致力于更新其政策，以确保人工智能工具的负责任使用。这些都是对当前压力的必要回应。
但是，关于科学的未来本质、人类研究人员的未来角色、知识生产作为公共产品的未来等更重要的问题，在制度层面却大多无人问津。 科学系统未来项目 国际科学理事会发起的一个项目正是试图研究其中的一些问题，探讨新兴技术如何重塑全球南方国家的科学体系。但这类讨论仍然太少。
与此同时，一线研究人员正在迅速采用人工智能，其应用往往远超任何机构的指导。这暴露出一个真正的脱节：科学界的领导者们仍在努力理解人工智能的本质及其可能带来的变革，而实际操作者们早已投身于变革之中。
说得直白些，我们是不是在开车时睡着了？
本文的论点并非在于我们能否或应该放慢人工智能在科学领域的应用速度，也并非是在发出绝望的警告。而是呼吁科学界跳出眼前的局限，放眼长远——不仅要思考“我们今天如何负责任地使用人工智能？”，还要思考“十年或二十年后，我们想要怎样的科学体系？实现这一目标需要付出怎样的努力？”
这意味着要创造空间，开展一种不同的对话，汇聚那些对不确定性、知识生产的长期发展历程以及现有框架的局限性进行严谨思考的专家。这些对话将不再侧重于应对当前人工智能的治理措施，而是更多地关注各种可能的未来发展方向以及如何为之做好准备。
这也意味着要确保包括研究人员和政策制定者在内的科学界拥有必要的概念工具，以便作为知情的参与者而非变革的被动接受者来参与这些问题的讨论。这些工具包括思考人工智能主体性的框架、机器生成知识的认识论，以及谁来掌控研究议程的长期影响等问题。
抢占先机的窗口期正在缩小。有组织的科学界有机会，甚至可以说有责任，去塑造人工智能如何变革知识生产，而不是仅仅适应完全由他人驱动的变革。
这一切都始于提出正确的问题。而我们现在还没有提出这些问题。
阅读更多关于太平洋科学院推出首个人工智能驱动研究平台和区域研发评估报告的内容
