在科学家们越来越倾向于使用人工智能（AI）工具来协助研究项目的过程中，一些著名的学者，如耶鲁大学的Lisa Messeri博士和普林斯顿大学的Molly Crockett博士，对完全将任务委托给算法的诱惑发出了警告。他们在最近发表在《自然》杂志上的同行评议论文中指出，过度依赖AI可能会导致科学探究的一个阶段：虽然生产的东西更多，但理解的东西确实更少。
Messeri和Crockett通过对已发表的论文、手稿、会议记录和书籍进行广泛的审查，确定了一些可能误导研究人员对AI研究辅助工具产生过度信任的“幻觉”。这些幻觉，如《自然》总结的那样，包括：
– 解释深度幻觉：依赖AI或其他人获取知识可能会导致误以为自己的理解比实际更深。
– 探索广度幻觉：AI系统可能会通过偏向容易由算法测试的主题而无意中偏向研究，可能会忽视需要具体体现的主题。
– 客观性幻觉：研究人员可能错误地认为AI系统具有一切可能的观点或没有任何立场。然而，这些工具只反映了它们接受培训数据中存在的观点，包括任何偏见。
根据Messeri和Crockett的说法，这些幻觉源于科学家对AI可以实现的误解或理想化版本。他们强调了三种常见的愿景：
– AI作为神谕：研究人员可能视AI工具能够彻底审查科学文献并理解其内容。这可能导致他们相信这些工具比人类更广泛地调查论文。
– AI作为仲裁者：自动系统可能被视为比人类更客观，使其更适合解决分歧。但是，AI工具也可能表现出偏见或偏袒特定观点。
– AI作为量化工具：相信AI能够超越人类在分析复杂数据集方面的限制可能会导致研究人员仅仅依赖AI进行量化分析。
《自然》杂志的编辑强调，科学界必须将使用AI视为一种需要深思熟虑的明智选择，而不是不可避免的解决方案。
阅读Messeri和Crockett的论文（在付费墙后面），和相关社论。
常见问题解答
1. 科学家为什么应该谨慎过度依赖AI进行研究？
科学家必须谨慎过度依赖AI进行研究，因为这可能导致更多的产出，但实际理解更少。过度依赖AI工具可能产生知识和理解的幻觉，可能会掩盖这些系统固有的实际限制和偏见。
2. Messeri和Crockett确定的三种常见幻觉是什么？
Messeri和Crockett确定的三种常见幻觉分别是解释深度幻觉、探索广度幻觉和客观性幻觉。当研究人员错误地认为AI工具能提供更深刻的理解、涵盖更广泛的研究领域以及提供无偏见的观点时，这些幻觉就会出现。
3. AI作为神谕的愿景有何问题？
将AI视为神谕的愿景可能会有问题，因为它会导致研究人员过度依赖AI工具来审查科学文献。这可能导致研究人员相信这些工具能比人类更全面地调查论文，可能会错过需要人类解释的宝贵见解。
4. 科学界在使用AI进行研究时应考虑什么？
科学界在使用AI进行研究时应该将其视为一个明智选择，考虑其中存在的风险和好处。研究人员应该仔细权衡使用AI在特定研究任务中的优势和局限，而不是将其视为万能药或不可避免的解决方案。
定义：
– 人工智能（AI）：开发能够执行通常需要人类智能的任务的计算机系统的领域，如视觉感知、语音识别和决策制定。
– 同行评议：专家在研究发表之前评估其质量和有效性的过程。
– 解释深度：认为自己对某一主题的理解比实际更深，通常是因为依赖AI或其他人获取知识。
– 探索广度：AI系统涵盖的研究领域的广度或范围，可能会偏向易于算法测试的主题，而忽视那些需要具体体现的主题。
– 客观性：AI系统缺乏任何立场或具有所有可能观点的感知。然而，AI工具反映了它们接受培训数据中存在的观点，包括任何偏见。
– 神谕：将AI视为具有无所不知的工具，能够彻底审查科学文献并理解其内容的愿景。
– 仲裁者：将AI系统视为比人类更客观的感知，使其更适合解决分歧的感知。
The source of the article is from the blog kunsthuisoaleer.nl