慎用人工智能参与同行评议

随着学术出版领域的快速发展，人工智能技术在同行评议中的应用逐渐受到关注。尽管这些自动或半自动工具的广泛应用带来了诸多便利，但也引发了方面的担忧。英国《自然》杂志近期发表了一项由斯蒂芬·平菲尔德教授、亚历山德罗·切科教授等人共同完成的研究，深入探讨了人工智能在同行评议中的潜力、危险和不确定性。

尽管学术论文数量急剧增长，但同行评议的工作压力也在持续上升。由于期刊间很少共享评议意见，且缺乏统一的行业标准，被某家期刊退回的稿件在转投其他期刊时往往需要再次经历漫长的同行评议过程。这种情况在全球范围内造成了巨大的时间浪费。为了应对这一问题，切科及其团队开始探索人工智能在同行评议中的应用。

目前，人工智能工具并未直接用于评估论文的质量，而是更多地在消灭抄袭行为、检查合规性以及匹配评议员与待评论文方面发挥作用。切科等人希望通过进一步的研究，弄清人工智能在哪些环节中能够发挥最大的作用，尤其是在那些需要大量智力投入和专业知识但相对枯燥的环节。人工智能的应用也有助于揭示和减轻存在于同行评议过程中的性别、语言和机构等方面的偏见。

在研究过程中，切科团队收集了大量国际性学术会议的资料，并利用这些数据设计了一个神经网络模型。这个模型通过分析论文的词频、可读性、格式元素等特征，来预测同行评议的结果。令人惊讶的是，即使只采用这些相对表面的特征，机器学习系统也能较准确地预测人类评议员的决定。

这一发现为人工智能在学术出版领域的应用提供了新的视角。论文的表面特征可以作为衡量其整体质量的重要标志。如果论文在这些表面特征上得分较低，那么它可能面临被同行评议员拒绝的风险。在这种情况下，人工智能工具可以帮助作者在同行评议前识别并修改这些问题。人工智能工具还有助于节约同行评议员的时间和精力。通过标记出低质量的稿件，编辑可以直接拒绝这些稿件，而无需交给同行评议员进行进一步的评估。

在投稿的海洋中，有一款全新的智能工具正在崭露头角。这款工具犹如一位敏锐的检测员，能够在第一时间发现稿件中的表面问题，提醒作者及时修改，避免遭遇拒稿的命运。尽管它可能会对一些独特而高质量的文字或格式选择发出警示，但作者拥有最终的决定权，可以根据实际情况进行调整。它的存在，让同行评议的过程更加纯粹，聚焦于论文的实质科学内容，减少“第一印象偏见”的影响。

在人工智能的助力下，同行评议过程也面临着一些关键的风险。由于机器学习技术的训练数据主要来源于过去，因此本质上具有保守性。当使用这种自动工具来辅助未来决策时，必须警惕可能出现的复制偏见或其他意外后果。比如，某些来自历史上科学文献代表性较低的国家所提交的论文可能会遭受不公平的待遇，因为人工智能可能无法充分考虑到这些国家在随着时间推移所展现出的研究进步。期刊编辑在挑选同行评议员时，也存在着地域性的偏见，如“最小可发表单位”报告所揭示的那样，美国学者在全球同行评议中占据显著地位。

在研究人员的眼中，新出现的这三个关键的风险需要我们深思。第一，算法的不透明性可能导致不信任。当原始数据与模型预测之间的联系难以解释时，特别是在同行评议决策中，算法的透明度至关重要。我们应该努力增加模型工作方式的透明度，以便对决策进行解释并证明其正当性。第二，模型的构建是基于设计者的特定价值观和目标，这些价值观和目标可能会“凝固于代码当中”，从而传播甚至扩大已有的文化和组织偏见。第三，即使只是用机器学习模型来标记有问题的论文或提供参考意见，模型对文稿的解读也可能影响同行评议员的能动性。模型标记的行为本身可能会提升某些因素在评议员心中的重要性。

关于未来的研究方向，专家们给出了几点建议。我们需要通过实验研究了解同行评议员在使用人工智能工具时的行为，以消除模型信号给评议员制造的偏见。为了更好地训练人工智能工具，我们应该采用完整的同行评议结果（包括具体意见），而不仅仅是接受或拒绝的建议。我们还需要扩大对“第一印象偏见”的研究范围，将更多指标纳入考量。我们还需要在不同学科背景下设计和应用可执行半自动质量评估任务的人工智能工具。如何借助人工智能技术来评估科研经费申请也是一个值得探索的方向。对于这一切的探索和实践都离不开科研人员的深入研究和大胆尝试。在此过程中也需要不断地寻求创新和完善以保持科研工作的公平性和准确性。这一切的背后离不开科研人员的不懈努力和对科研工作的热爱和执着追求。人工智能工具的出现为学术出版带来了新的机遇和挑战让我们一起期待一个更加公正、高效、精准的学术出版未来吧！该文章的作者是王悠然。