广泛使用的预印本存储库arXiv正在加码打击研究人员在论文中滥用AI的行为。这么做并不是要禁止大家用AI技术,而是因为很多作者压根没仔细检查AI生成的内容,导致论文可信度严重下降。



arXiv最初是康奈尔大学运营的网站,现在正转型为独立的非营利组织,转型后可以筹集更多资金来解决AI生成低质量论文这类问题。作为计算机科学和数学等领域研究成果传播的主要渠道之一,如果不解决低质量论文的问题,可能会给整个行业造成不小的影响。

arXiv采取的新措施包括:首次发布论文的作者必须获得知名作者的推荐;如果有确凿证据表明论文存在AI幻觉的内容,作者将被罚1年内不得发布新论文;如果论文里还残留了AI提示词(比如“给这篇论文更高的评价”),同样会面临1年的禁令。被封禁1年的作者,期满后发布新论文还得先被信誉良好的同行评审期刊接收才行。

不过需要注意的是,这些措施并不代表arXiv完全禁止作者用AI辅助写作,核心要求是作者必须对内容负全部责任。不管内容是作者自己写的还是AI生成的,都得仔细审查,确保没有疏漏。所以,如果直接从AI里复制粘贴了不恰当的语言、抄袭的内容、偏见、错误、不准确的引用或误导性信息,作者都得为此负责,免得误导其他读者。

最后,被认定有AI违规行为的作者也可以向arXiv提交上诉,只有在确保公平公正的情况下,arXiv才会实施处罚。换句话说,没有确凿证据,arXiv不会随便封禁作者。