炸裂！Nature：学术打假正式进入AI时代，图片造假藏不住了！
据Nature报道，在一项研究发表在美国癌症研究协会（AACR）出版的十种期刊中的任何一种之前，它都要经过一次不寻常的额外检查。自2021年1月起，AACR一直在同行评审后临时接受的所有手稿上使用人工智能（AI）软件，目的是提醒编辑注意重复的图片，包括那些部分被旋转、过滤、翻转或拉伸的图片。AACR可能走在图像“打假”的前沿。为了避免发表带有被篡改图片的论文（无论是彻头彻尾的欺诈还是不恰当的美化），许多期刊聘请了人员手动扫描提交的手稿是否存在问题，通常使用软件来帮助检查他们发现的内容。但Nature获悉，在过去的一年里，至少有4家出版商已经开始通过AI软件在手稿出版前发现重复/部分重复的内容，从而实现这一过程的自动化。
AI检查图像重复问题（图：Nature）
宾夕法尼亚州费城的期刊运营主管丹尼尔·埃万科 (Daniel Evanko) 表示，AACR尝试了多种软件产品，然后才最终选择了以色列雷霍沃特的Proofig公司的服务，他希望AI筛查能够帮助研究人员并减少发表后的问题。当软件标记图像时，仍然需要专业的编辑来作决定。例如，如果数据集被故意显示两次并带有解释，那么重复的图像可能有情可原。一些重复可能是手稿排版过程中的简单复制/粘贴错误，而不是欺诈，所有这些只能通过编辑和作者之间的讨论来解决。然而，现在AI已经变得足够有效且成本低廉，专家表示，一波AI图像检查助手可能会在未来几年席卷科学出版行业，就像使用软件检查抄袭在十年内成为常规一样。出版业团体还表示，他们正在探索比较不同期刊手稿中图像的方法。
AI比人工检查更快、更大规模地工作——但仍需要编辑监督（图：Nature）
AI图像检查已是“星星之火”
由于对错误或欺诈的担忧，研究人员多年来一直在开发AI图像检查。这些错误或欺诈可能会对科学文献造成更大的污染，远比有限的撤回和更正数量要严重得多。2016年，加州图像分析师顾问、微生物学家伊丽莎白·比克（Elisabeth Bik）牵头对约2万篇生物医学论文进行了人工分析，结果显示，多达4%的论文可能包含有问题的图像重复（通常情况下，每年只有大约1%的论文得到勘误，被撤回的更少）。
去年，出版商们联合起来成立了一个工作小组，为检查论文图像问题的软件制定标准；该组织今年发布了编辑人员应如何处理篡改图片的指导方针，但尚未发布软件方面的指导方针。除了AACR，美国临床研究协会也在7月份开始使用Proofig的软件来处理Journal Clinical Investigation（JCI）和JCI Insight上的稿件，伦敦SAGE出版社也在10月份的5本生命科学期刊上采用了这种软件。Proofig公司的软件从论文中提取图像并将它们成对地进行比较以找到共同特征，包括部分重复。一篇典型的论文会在一两分钟内检查完毕；该软件还可以纠正棘手的问题，例如将高分辨率原始数据压缩成较小文件时可能出现的压缩伪影。计算机比人类视觉更有优势，它不仅不会感到疲倦，运行速度也会更快，而且也不会受到大小、位置、方向、重叠、部分复制和这些因素组合的影响。
Proofig官网（https://www.proofig.com/）与此同时，瑞士出版商Frontiers也开发了自己的图像检查软件作为自动检查系统的一部分，称为 AIRA（人工智能审查助手）。自2020 年8月以来，一个诚信研究团队一直在使用AIRA对所有提交的手稿进行图像检查。它标记的大多数论文实际上没有问题，只有大约10%需要完整性团队的跟进。
Proofig检查图片重复的流程
担忧：AI对抗AI?
尚未采用AI图像筛选的出版商提到了成本和可靠性问题，尽管有些出版商也正在开发自己的检测系统。出版商PLOS表示，他们正在热切关注这项工具的进展，这些工具可以可靠地识别常见的图像完整性问题并且可以大规模应用。Elsevier出版社表示，他们“仍在测试”软件，但旗下一些期刊会在发表前筛选所有已接受的论文，使用软件工具和手动分析来组合检查图片。
2020年4月，Wiley出版社为临时接受的手稿推出了图像筛选服务，目前有120 多家期刊使用，但目前这是由软件辅助的手动筛选。Springer Nature表示，它正在评估一些外部工具，同时整理数据以训练自己的软件，该软件将结合互补的人工智能和人类元素来识别有问题的图像。从长远来看，对软件筛选的依赖也可能会促使欺诈者使用AI来欺骗软件，就像一些人通过调整文本来逃避文本查重一样。
《EMBO Reports》的主编Bernd Pulverer担心正在与基于AI的技术进行军备竞赛，这可能导致无法找到深度的伪造。目前EMBO出版社仍然主要使用手动筛选，因为他们不相信商业产品的成本效益比，而且担心欺诈者可能会了解该软件的工作原理并使用 AI 制作人类和软件都无法检测到的虚假图像。包括国际知名“打假斗士”Elisabeth Bik和Rossner在内的图像完整性专家表示还没有尝试过AIRA或 Proofig，并且很难评估尚未使用标准化测试进行公开比较的软件产品，但Elisabeth Bik表示相信这最终将成为稿件筛选的标准。
知名打假斗士Elisabeth Bik（图：Nature）
未来发展——跨期刊图像检查
目前，AI 图像检查通常在手稿中完成而不是在许多论文中，这将使其计算量越来越大。但商业和学术软件开发商表示，这在技术上是可行的。纽约雪城大学的计算机科学家去年在数千份COVID-19 预印本上运行了他的软件，以查找重复项。Crossref 是一家由15000多个组织组成的美国非营利性合作组织，该组织负责组织跨论文的抄袭检查等，目前正在开展一项调查，询问其成员对篡改图像的担忧、使用的什么软件以及是否可以“跨出版商服务”共享图像。12月，STM Solutions（英国牛津学术出版商行业组织STM的子公司）宣布，他们正在开发一个“基于云的环境”以帮助出版商检查提交的文章是否存在研究诚信问题。STM发言人表示，检测跨期刊的图像篡改、重复和抄袭在其发展路线中占据重要位置。
参考文献
Journals adopt AI to spot duplicated images in manuscripts, Nature 2021. DOI: 10.1038/d41586-021-03807-6https://www.nature.com/articles/d41586-021-03807-6
- 发表于:
- 原文链接：https://page.om.qq.com/page/OTr2ms4rRw-PllfXMNrmFyyQ0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
