AI intensifica la lucha contra las 'fábricas de papel' que producen investigaciones falsas

Apr 28, 2023

También puede buscar este autor en PubMed Google Scholar

Tiene acceso completo a este artículo a través de su institución.

Las herramientas de inteligencia artificial que pueden generar imágenes y texto realistas dificultan la detección de investigaciones falsas. Crédito: Westend61/Alamy

Los avances en inteligencia artificial (IA) están complicando los esfuerzos de los editores para abordar el creciente problema de las fábricas de papel, empresas que producen artículos científicos falsos por encargo. Las herramientas de IA generativa, incluidos los chatbots como ChatGPT y el software de generación de imágenes, brindan nuevas formas de producir contenido de fábricas de papel, que podría resultar particularmente difícil de detectar. Estos fueron algunos de los desafíos discutidos por expertos en integridad de la investigación en una cumbre el 24 de mayo, que se centró en el problema de la fábrica de papel.

Detector de fábrica de papel puesto a prueba para acabar con la ciencia falsa

"La capacidad de las fábricas de papel para generar datos sin procesar cada vez más plausibles se disparará con la IA", dice Jennifer Byrne, bióloga molecular e investigadora de integridad de publicaciones en New South Wales Health Pathology y la Universidad de Sydney en Australia.

"He visto imágenes de microscopía falsas que fueron generadas por IA", dice Jana Christopher, analista de integridad de datos de imágenes en la editorial FEBS Press en Heidelberg, Alemania. Pero ser capaz de probar más allá de toda sospecha que las imágenes son generadas por IA sigue siendo un desafío, dice ella.

Las herramientas de inteligencia artificial que generan lenguaje, como ChatGPT, plantean un problema similar. "Tan pronto como tenga algo que pueda mostrar que ChatGPT generó algo, habrá alguna otra herramienta para codificar eso", dice Christopher.

Anna Abalkina, científica social de la Universidad Libre de Berlín y analista independiente de integridad de la investigación, sospecha que podría haber un retraso en que estas herramientas de IA se vuelvan más evidentes en la literatura académica debido a la duración del proceso de revisión por pares. Quizás en los próximos meses, "veremos la primera corriente de artículos", dice.

Byrne, Christopher y Abalkina participaron en la cumbre UNITED2ACT la semana pasada, que fue convocada por el Comité de Ética de la Publicación (COPE), una organización sin fines de lucro enfocada en la ética en la publicación académica con sede en Eastleigh, Reino Unido, y la Asociación Internacional de Ciencias , Technical and Medical Publishers (STM), con sede en Oxford. La cumbre reunió a investigadores internacionales, incluidos analistas independientes de integridad de la investigación, así como a representantes de organismos de financiación y editoriales.

La lucha contra las fábricas de papel falso que producen ciencia falsa

"Fue la primera vez que un grupo de personas se reunió y co-creó un conjunto de acciones que vamos a llevar adelante para combatir este problema", dice Deborah Kahn, fideicomisaria de COPE y consultora de integridad de la investigación. , con sede en Londres. El grupo tiene la intención de publicar su plan de acción conjunto pronto.

Cuando se trata de detectar trabajos en una fábrica de papel, "existe absolutamente un desafío adicional que plantean las imágenes sintéticas, el texto sintético, etcétera", dice Joris van Rossum, director de programa de STM Solutions, una subsidiaria de STM. "Hay una comprensión general de que existe la posibilidad de que la detección se vuelva más difícil", dice.

Kahn dice que, aunque sin duda habrá usos positivos de la IA para ayudar a los investigadores a redactar artículos, seguirá siendo necesario distinguir entre los artículos legítimos escritos con IA y los que han sido completamente fabricados. "Realmente tenemos que ver cómo identificamos esas cosas y cómo nos aseguramos de que las personas realmente hayan realizado la investigación. Y hay varias formas en que podemos hacerlo", dice ella.

Una estrategia discutida durante la cumbre fue exigir a los autores que proporcionaran los datos sin procesar de los experimentos, posiblemente con marcas de agua digitales que permitirían a los editores confirmar que esos datos son genuinos.

Cientos de artículos incomprensibles aún acechan en la literatura científica

Actualmente, los requisitos para enviar datos sin procesar varían significativamente entre los editores, dice Christopher. Por lo tanto, podría ser útil establecer un conjunto uniforme de requisitos para el envío de datos sin procesar entre los editores, teniendo en cuenta las diferencias entre los campos de investigación, dice.

Sabina Alam, directora de ética e integridad editorial de Taylor & Francis, una editorial con sede en Abingdon, Reino Unido, está de acuerdo, pero dice que llevará tiempo implementar dichos estándares. "No puedo imaginar que sea un cambio de la noche a la mañana, porque la realidad es que muchas instituciones no tienen los recursos para ofrecer infraestructura de gestión de datos", dice. "No queremos penalizar la investigación real".

La cumbre también discutió otras estrategias para abordar el problema de las fábricas de papel de manera más amplia, incluida la organización de un día o una semana de concientización para los investigadores, así como la identificación de formas para que los editores compartan información relevante sobre las fábricas de papel sospechosas, por ejemplo, cuando los editores reciben presentaciones simultáneamente. sin infringir las normas de protección de datos.

STM continúa desarrollando su propio software de detección de fábricas de papel, al mismo tiempo que recopila recursos sobre herramientas similares disponibles en otros lugares a través de su centro de integridad. El aparente aumento de las fábricas de papel aumenta la demanda de tales técnicas, tanto para detectar documentos falsos en el punto de envío como para identificar aquellos que ya están publicados.

Taylor & Francis se encuentra entre los editores que están haciendo uso de tales herramientas, y Alam dice que un número creciente de casos de ética, instancias de posibles malas conductas que se marcan para una mayor investigación, se están derivando a su equipo. Aproximadamente la mitad de estos casos se deben a las fábricas de papel, según Alam. Su equipo vio que la cantidad de casos de ética se multiplicó por más de diez entre 2019 y 2022, y en lo que va del año, ha habido casi tantos casos como durante todo 2022. "Parece que se ha comercializado y ampliado", dijo. dice.

Naturaleza618, 222-223 (2023)

doi: https://doi.org/10.1038/d41586-023-01780-w

Detector de fábrica de papel puesto a prueba para acabar con la ciencia falsa

El software 'Papermill alarm' detecta documentos potencialmente falsos

La lucha contra las fábricas de papel falso que producen ciencia falsa

Cientos de artículos incomprensibles aún acechan en la literatura científica

¿Qué hace funcionar a un detective científico encubierto? Detective de papel falso habla

Los editores se unen para abordar las imágenes manipuladas en los trabajos de investigación

Las reglas de mala conducta en investigación de China apuntan a las 'fábricas de papel' que producen estudios falsos

Por qué Nature no permitirá el uso de IA generativa en imágenes y video

Editorial 07 JUN 23

Preservar la diversidad cultural en los nombres de los autores

Correspondencia 06 JUN 23

Investigadores de Tanzania ofrecieron US$22.000 para publicar en revistas internacionales

Noticias 06 JUN 23

¿Eres un postdoctorado que trabaja en la academia o la industria? Comparte tus experiencias profesionales con Nature

Noticias de carrera 07 JUN 23

Cómo la escritura de guiones puede ayudar a su redacción de subvenciones

Columna de carrera 07 JUN 23

El sorprendente beneficio de los paseos meditativos

Columna de carrera 07 JUN 23

Beca posdoctoral de dos años sobre entierro de carbono en sedimentos marinos en la Universidad de Umeå, Suecia

Umea, Suecia

Universidad de Umeå (KBC)

¡Únase a nosotros y cree un futuro brillante juntos!

Shanghai, China

Universidad de Ciencia y Tecnología de China Oriental (ECUST)

Southern University of Science and Technology (SUSTech) es una universidad pública de investigación financiada por la ciudad de Shenzhen. Ampliamente considerado como un pionero y yo...

Shenzhen

Universidad del Sur de Ciencia y Tecnología (SUSTech)

La Academia de Ciencias de China busca científicos excepcionales y creativos para unirse a su cuerpo docente.

Shanghai, China

El Instituto de Neurociencia,Centro de Excelencia en Ciencia Cerebral y Tecnología de Inteligencia,CAS

Ubicada en la ciudad histórica y cultural de Nanjing, la CPU busca científicos talentosos de todo el mundo.

Nanjing, Jiangsu, China

Universidad Farmacéutica de China