Por qué Nature no permitirá el uso de IA generativa en imágenes y video

Dec 09, 2023

Tiene acceso completo a este artículo a través de su institución.

Nature no publicará imágenes creadas total o parcialmente con IA generativa. Crédito: Artem Medvediev/Alamy

¿Debería Nature permitir el uso de inteligencia artificial generativa (IA) en la creación de imágenes y videos? Esta revista ha estado discutiendo, debatiendo y consultando sobre esta cuestión durante varios meses tras la explosión de contenido creado con herramientas de IA generativa como ChatGPT y Midjourney, y el rápido aumento de las capacidades de estas plataformas.

Aparte de los artículos que tratan específicamente sobre IA, Nature no publicará ningún contenido en el que se hayan creado fotografías, videos o ilustraciones utilizando total o parcialmente IA generativa, al menos en el futuro previsible.

Se les pedirá a los artistas, cineastas, ilustradores y fotógrafos a quienes contratamos y con los que trabajamos que confirmen que ninguno de los trabajos que envían se haya generado o aumentado utilizando IA generativa (ver go.nature.com/3c5vrtm).

Herramientas como ChatGPT amenazan la ciencia transparente; aquí están nuestras reglas básicas para su uso

¿Por qué no permitimos el uso de IA generativa en contenido visual? En última instancia, es una cuestión de integridad. El proceso de publicación, tanto en lo que respecta a la ciencia como al arte, está respaldado por un compromiso compartido con la integridad. Eso incluye la transparencia. Como investigadores, editores y editores, todos necesitamos conocer las fuentes de los datos y las imágenes para que puedan verificarse como precisos y verdaderos. Las herramientas de IA generativa existentes no brindan acceso a sus fuentes para que dicha verificación pueda ocurrir.

Luego está la atribución: cuando se usa o se cita un trabajo existente, se debe atribuir. Este es un principio básico de la ciencia y el arte, y las herramientas de IA generativa no se ajustan a esta expectativa.

El consentimiento y el permiso también son factores. Estos deben obtenerse si, por ejemplo, se están identificando personas o está involucrada la propiedad intelectual de artistas e ilustradores. Una vez más, las aplicaciones comunes de IA generativa fallan en estas pruebas.

Los sistemas de IA generativa se están entrenando en imágenes para las que no se ha hecho ningún esfuerzo por identificar la fuente. Las obras protegidas por derechos de autor se utilizan habitualmente para entrenar la IA generativa sin los permisos correspondientes. En algunos casos, también se viola la privacidad, por ejemplo, cuando los sistemas generativos de IA crean lo que parecen fotografías o videos de personas sin su consentimiento. Además de las preocupaciones por la privacidad, la facilidad con la que se pueden crear estos 'deepfakes' está acelerando la difusión de información falsa.

Por ahora, Nature permite la inclusión de texto producido con la ayuda de IA generativa, siempre que se haga con las advertencias correspondientes (ver go.nature.com/3cbrjbb). El uso de tales herramientas de modelo de lenguaje grande (LLM) debe documentarse en la sección de métodos o agradecimientos de un artículo, y esperamos que los autores proporcionen las fuentes de todos los datos, incluidos los generados con la ayuda de IA. Además, ninguna herramienta LLM será aceptada como autor en un trabajo de investigación.

El mundo está al borde de una revolución de la IA. Esta revolución es muy prometedora, pero la IA, y en particular la IA generativa, también está cambiando rápidamente las convenciones establecidas desde hace mucho tiempo en la ciencia, el arte, la publicación y más. Estas convenciones, en algunos casos, han tardado siglos en desarrollarse, pero el resultado es un sistema que protege la integridad en la ciencia y protege a los creadores de contenido de la explotación. Si no tenemos cuidado en nuestro manejo de la IA, todas estas ganancias corren el riesgo de desmoronarse.

Muchos sistemas normativos y legales nacionales todavía están formulando sus respuestas al auge de la IA generativa. Hasta que se pongan al día, como editor de investigación y trabajos creativos, la postura de Nature seguirá siendo un simple "no" a la inclusión de contenido visual creado con IA generativa.

Naturaleza618, 214 (2023)

doi: https://doi.org/10.1038/d41586-023-01546-4

Herramientas como ChatGPT amenazan la ciencia transparente; aquí están nuestras reglas básicas para su uso

Cómo utilizan ChatGPT los lectores de Nature

'Carrera armamentista con la automatización': los profesores se preocupan por los cursos generados por IA

Preservar la diversidad cultural en los nombres de los autores

Correspondencia 06 JUN 23

Investigadores de Tanzania ofrecieron US$22.000 para publicar en revistas internacionales

Noticias 06 JUN 23

El modelo de publicación 'no paga' del consejo de la UE genera respuestas mixtas

Noticias 02 JUN 23

AI aprende a escribir software de clasificación por su cuenta

Noticias y opiniones 07 JUN 23

DeepMind AI crea algoritmos que clasifican datos más rápido que los creados por personas

Noticias 07 JUN 23

ChatGPT: pautas estándar de informes para un uso responsable

Correspondencia 06 JUN 23

Anonimizar la revisión por pares hace que el proceso sea más justo

Carrera Noticias 26 MAYO 23

China supera a Estados Unidos en contribución a la investigación en Nature Index

Índice de Naturaleza 19 23 DE MAYO

Por qué vale la pena hacer que los métodos computacionales sean fáciles de usar

Columna de carrera 27 ABR 23

San Antonio, Texas

El Centro de Ciencias de la Salud de la Universidad de Texas en San Antonio (UT Health Science Center en San Antonio)

Kiel, Schleswig-Holstein (DE)

Centro Helmholtz de Investigación Oceánica de Kiel (GEOMAR)

Sábado, 8 de julio de 2023, Tokio Domingo, 9 de julio de 2023, Osaka ¡La inscripción para este evento ya está abierta!

Tokio y Osaka, Japón

Carreras en la naturaleza

Basado en los esfuerzos conjuntos de todo el personal y los estudiantes, así como el apoyo sustancial de todos los sectores de la sociedad.

Beijing, China

Facultad de Ciencias del Agua, Universidad Normal de Beijing

La Agencia de Sanidad Animal y Vegetal (APHA) es una agencia ejecutiva del Departamento de Medio Ambiente, Alimentación y Asuntos Rurales, y trabaja en nombre de la S

Addlestone, Surrey

Agencia de Sanidad Animal y Vegetal