La revisión por pares es el filtro central de la publicación científica. Expertos independientes evalúan la rigurosidad, originalidad y relevancia de cada manuscrito antes de ser aceptado. Sin embargo, un artículo científico redactado por inteligencia artificial acaba de superar este filtro sin ser identificado como tal, planteando preguntas sin precedentes sobre el futuro de la investigación académica.
The AI Scientist, un sistema que abarca todas las etapas de la investigación
La empresa Sakana AI, en colaboración con la Universidad de Columbia Británica y la Universidad de Oxford, ha desarrollado el sistema llamado The AI Scientist. Este sistema no solo redacta texto, sino que formula hipótesis de investigación, escribe el código informático necesario, ejecuta experimentos, analiza resultados, produce gráficos y redacta la totalidad del manuscrito.
Para probar sus capacidades, el equipo sometió 3 artículos generados por esta IA a un taller de la conferencia ICLR 2025, uno de los eventos más importantes en el campo del aprendizaje automático. La experiencia recibió la aprobación de un comité de ética de la Universidad de Columbia Británica y se llevó a cabo con el consentimiento de los organizadores de la conferencia.
Según un estudio publicado en Nature, los evaluadores asignaron a uno de los tres artículos calificaciones de 6, 7 y 6, con un promedio de 6.33, suficiente para ser aceptado. Este puntaje posicionó este artículo por encima del 55% de los artículos presentados por humanos en el mismo taller.
Un artículo científico redactado por IA, pero plagado de errores
A pesar de este aparente éxito, el sistema presenta defectos significativos. Según reporta Phys.org, la IA produce alucinaciones, es decir, información inventada presentada como verídica. Entre los problemas observados se encuentran citas bibliográficas ficticias y figuras duplicadas sin justificación.
Además, la tasa de aceptación del taller oscilaba entre el 60 y el 70%, un umbral mucho menos selectivo que el de las conferencias principales, que se sitúa en torno al 20 al 30%. En otras palabras, el nivel alcanzado por la IA no corresponde al nivel de exigencia más alto de la comunidad científica.
Sin embargo, la experiencia demuestra que los revisores humanos no identificaron el origen artificial del manuscrito. Este hallazgo cuestiona la capacidad del actual sistema de revisión por pares para distinguir entre un trabajo humano y uno automatizado.
Hacia una inflación de publicaciones automatizadas
La llegada de estas herramientas suscita preocupaciones legítimas en el mundo académico. Si una IA puede producir artículos aceptables en cuestión de horas, nada impide generar cientos de presentaciones simultáneas. Los comités de revisión, ya sobrecargados, podrían verse abrumados por un flujo de manuscritos artificiales.
Paralelamente, esta tecnología podría dar lugar a una inflación de publicaciones. En un sistema donde la cantidad de artículos publicados influye en las carreras, la tentación de recurrir a la IA para aumentar las presentaciones parece evidente. Algunos observadores también temen que actores realicen experimentos no éticos, imposibles de supervisar humanamente, y luego los publiquen de forma automatizada.
No obstante, otras voces destacan el potencial positivo de la automatización. Liberados de tareas repetitivas, los investigadores podrían centrarse en la creatividad y la interpretación. La cuestión central no es si la IA escribirá artículos de investigación, sino cómo la comunidad científica adaptará sus mecanismos de control para absorber su impacto.
