Si bien las nuevas herramientas de Inteligencia Artificial Generativa se han asociado, con argumentos válidos, al contenido engañoso y a las falsedades; un nuevo sistema de IA procura sumar rigurosidad a la escena científica. Se trata de una plataforma que busca en forma automatizada revistas con artículos cuestionables. Son publicaciones que integran un ecosistema en el que circulan dádivas debajo de la mesa y estrategias para eludir el escrutinio de los expertos.
“Hay un esfuerzo creciente entre científicos y organizaciones para verificar estas revistas”, señala Daniel Acuña, autor del estudio y profesor asociado del Departamento de Ciencias de la Computación de la Universidad de Colorado en Boulder, Estados Unidos. La imagen que elige es elocuente: “Es como jugar a golpear topos: atrapás a uno y luego aparece otro, generalmente de la misma empresa. Simplemente, crean un nuevo sitio web y le dan un nuevo nombre”.
La plataforma de IA que desarrollaron, cuyo funcionamiento se detalló recientemente en Science Advances, aborda esta tendencia alarmante en la ciencia. La clave es la detección automatizada de revistas ayunas de rigor, que abundan y se reproducen, en muchos casos pidiendo dinero a investigadores ávidos por publicar, a cualquier precio.
“En ciencia, se construye sobre cimientos”
Acuña cuenta que varias veces en la semana recibe mensajes en su bandeja de entrada de remitentes que se hacen pasar por editores de revistas científicas. Los descarta, porque jamás oyó hablar de esas plataformas. Además, una variable las deschava: piden dinero a cambio de la publicación. El investigador las describe como “depredadoras”: son aquellas que divulgan artículos con pretensiones científicas, pero sin la debida revisión por pares.
“En ciencia, no se empieza desde cero. Se construye sobre la base de la investigación de otros”, enfatiza Acuña al respecto. “Si los cimientos de esa torre se derrumban, todo se derrumba”, advierte.
El sistema que creó el equipo de la universidad estadounidense identifica una serie de patrones en las revistas científicas chatarra para, al reconocerlos, poner el grito en el cielo.
¿Cómo funciona la IA que detecta la basura de la ciencia?
“Las revistas cuestionables amenazan la integridad de la investigación global, y las verificaciones manuales puede ser lentas y poco flexibles”, notaron los autores en su estudio. La plataforma que diseñaron propone una solución, valiéndose del potencial de la IA y de su mirada de amplio espectro.
En la práctica, el sistema examina diversas variables en las publicaciones, comenzando por el contenido y eventuales errores gramaticales, pasando por detalles del diseño web, hasta los metadatos, la información que está detrás de aquello que es visible para los internautas. Además, se contemplan aspectos, como la cantidad de artículos: las depredadoras, dicen, acostumbran sacar muchos al mes.
“Nuestro método logra una precisión práctica y revela indicadores de legitimidad de las revistas que antes se pasaban por alto. Al ajustar el umbral de decisión, puede priorizar una revisión exhaustiva o una identificación precisa y con bajo nivel de ruido”, aseguran.
Las primeras pruebas del modelo fueron auspiciosas, con más de 1.000 revistas sospechosas identificadas que reúnen miles de artículos y reciben millones de citas. En ellas, encontraron puntos débiles como libros clasificados erróneamente y títulos discontinuados. “Nuestros hallazgos demuestran el potencial de la IA para realizar verificaciones de integridad escalables, a la vez que resaltan la necesidad de combinar la automatización con la revisión humana”, cierran los especialistas.
El sistema no es perfecto: la intervención humana sigue siendo clave
“En una época en la que figuras prominentes de la sociedad cuestionan la legitimidad de la ciencia, frenar la proliferación de publicaciones cuestionables se ha vuelto más importante que nunca”, sostiene Acuña. El profesor de Ciencias de la Computación remarca que, en última instancia, siempre será necesario que las decisiones sean tomadas por humanos.
El sistema de IA que identifica la chatarra de la ciencia, que es descripto como un “antivirus para el conocimiento” riguroso, no es de acceso público, pero sus creadores lo pondrán a disposición de editoriales y universidades, informó Eureka Alert. Acuña reconoce que aún hay variables para mejorar. “Como informático, habitualmente uso como ejemplo el lanzamiento de un smartphone. Sabemos que el software puede tener fallas, pero también que se pueden corregir en el futuro. En la ciencia, probablemente deberíamos hacer lo mismo”, cierra.
