Research

La revisión por pares en robótica, bajo presión: los artículos científicos se acercan a los 70.000

Un panel de ICRA concluyó que solo 69 de 347 artículos de aprendizaje por demostración de 2024 fueron destacables, mientras la revisión por pares en robótica se tensa por el crecimiento.

Robotics Peer Review Under Strain as Papers Near 70,000

Un análisis de un solo año sobre la investigación en aprendizaje por demostración identificó 347 artículos relevantes publicados en 2024, de los cuales solo 69, alrededor del 20 %, hicieron aportaciones destacables. El resultado se presentó en un panel de ICRA sobre el aluvión de publicaciones en robótica, donde los investigadores debatieron cómo puede el sector afrontar su volumen de producción científica y qué debería cambiar en la revisión por pares en robótica.

La presidenta del panel, Aude Billard, señaló el rápido crecimiento en los principales foros de la IEEE Robotics and Automation Society, siguiendo una curva aproximadamente exponencial que arrancó hacia 2017. Una estimación para 2025 sitúa en unos 70.000 el número de artículos que contienen la palabra robótica.

Qué reveló un año de lectura

Kunpeng Yao presentó un estudio de caso financiado por el IEEE RAS Science and Technology Watch Board. El equipo se propuso leer con detenimiento un subcampo completo a lo largo de un único año. Buscaron en IEEE Xplore los artículos de 2024 sobre aprendizaje por demostración, cribaron los resultados de forma manual e identificaron los 347 artículos relevantes.

Los trabajos considerados destacables solían ofrecer nuevas formulaciones, mecanismos o garantías teóricas. Se comparaban con referencias de vanguardia sólidas, mostraban mejoras claras en robustez, transferencia o recuperación ante fallos, introducían nuevas modalidades de enseñanza o de recopilación de datos y validaban sus afirmaciones en robots reales. Los artículos resultaban menos convincentes cuando rebautizaban enfoques ya existentes o no demostraban lo que afirmaban.

La lección de Yao fue que la relevancia debe juzgarse frente al estado del arte, no frente al vocabulario más reciente. El panel apuntó que el trabajo útil a veces se esconde en foros menos de moda o lo firman grupos menos visibles.

Billard sostuvo que la robótica no puede apoyarse en una especialización estrecha como lo hacen otras disciplinas. Un robot integra percepción, control, manipulación, aprendizaje, hardware, interacción, seguridad y despliegue. Si los investigadores solo pueden seguir compartimentos estancos, el campo pierde su capacidad de conectar ideas entre dominios.

Robotics Peer Review Under Strain as Papers Near 70,000
Robohub

Los LLM y el problema de la falsa comprensión

Nadia Figueroa afirmó que los grandes modelos de lenguaje pueden mejorar la mecánica de la revisión bibliográfica: búsqueda, recuperación, agrupación, tablas, resúmenes y mapas conceptuales preliminares. Un trabajo que antes llevaba semanas o meses puede hacerse a veces en horas, lo que reduce la barrera de entrada para un nuevo doctorando.

Describió tres órdenes de alucinación. El primero son las referencias falsas o incorrectas. El segundo, una referencia real cuyo contenido el modelo expone erróneamente. El tercero, la invención de rasgos comunes plausibles pero falsos entre artículos. "El peligro actual no son las citas falsas", dijo Figueroa. "Es la falsa comprensión".

Una revisión basada en LLM puede citar artículos reales y aun así tergiversar el campo. Si los investigadores delegan no solo la lectura, sino también la comparación, el juicio y la duda, el sector puede acabar produciendo más texto mientras desarrolla menos comprensión.

Incentivos, tipos de artículo y visibilidad

Greg Dudek habló del salami slicing o fragmentación excesiva, que consiste en dividir un conjunto de trabajo en las porciones más finas posibles y repartirlas entre talleres, congresos y revistas. Dijo que el sistema lo premia: los estudiantes necesitan artículos para graduarse, los investigadores noveles los necesitan para conseguir empleo y los comités recurren a títulos, foros, recuentos e índices. Su remedio preferido son menos artículos, pero más integrados. Añadió que no hay solución si esta pasa por volver a un mundo más tranquilo, y comparó las pequeñas reformas de procedimiento con construir mejores muros alrededor de un castillo de arena mientras se aproxima un tsunami.

Renaud Detry señaló que parte del crecimiento refleja una mayor presencia de trabajo aplicado sobre sistemas en foros académicos, lo cual no es necesariamente malo. El problema es que un mismo proceso de evaluación juzga algoritmos, sistemas de ingeniería, benchmarks, conjuntos de datos y estudios de validación industrial como si fueran el mismo tipo de artículo. Propuso vías diferenciadas para ciencia fundamental, aplicaciones, infraestructura, benchmarks y corrección técnica.

Dongheui Lee abordó arXiv, las publicaciones de código abierto, las páginas de proyecto, los vídeos, los blogs y las redes sociales. Estos canales amplían el acceso y favorecen la reproducibilidad, pero la visibilidad puede reflejar el prestigio institucional, las redes de contactos, la rapidez y la autopromoción tanto como el valor científico. Propuso mantener la revisión por pares de expertos como filtro de calidad y aprovechar mejor sus señales, de modo que los comités editoriales y los equipos de comunicación den difusión a artículos bien evaluados procedentes de laboratorios menos conocidos.

Prescindir del guardián

Shigeki Sugano planteó qué ocurriría si se abandonara por completo la revisión por pares. En su modelo, los manuscritos legítimos de robótica e IA irían primero a un archivo abierto con vídeos, código y datos. La evaluación de la comunidad, con identidades verificadas, se haría en público, y las revistas y congresos certificarían el trabajo de alto valor en lugar de decidir qué llega a existir. "La cuestión no es si la revisión por pares es valiosa", dijo. "La cuestión es si debe seguir siendo la única puerta a la visibilidad".

Otros panelistas señalaron como riesgos el sesgo de popularidad, la manipulación del sistema, los efectos de reputación y la avalancha de artículos de baja calidad.

Análisis: lo que el panel establece y lo que no

La cifra más útil de la sesión es el 20 %, porque procede de una lectura manual basada en criterios y no de una opinión. Sugiere que la dificultad no es tanto el número total como el coste de localizar la minoría de artículos que hacen avanzar la frontera. Eso apunta a un mejor filtrado y a categorías de artículos más claras como objetivos más prácticos que recortar el volumen, algo que el propio Dudek describió como improbable.

Las propuestas, además, encajan de forma desigual. Las vías de Detry y la amplificación de los trabajos bien evaluados que plantea Lee mantienen la revisión por pares y cambian lo que esta señala. El modelo de Sugano elimina su función de filtro y traslada la carga a la evaluación pública, justo donde los demás panelistas veían el riesgo de sesgo de popularidad. El argumento de la propia Lee, que la visibilidad sigue al prestigio y la autopromoción, vale tanto para la revisión comunitaria abierta como para las redes sociales.

Varias cuestiones siguen sin demostrarse. El resultado del 20 % abarca un único subcampo en un solo año, de modo que no cabe suponer que se cumpla en otras áreas de la robótica. La cifra de 70.000 es una estimación de artículos que contienen una sola palabra, no un recuento de contribuciones de investigación distintas. Ninguna de las propuestas se presentó con resultados de pruebas, y los beneficios de los LLM que describió Figueroa, horas en lugar de semanas, no se acompañaron de tasas de error medidas para las alucinaciones de segundo y tercer orden contra las que advirtió.

La implicación práctica es acotada pero concreta. Cualquier herramienta o política dirigida al aluvión de publicaciones debería evaluarse según ayude a los lectores a encontrar trabajos que superen el estado del arte y se validen en robots reales, no según procese más artículos. Hasta que eso se ponga a prueba, la coincidencia del panel en que no existe una solución limpia es la conclusión mejor respaldada.

La revisión por pares en robótica, bajo presión: los artículos científicos se acercan a los 70.000