kⒶosTICa

Los riesgos de la 'guerra fría' de la IA

Los riesgos de la 'guerra fría' de la IA
La polarización en la investigación de IA puede derivar en sesgos muy peligrosos. - Pixabay

La Inteligencia Artificial (IA) se ha sumado a la lista de elementos que contribuyen a forjar una suerte de 'guerra fría' en el plano tecnológico entre EEUU y China. Como ya sucede con otros mercados, el de los procesadores es un buen ejemplo, las dos superpotencias están embarcadas en una carrera investigadora buscando imponerse; y, como también acostumbra a ocurrir, Europa pinta más bien poco, con un Mercado Único Digital inexistente y unas prioridades inversoras en conflicto con la financiación que requiere la IA. Esta polarización en el desarrollo de la IA puede resultar fatal.

El aprovechamiento de la IA va mucho más allá de las populares soluciones de generación audiovisual, de texto, búsquedas, etc. Su aplicación a las ciencias de la vida puede marcar la diferencia y suponer un salto cualitativo en determinados proyectos de investigación. Sin embargo, el avance científico precisa de la colaboración transfronteriza, puesto que las mentes más brillantes están dispersas geográficamente y, por ello, la colaboración de científicos internacionales se antoja imperativa.

Cuando, además, enmarcamos esta investigación en el ámbito de la IA, la colaboración es aún más necesaria. Este es en parte el espíritu que motivó un estudio publicado a finales de septiembre en la revista Nature, en el que se expone que "la investigación concentrada geográficamente corre el riesgo de crear bases de datos sesgadas que distorsionan las inferencias [la aplicación de la IA] y, posiblemente, conducen a una atención médica sesgada".  Ya hay experiencias al respecto, en el que sesgos derivados por la subrepresentación de determinadas etnias termina desembocando en distorsiones tanto de diagnóstico como de tratamiento.

El estudio, llevado a cabo por investigadores de las universidades alemanas de Mannheim y Heidelberg, analizó cerca de 400.000 publicaciones de investigación de ciencias de la biología en las que intervenía la IA, así como 14,5 millones de citas y referencias asociadas. El rango sometido a análisis iba desde 2020 hasta 2022, creando una especie de atlas global que combinaba tres dimensiones diferentes: la productividad (el número de publicaciones) la productividad ajustada a la calidad (publicaciones organizadas según las clasificaciones normalizadas de los medios de publicación) y la relevancia (las citas asociadas).

La investigación confirma que el aumento del nacionalismo y el proteccionismo ha devenido en una "carrera armamentista" de la IA entre China y EEUU con claras implicaciones y motivaciones geopolíticas. Los resultados del estudio demuestran que China y EEUU, tanto en las disciplinas científicas como biológicas, son quienes más investigación de IA concentran. El liderazgo es tan apabullante que, según los expertos –y esto, definitivamente, es un problema-, ambos países dominan el sistema de investigación en IA en términos de financiación, científicos activos y, en consecuencia, número de publicaciones.

La mayor concentración geográfica de la investigación en ciencias biológicas con IA se da en EEUU con 101.195 artículos, seguido de China con 73.129 artículos; juntos representan alrededor del 44% de las publicaciones generadas entre 2000 y 2022. Ambos países se encuentran a años luz del resto, como prueban los 21.215 artículos de Reino Unido, los 18.759 de Alemania o los de 15.263 de Japón. España apenas supera las 9.200 publicaciones, siendo a partir de 2020 cuando más prolífica es. A la cola, los países de África y América Latina, con la notable excepción de Kenia que, si bien produce pocos artículos, son de elevada calidad. Estas dos regiones representan menos del 5% de la investigación mundial de IA en las ciencias de la vida, aunque ambas suponen más del 25% de la población mundial y experimentan más de la mitad de la carga mundial de enfermedades.

Con esos datos, el estudio revela que los 40 países más productivos representan colectivamente el 96% de la generación global de este tipo de publicaciones, centrándose en áreas específicas como la visión artificial, la biología computacional, la neurociencia, la medicina interna, la estadística, la radiología y la cirugía. En cuanto a la calidad de estas publicaciones, medida por las revistas de prestigio en las que fueron publicadas así como las conferencias y citas asociadas, EEUU, Australia, Reino Unido y Países Bajos lideran el ranking, descendiendo China a la mitad de la tabla.

Los riesgos de la 'guerra fría' de la IA
La producción de publicaciones de IA se ha disparado en los últimos años, aunque no lo ha hecho al mismo ritmo la colaboración internacional.

Este novedoso estudio viene a constatar que aquellas publicaciones basadas en la colaboración internacional generan investigaciones más relevantes que las nacionales. El  número de citas en las primeras puede llegar a ser hasta un 20% superior que a las nacionales, sobre todo en las investigaciones biológicas basadas en IA. La mala noticia es que, a pesar de esta aparente importancia de la investigación sobre IA realizada a nivel internacional para la construcción de conocimiento acumulativo en las ciencias biológicas, la tasa de colaboración internacional entre científicos parece estancarse.

De hecho, las regiones más productivas del mundo, Norteamérica y Asia, son las que menos colaboran entre sí. La tasa media de colaboraciones internacionales ronda el 20%, con casos notables como el 40% de Kenia, mencionado anteriormente. En el caso de Europa, sus científicos sí colaboran más a nivel internacional –motivado en parte por la falta de financiación-, estando más distribuidos geográficamente.

Los autores del estudio, que admiten que tiene sus limitaciones, ponen encima de la mesa una cuestión interesante: dado que cualquier investigación apoyada en IA depende de una ingente cantidad de datos que alimente al algoritmo, ¿pueden estar evolucionando de un modo desequilibrado las bases de datos de las investigaciones nacionales? De ser así, podrían llegar los temidos sesgos. A fin de cuentas, las poblaciones de pacientes son diversas en términos de género, raza y etnia, así como otros atributos tales como el estado sociodemográfico o el acceso a los sistemas de atención médica. La geopolítica podría, una vez más, terminar por ser altamente contraproducente para el bienestar común.

Más Noticias