Alertan por el uso de IA china en sectores sensibles - Informe Digital
Un especialista advierte sobre opacidad, dependencia y riesgo estratégico en Europa y América Latina.
La expansión de los modelos de inteligencia artificial desarrollados en China enciende alertas en Europa y América Latina por su posible uso en áreas sensibles. Según publicó Infobae, el especialista alemán Patrick Upmann advirtió que el problema no es solo técnico: también compromete la gobernanza y la autonomía de las instituciones que los adoptan.
Upmann, fundador de AIGN.global, señaló que la principal preocupación está en la opacidad que rodea a estos sistemas. Cuando una empresa incorpora un modelo de IA, asume un entorno de gobernanza oculto: lógica de datos, reglas de alineamiento, filtros de seguridad, mecanismos de actualización, restricciones políticas, dependencia del proveedor y el marco legal detrás del sistema, explicó.
El riesgo crece en empresas y organismos que usan inteligencia artificial en administración pública, finanzas, infraestructura, educación, medios, salud o decisiones corporativas. Para Upmann, la falta de auditoría independiente y de transparencia en el entrenamiento, sumada a actualizaciones externas fuera del control del usuario, puede llevar a que las organizaciones cedan parte de su criterio a una infraestructura ajena.
No se trata solo de un problema técnico, sino de la capacidad de una institución para mantener control sobre su propio criterio, remarcó.
Frente a la promoción de estos modelos como open-source, asequibles y competitivos, el especialista recomendó que gobiernos y empresas adopten una mirada basada en riesgos. Planteó revisar el uso previsto, los datos procesados, la auditabilidad, el control de actualizaciones, la jurisdicción aplicable y la dependencia geopolítica.
El código abierto no garantiza confiabilidad. Puede haber apertura en el código, pero opacidad en los datos de entrenamiento, lógica de alineamiento y contexto geopolítico, puntualizó.
Para usos de bajo riesgo, estos modelos pueden resultar útiles. Pero en sectores regulados, Upmann pidió exigir transparencia, trazabilidad, pruebas independientes, protección de datos, revisión de seguridad, supervisión humana y estrategias de salida. La asequibilidad es relevante, pero una inteligencia artificial barata puede generar altos costos estratégicos si crea dependencia, afirmó.
Sobre la posibilidad de que estos sistemas amplifiquen la influencia política de Beijing, sostuvo que el efecto puede darse de manera indirecta, a través de respuestas predeterminadas, lógica de ranking, moderación de contenidos, selección de fuentes, enmarque del lenguaje, herramientas educativas o asistentes de programación.
En América Latina, donde la infraestructura digital crece con rapidez, la advertencia cobra peso por el lugar que la IA ya empieza a ocupar en servicios públicos, medios y procesos corporativos. Upmann también fue consultado por el sesgo ideológico: dijo que, en el caso chino, la cuestión es estructural y responde a un sistema político de partido único y a un orden de información estatal.
Por eso, recomendó que las instituciones extranjeras evalúen no solo precisión y desempeño, sino también neutralidad, patrones de rechazo, selección de fuentes y comportamiento ante temas sensibles. También consideró que los estándares internacionales de gobernanza no pueden imponerse dentro de regímenes autoritarios, aunque sí pueden servir para fijar condiciones de acceso a mercados democráticos y sectores críticos.
Al comparar la competencia global en inteligencia artificial con la carrera armamentista nuclear, Upmann admitió similitudes estratégicas, pero marcó una diferencia central: la IA es distribuida, escalable, de uso dual y se infiltra en plataformas comerciales, centros de datos y sistemas autónomos. La carrera de la IA no es solo de capacidad destructiva, sino de capacidad cognitiva, económica e institucional, concluyó.
Por L.P.I.
