¿Por qué la gobernanza global de la IA le falla a la niñez?

Dr Joaquim Giannotti, director del Núcleo de Ciencias Sociales y Artes U. Mayor.

Examinar el estado actual de la gobernanza global de la inteligencia artificial exige asumir un pesimismo reticente. La exigencia de que la IA sea un entorno seguro para la niñez no constituye un anhelo utópico, sino una necesidad histórica.

Hemos superado ya el umbral en el que un desarrollo infantil exento de IA sea una trayectoria viable. Cuando el Secretario General de las Naciones Unidas, António Guterres, inauguró el Diálogo Global de la ONU sobre la Gobernanza de la IA en Ginebra, sus advertencias sobre los peligros inmediatos que acechan a los menores no respondían a ansiedades luditas, sino a reacciones frente a realidades inequívocamente sombrías y profusamente documentadas.

Guterres concitó la atención sobre la frágil arquitectura de la mente en desarrollo, advirtiendo cómo las herramientas generativas pueden propiciar una profunda dependencia emocional, dejando a los niños en una situación de vulnerabilidad inédita ante la explotación algorítmica y las conductas de autolesión. Asimismo, la rápida proliferación de material de abuso sexual infantil generado por IA representa una crisis severa de derechos humanos: un contagio digital cada vez más accesible para los menores y opaco para unos organismos policiales que carecen de la infraestructura computacional necesaria para su persecución.

Sin embargo, como el propio Guterres reconoció, la vía hacia un marco regulatorio global se encuentra obstruida por obstáculos que son menos técnicos que obstinadamente sociopolíticos. El desarrollo de la IA está dictado por un conjunto asombrosamente limitado de corporaciones y estados soberanos. Estados Unidos lidera esta concentración de infraestructura de supercómputo, seguido de cerca por China; dos titanes geopolíticos que, por razones estructurales distintas, se muestran cada vez más antagónicos a la autoridad moral de la ONU.

Esta flagrante concentración de poder suscita una interrogante perturbadora: ¿cómo podemos esperar que los actores corporativos de estas naciones ejerzan una transparencia radical respecto a los perjuicios de la IA, cuando sus propios gobiernos flexibilizan los requisitos de declaración de riesgo en aras de la innovación nacionalista?

Existe además un problema de escala. Un tratado de la ONU orientado a la protección infantil debe, de algún modo, ejercer autoridad sobre las empresas más exitosas financieramente en la historia de la humanidad. Cuando el cumplimiento normativo amenaza con ralentizar el lanzamiento de un modelo más potente —o arriesga la pérdida del liderazgo en la carrera por la supremacía comercial—, resulta ingenuo asumir que un conjunto de principios éticos de juego limpio bastará para persuadir a estos imperios de desacelerar su marcha.

La crisis de fondo es de una profunda asimetría política y económica. Nos aproximamos aceleradamente a un punto de no retorno: un horizonte donde un puñado de pilotos en la cabina de mando del desarrollo tecnológico dictamina la trayectoria de un futuro que, según afirman, beneficiará a todos, mientras los miles de millones de seres humanos restantes ocupamos el área de pasajeros, desprovistos de voto.

En su estado actual, las Naciones Unidas carecen de las herramientas para compeler a estos soberanos tecnológicos a cumplir incluso con sus demandas más razonables y fundamentadas. Cualquier curso de acción significativo debe partir por reconocer este abismo. La brecha entre unas pocas empresas tecnológicas no electas y el resto de la sociedad civil global podría ser ya insalvable. Si pretendemos proteger a los más vulnerables, nuestra crítica no puede limitarse a apelar a la conciencia de los pilotos; debe impugnar la estructura misma de la cabina de mando.