Por Carolina Millalen
La primera encíclica del Papa León XIV, Magnificat Humanitas, está dando que hablar. La referencia en la carta a regular la inteligencia artificial, junto con el llamado a reflexionar acerca de quiénes disponen sobre esta tecnología, no ha dejado indiferentes a epicentros como Silicon Valley ni a empresas como Palantir o Anthropic.
Esta nueva hoja de ruta del catolicismo apunta al corazón de la nueva era del conocimiento que ha sido capaz de crear autómatas que ven y aprenden y sistemas generativos de información. Allí se señala que la tecnología no es neutral como tampoco son imparciales los intereses de quienes hoy la detentan.
Para Joaquim Giannotti, director del Núcleo de Ciencias Sociales y Artes de la Universidad Mayor, la publicación de esta encíclica fue un acto político extremadamente relevante, “en particular, si reflexionamos sobre el hecho de que es el Papa quien se pone al frente del desarrollo de esa tecnología para pensar mejor la dirección de su desarrollo”, plantea.
“Estamos frente a una bifurcación”, acota el experto respecto al manejo actual de la IA que se contrasta con la posibilidad de que sus avances se den de manera más regulada:
Tras su publicación semanas atrás, desde los espacios concentrados del poder tecnológico, algunos han buscado simplificar el alcance del mensaje, señalando que regular es prácticamente caer en el totalitarismo de los Estados, tal como señaló David Sacks importante inversionista de Silicon Valley.
Sin embargo, el problema es más profundo dada la gran concentración de esta ciencia aplicada en los grupos más privilegiados del poder económico mundial y por el destino que está teniendo muchos de sus conocimientos, como ocurre con el aún uso indiscriminado de datos o la creación y disposición de softwares al servicio de operaciones militares.
“Silicon Valley, la gran empresa como OpenAI o Anthropic están claramente alineadas a un proyecto tecnológico, pero también político y que sin exagerar se puede llamar tecnofascismo porque ve el poder tecnológico en manos de un gobierno bien específico, en manos de pocas personas que es orientado al control, defensa y supremacía de una nación más arriba de otras”, sostuvo Giannotti.
“Lo que está planteando el Papa León muy razonable: no se necesita ser católico, ni tener fe para entender que el llamado tiene que ver con la necesidad de mayor control respecto a las implicaciones sociales, ética y moral de esa tecnología que es muy poderosa y que es muy peligroso que se quede en manos de pocas personas con un proyecto políticos de supremacía hacia otras naciones y países”.
La carta vaticana que contempla 5 capítulos se basa en la Doctrina Social de la Iglesia y reafirma valores como los derechos humanos, la subsidiariedad de los Estados y la igual dignidad humana. No obstante, plantea el académico, “si bien no tiene un carácter alarmista respecto a la IA y plantea correctamente riesgos en el mundo laboral, la educación, en el mundo militar, el problema de fondo es que a la encíclica no le cabe resolver porque es un gran problema: cuál es el poder real respecto a esas grandes compañías y empresas tecnológicas, cuál es el poder político real al frente de grandes incentivos económicos que algunas naciones y empresas tienen para seguir desarrollando tecnologías sin marcos regulatorios , sin importar mucho riesgos potenciales”. Eso me deja con un sentido de incertidumbre sobre lo que de verdad puede lograr la Iglesia”, reflexiona.
La torre y el camino
Frente a esos desafíos, la nueva hoja de ruta que ha presentado el Papa León XIV alude alegóricamente a dos figuras del relato bíblico como es la Torre de Babel y el Camino de Nehemías, donde uno es el símbolo de la uniformidad y de la pretensión de bastarse a sí mismo, mientras que el otro, apunta a la reconstrucción de una ciudad “a través de la responsabilidad compartida de todo el pueblo” se indica en Magnifica Humanitas.
“Veo el conflicto entre el Vaticano y esta nueva Torre de Babel que es Silicon Valley, ese grupo pequeño de empresas tecnológicas que concentran todo ese poder. El riesgo es que se olviden de ese aspecto más humano. Entonces, creo que la encíclica quiere enfatizar que hay algunas características y valores que nunca se deben reemplazar por esa tecnología”, expresa el académico de la Universidad Mayor.
“Lo que me gusta de la encíclica es un poco el llamado a tomar una postura más crítica respecto a dónde estamos hoy en día respecto a toda la dimensión más policía que tecnológica, respecto al desarrollo de la IA”.
El académico y director del Núcleo de Ciencias Sociales y Artes plantea que la educación juega un papel fundamental en la búsqueda de los equilibrios en el uso y la innovación de la IA: “Creo que el instructivo final no es limitar el desarrollo de la IA sino entender de forma mejor cómo puede ayudarnos en las cosas que nos hacen humanos”.
“Entonces, es importante aceptar que a veces no tenemos respuesta si una implementación, una estrategia, un mecanismo va a funcionar. Entonces, es importante también intentar experimentar, pero siempre de forma responsable. La educación va a ser crucial en la búsqueda de una relación responsable con esa tecnología”, observó el experto.
