La primera encíclica de León XIV coloca a la inteligencia artificial dentro de un marco más amplio: no como una simple innovación tecnológica, sino como una fuerza capaz de alterar poder, trabajo, educación y relaciones sociales. Según Hipertextual, el documento advierte sobre el riesgo de que la IA quede controlada por pocos actores y se use sin criterios éticos suficientes.
El término más fuerte asociado al debate es “tecnofascismo”. Más allá de la carga política de la palabra, el fondo del mensaje es claro: una tecnología con capacidad para automatizar decisiones, organizar información, influir en conducta y concentrar datos no puede tratarse como un producto cualquiera.
El problema no es la tecnología aislada
La postura del Vaticano no parece ser un rechazo a la IA como herramienta. La preocupación está en la forma en que se desarrolla y en quién controla sus beneficios. Si la IA queda concentrada en pocas corporaciones, países o grupos económicos, puede reforzar desigualdades ya existentes.
Hipertextual recoge que León XIV se habría reunido con representantes de Google, Meta y Amazon para discutir el impacto ético de la IA. Ese dato es relevante porque muestra que el Vaticano está intentando entender la tecnología desde dentro, no solo reaccionar desde fuera.
Sin embargo, también abre una pregunta incómoda: ¿cuánto puede influir una conversación con grandes tecnológicas si esas mismas compañías dependen de escalar IA para sostener su posición de mercado?
Dignidad humana como criterio
El eje moral de la encíclica es la dignidad humana. En términos prácticos, eso implica evaluar si un sistema de IA mejora capacidades humanas o si reemplaza juicio, autonomía y responsabilidad.
Los riesgos más evidentes aparecen en educación, justicia, empleo, salud, información pública y guerra. En cada uno de esos campos, automatizar decisiones puede ahorrar costos, pero también puede ocultar sesgos, reducir explicaciones y desplazar la responsabilidad hacia sistemas difíciles de auditar.
No basta con decir que una IA es eficiente. Hay que preguntar si sus decisiones son comprensibles, apelables y compatibles con derechos básicos.
La concentración como riesgo estructural
El debate sobre IA suele enfocarse en modelos, aplicaciones y funciones. Pero la concentración de infraestructura puede ser igual o más importante. Entrenar modelos avanzados exige datos, talento, chips, energía y centros de datos. Eso favorece a empresas con mucho capital.
Si pocas compañías controlan los modelos, las plataformas, la nube y los canales de distribución, también pueden condicionar qué herramientas usan las personas, qué contenidos ven y qué alternativas quedan disponibles.
Ese es el punto donde la discusión se vuelve política. La IA no solo responde preguntas. Puede organizar flujos de trabajo, priorizar información, mediar relaciones comerciales y moldear acceso a conocimiento.
Qué significa para América Latina
Para empresas y gobiernos de América Latina, incluida la realidad peruana, el debate tiene una lectura adicional. La región suele adoptar plataformas creadas fuera de su contexto regulatorio, cultural y económico. Eso puede acelerar productividad, pero también aumentar dependencia tecnológica.
Si una empresa peruana automatiza atención al cliente, análisis comercial o gestión documental con modelos extranjeros, debe preguntarse dónde se procesan los datos, qué garantías existen, qué pasa si cambian precios o límites de uso, y cómo se audita una decisión automatizada.
La ética no es solo un tema académico. Es parte de la continuidad operativa y de la confianza del cliente.
Regulación internacional
León XIV pide criterios éticos y regulación internacional. La dificultad es que la IA avanza más rápido que los acuerdos multilaterales. Además, los países no tienen los mismos incentivos: algunos priorizan innovación, otros seguridad, otros soberanía tecnológica y otros protección de derechos.
Una regulación útil debería evitar dos extremos. El primero es dejar todo al mercado. El segundo es crear reglas tan amplias o vagas que solo sirvan como discurso. Lo necesario es definir obligaciones concretas según el nivel de riesgo: transparencia, evaluación independiente, protección de datos, límites en sistemas sensibles y responsabilidad por daños.
Lectura editorial
La intervención del Papa no resuelve el debate, pero sí cambia su escala. Si una institución religiosa global entra a discutir IA, es porque la tecnología ya salió del terreno técnico. La discusión ahora incluye preguntas sobre trabajo, desigualdad, guerra, manipulación y sentido de comunidad.
Para empresas, el mensaje práctico es que la adopción de IA debe hacerse con gobernanza. No basta implementar herramientas porque están de moda. Hay que definir límites, permisos, supervisión humana y criterios de uso aceptable.
La IA puede servir a la productividad, pero si se implementa sin responsabilidad puede aumentar dependencia, opacidad y pérdida de confianza. Ese es el riesgo que la encíclica intenta poner sobre la mesa.
Fuente original: Hipertextual.
