La discusión sobre inteligencia artificial dejó de pertenecer solo a laboratorios, empresas tecnológicas y reguladores. Con la publicación de la primera encíclica de León XIV sobre los riesgos de la IA, el Vaticano entró de lleno en una conversación que ya cruza economía, trabajo, seguridad, educación, poder corporativo y democracia.
Según The Washington Post, el momento también puso bajo los reflectores a Anthropic. Christopher Olah, cofundador de la compañía, participó en un panel del Vaticano junto al Papa y especialistas en teología. La imagen es relevante porque Anthropic no es un actor neutral dentro del mercado: compite en la carrera de modelos avanzados con Claude, pero al mismo tiempo suele advertir sobre los riesgos de una IA mal gobernada.
Esa posición le ha dado reputación entre quienes piden mayor supervisión, pero también críticas de sectores que consideran que hablar demasiado de riesgos puede frenar la innovación. En Estados Unidos, ese desacuerdo se ha vuelto político. Una parte del ecosistema tecnológico defiende acelerar el desarrollo para no perder liderazgo frente a China; otra sostiene que avanzar sin límites puede provocar daños sociales difíciles de corregir.
Por qué importa el apoyo del Vaticano
El Vaticano no tiene poder regulatorio directo sobre Silicon Valley, pero sí capacidad para mover el marco moral de la conversación. Cuando una institución con influencia global afirma que la IA debe evaluarse por su impacto sobre la dignidad humana, el empleo, la desigualdad y la guerra, obliga a mirar más allá de la eficiencia o la productividad.
La encíclica, de acuerdo con el reporte, advierte sobre varios riesgos: aumento de desigualdad, deterioro de la dignidad del trabajador, automatización de conflictos militares y concentración de recursos computacionales en pocas manos. No es una crítica a la tecnología como herramienta, sino al modo en que se diseña, controla y distribuye su poder.
Ese matiz es importante. La pregunta ya no es si la IA puede hacer más cosas, sino quién decide para qué se usa, con qué controles y bajo qué responsabilidad pública.
Anthropic juega una carta delicada
Para Anthropic, aparecer cerca del Vaticano puede reforzar su narrativa de empresa preocupada por la seguridad. La compañía nació con una identidad distinta a la de otros laboratorios: habla con frecuencia de alineamiento, riesgos sistémicos y necesidad de límites. Esa postura encaja con una institución que pide prudencia frente a tecnologías capaces de modificar relaciones laborales, educativas y políticas.
Pero también hay una tensión evidente. Anthropic vende modelos cada vez más potentes y compite por clientes empresariales. Es decir, participa del mismo mercado que ayuda a acelerar los riesgos que denuncia. Esa contradicción no invalida su postura, pero exige leerla con cuidado.
Una empresa puede defender regulación y al mismo tiempo tener incentivos comerciales. Por eso, cualquier conversación seria sobre IA no debería descansar solo en la buena voluntad de las compañías. Necesita auditorías, reglas claras, límites verificables y participación de actores externos.
El punto de fricción con la política estadounidense
The Washington Post ubica este episodio en medio de una tensión mayor con sectores de la administración estadounidense y del ecosistema tecnológico que prefieren menos restricciones. Para ellos, regular demasiado puede debilitar la competitividad, frenar la inversión y dejar ventaja a otros países.
El argumento no debe descartarse de plano. La regulación mal diseñada puede ser capturada por grandes empresas, bloquear competidores pequeños o crear burocracia sin reducir riesgos reales. Pero tampoco es razonable asumir que el mercado resolverá solo problemas como vigilancia, manipulación informativa, desplazamiento laboral o uso militar de sistemas autónomos.
La dificultad está en diseñar reglas que no sean decorativas. Regular IA no puede limitarse a declaraciones éticas. Debe tocar puntos concretos: transparencia en modelos de alto riesgo, trazabilidad de decisiones automatizadas, responsabilidad por daños, control de datos, límites en usos militares y evaluación independiente.
Qué significa para empresas
Para una empresa que usa IA en operaciones, marketing, soporte o desarrollo, este debate puede parecer lejano. No lo es. La presión social y regulatoria terminará llegando a los productos concretos: asistentes, agentes, sistemas de scoring, automatización de atención, generación de contenido y análisis de datos personales.
El aprendizaje práctico es simple: no conviene adoptar IA como si fuera solo una mejora de eficiencia. Cada implementación debería responder preguntas básicas:
- qué datos procesa;
- qué decisiones influye;
- qué errores puede producir;
- quién revisa sus salidas;
- qué registros quedan para auditoría;
- qué tareas no debe ejecutar sin intervención humana.
La discusión entre Anthropic, el Vaticano y la política estadounidense es una señal de madurez del mercado. La IA ya no se evalúa solo por benchmarks, velocidad o costo por token. También se evalúa por confianza.
Lectura crítica
El acercamiento entre Anthropic y el Vaticano puede leerse de dos maneras. La lectura favorable es que empresas, religión, academia y sociedad civil empiezan a construir puentes para discutir una tecnología que afecta a todos. La lectura crítica es que incluso los discursos de seguridad pueden convertirse en estrategia reputacional.
Ambas cosas pueden ser ciertas al mismo tiempo. Por eso, el criterio útil no es preguntar quién tiene la posición más noble, sino qué mecanismos concretos propone cada actor para reducir daños sin bloquear beneficios.
Si la IA va a entrar en educación, justicia, salud, guerra, trabajo y comunicación pública, el debate no puede quedar solo en manos de quienes venden la infraestructura. Tampoco puede reducirse a miedo tecnológico. Necesita evidencia, reglas y responsabilidad verificable.
Fuente original: The Washington Post.
