La encíclica de León XIV sobre inteligencia artificial puede parecer, a primera vista, un documento sobre tecnología. Pero la lectura de TechCrunch apunta a algo más amplio: el texto usa la IA como entrada para discutir problemas anteriores y más profundos, como desigualdad, guerra, erosión democrática y concentración de poder.
Esa interpretación es útil porque evita reducir el debate a si una herramienta genera mejores textos, imágenes o código. La IA importa porque amplifica capacidades. Si esas capacidades están en manos de pocos actores, también amplifica asimetrías.
La IA como acelerador de problemas existentes
TechCrunch resume una idea central: la IA no inventa desde cero la concentración de poder, pero puede hacerla más intensa. Las grandes plataformas ya controlaban datos, publicidad, infraestructura cloud, distribución de contenidos y relaciones con usuarios. Los modelos generativos agregan una capa más: pueden producir, filtrar, resumir, recomendar y automatizar decisiones.
Eso cambia el tipo de influencia. Antes una plataforma organizaba lo que veíamos. Ahora también puede generar respuestas, redactar mensajes, sugerir acciones y actuar como intermediaria del conocimiento.
La diferencia no es menor. Cuando una persona usa un asistente de IA para buscar, aprender o decidir, la plataforma no solo muestra opciones: participa en la construcción de la respuesta.
Democracia y manipulación
Uno de los riesgos citados por TechCrunch es la posibilidad de que la IA afecte procesos democráticos mediante desinformación, deepfakes, segmentación de mensajes y manipulación de patrones de consumo informativo.
El problema no es solo que existan contenidos falsos. El problema es que la velocidad, escala y personalización de esos contenidos puede superar la capacidad de verificación pública.
En una campaña electoral, por ejemplo, no hace falta convencer a todos con una mentira masiva. Puede bastar con confundir a grupos específicos, desalentar participación o erosionar confianza en instituciones. La IA reduce el costo de producir mensajes adaptados y eso obliga a repensar controles.
Poder técnico y derecho a gobernar
La encíclica, según la lectura de TechCrunch, cuestiona una idea frecuente en Silicon Valley: que quien tiene la capacidad técnica para construir algo adquiere automáticamente legitimidad para desplegarlo.
Ese supuesto es débil. Que una empresa pueda crear un modelo capaz de influir en educación, empleo o acceso a información no significa que deba hacerlo sin supervisión. La competencia técnica no reemplaza la deliberación pública.
Este punto es especialmente importante para productos de alto impacto. Si una IA participa en decisiones de crédito, selección laboral, atención médica o moderación de contenidos, la sociedad tiene derecho a exigir explicaciones, límites y mecanismos de apelación.
La carrera por modelos más grandes
León XIV también cuestiona la carrera por modelos cada vez más potentes, datasets más grandes y mayor capacidad de cómputo. El argumento empresarial suele ser que esa carrera impulsa innovación y liderazgo geopolítico. El contraargumento es que puede concentrar aún más recursos en quienes ya tienen ventaja.
Ambas preocupaciones son reales. Frenar la investigación sin criterio puede ser contraproducente. Pero avanzar sin límites también puede producir dependencia, consumo energético creciente, presión laboral y sistemas que nadie externo puede auditar de forma suficiente.
La salida no es simple. Requiere distinguir entre investigación, producto comercial, infraestructura crítica y usos de alto riesgo. No todo debe regularse igual.
Qué deberían mirar las empresas
Para una empresa que adopta IA, esta discusión puede aterrizar en decisiones concretas:
- no usar IA para decisiones sensibles sin revisión humana;
- documentar qué modelos se usan y para qué;
- evitar cargar datos confidenciales sin garantías contractuales;
- revisar sesgos y errores en salidas automatizadas;
- definir responsables internos por cada flujo automatizado;
- capacitar equipos para entender límites, no solo funciones.
El enfoque responsable no significa frenar adopción. Significa evitar que la herramienta tome más poder del que la organización puede controlar.
Traducción al contexto peruano
En Perú y la región, muchas empresas están incorporando IA en atención, marketing, automatización y análisis. El riesgo no es solo técnico. También hay riesgo de dependencia de proveedores externos, uso inadecuado de datos personales, respuestas incorrectas al cliente y automatización de procesos sin trazabilidad.
La conversación global sobre poder tecnológico debería empujar a las empresas locales a crear políticas internas antes de que aparezcan problemas. No se necesita esperar una gran ley para definir buenas prácticas.
Lectura crítica
La encíclica no es un manual técnico y no pretende serlo. Su valor está en poner límites conceptuales a una narrativa que a veces presenta la IA como progreso inevitable. El progreso tecnológico no se mide solo por capacidad. También se mide por distribución de beneficios, control democrático y protección de personas afectadas.
La IA puede mejorar productividad, educación y servicios. Pero si se diseña desde la concentración y se despliega sin supervisión, puede profundizar problemas que ya existían. Esa es la advertencia de fondo: el debate no es solo sobre IA, sino sobre quién gobierna la infraestructura digital de los próximos años.
Fuente original: TechCrunch.
