León XIV ante la inteligencia artificial

La primera encíclica del papa León XIV está dedicada, como él mismo anunció desde el inicio de su pontificado, al uso de la inteligencia artificial. Se titula Magnifica Humanitas y recién se publicó este mismo lunes 25 de mayo. Habrá que discutirla en detalle. No obstante, aquí mis primeras impresiones. Se trata de un documento de enorme pertinencia que pone sobre la mesa los temas más inquietantes en torno al uso de la IA. Su punto de partida es una pregunta antropológica y moral: qué tipo de humanidad se está construyendo con los nuevos poderes tecnológicos. León XIV recurre a dos imágenes bíblicas: Babel y Jerusalén. Babel representa el proyecto humano guiado por la autosuficiencia, la homogeneización, el orgullo técnico y la eficiencia sin comunión; Jerusalén, en cambio, simboliza una reconstrucción paciente, comunitaria y orientada por Dios, en la que cada persona asume una parte de la responsabilidad. La disyuntiva, por lo tanto, es decidir si la inteligencia artificial será usada para levantar una nueva Babel o para reconstruir una ciudad más justa y fraterna, más habitable.

La encíclica insiste en que la IA debe ser pensada, al menos por los cristianos y por los no cristianos que simpatizan con ella, a partir de los principios de la Doctrina Social de la Iglesia: dignidad humana, bien común, destino universal de los bienes, subsidiariedad, solidaridad, justicia social y desarrollo humano integral. La IA ha irrumpido como una transformación histórica que obliga a actualizar dichos principios. Se argumenta, a partir de dicha idea, que el desarrollo tecnológico sólo puede considerarse auténtico progreso si hace crecer a las personas y a los pueblos en humanidad, fraternidad, justicia, cuidado de la casa común y responsabilidad hacia las generaciones futuras. Por ello, más allá de la eficiencia, la productividad y la capacidad de cálculo, la eficiencia debe medirse por su contribución real a una vida más digna. La encíclica rechaza, bajo dicha premisa, cualquier visión que reduzca a la persona a un recurso, un dato, un perfil, un consumidor o un engranaje productivo, algo que, dicho sea de paso, ya sucede todos los días.

En lo que concierne a los argumentos relacionados directamente con la IA, el primero de ellos es fundamental y, aunque obvio, conviene reafirmarlo: la IA no debe confundirse con la inteligencia humana. Los sistemas artificiales pueden imitar funciones cognitivas, superar al ser humano en velocidad de cálculo y ofrecer beneficios importantes en numerosos campos. Sin embargo, la IA no tiene cuerpo, experiencia vivida, conciencia moral, afectividad, responsabilidad ni relación interior con el amor, el sufrimiento, el trabajo, la amistad ni el perdón. Puede simular empatía, comprensión o consejo, pero no habita el mundo afectivo, espiritual y relacional en el que las personas maduramos. El documento advierte, por ello, contra la ilusión de delegar demasiado en la máquina: la facilidad para obtener respuestas puede debilitar el juicio personal, la creatividad y el propio pensamiento. La IA puede ayudar, pero de ninguna manera puede sustituir la conciencia, la prudencia ni la responsabilidad humana. Este punto amerita realce: aunque la IA simule “comprensión empática”, los algoritmos entrenados con modelos de IA no son personas, sino eso, “simuladores”, que, en realidad, abaratan las relaciones humanas.

León XIV también critica el paradigma tecnocrático. La encíclica retoma la preocupación por una cultura que convierte la eficiencia, el control y el lucro en criterios supremos. En ese contexto, la IA intensifica la concentración de poder en manos de grandes empresas, plataformas y actores transnacionales que controlan datos, infraestructuras, algoritmos y capacidad de cálculo. El problema va más allá del aspecto meramente técnico y se extiende al terreno político y moral: quienes poseen esos recursos pueden moldear la información, orientar los consumos, condicionar los procesos democráticos y definir las oportunidades sociales. Todo esto, bien lo sabemos, ya sucede. La encíclica exige transparencia, responsabilidad, auditorías independientes, acceso equitativo a los datos, posibilidad de apelación y participación real de las comunidades. La subsidiariedad adquiere, de este modo, una enorme importancia: las decisiones digitales no deben imponerse de manera opaca por actores concentrados, sino que deben someterse al discernimiento público.

La encíclica destaca que la IA no es moralmente neutral. Todo sistema incorpora prioridades: qué mide, qué ignora, qué optimiza, cómo clasifica y qué idea de persona presupone. Por eso, la ética no puede limitarse al “buen uso” de una herramienta ya construida; la preocupación por las consecuencias debe estar presente desde el inicio del diseño de la herramienta. Si un algoritmo excluye sin explicación, reproduce prejuicios, refuerza desigualdades o trata ciertas vidas como menos dignas, la injusticia queda revestida de objetividad técnica. León XIV aboga, por ello, por una responsabilidad clara en todas las etapas por las que ha pasado la creación de la IA: diseño, programación, entrenamiento, implementación, supervisión y reparación de los daños. Además, propone “desarmar” la IA, es decir, sustraerla de la lógica de competencia económica, cognitiva y militar que identifica el poder tecnológico con el derecho a gobernar.

En el plano social, la encíclica analiza tres ámbitos especialmente afectados: la verdad, el trabajo y la libertad. En la comunicación pública, la IA puede multiplicar la desinformación, manipular imágenes y discursos, debilitar la confianza democrática y difuminar la frontera entre hecho y ficción. Por ello, se propone una “ecología de la comunicación” basada en la verificación, la transparencia, la educación crítica y la responsabilidad argumentativa. En educación, el documento insiste en que aprender a usar IA también implica aprender cuándo no usarla, para no anular el deseo de preguntar, investigar y comprender. En el trabajo, advierte que la automatización puede desespecializar a los trabajadores, aumentar la vigilancia, precarizar los empleos y concentrar los beneficios; por eso exige recualificación, protección laboral, participación de los trabajadores y criterios sociales para toda innovación.

Por último, la encíclica denuncia las nuevas formas de esclavitud y de dominación digital. Recuerda que la IA no es “inmaterial”: depende de la extracción de recursos, de centros de datos y del trabajo invisible de etiquetado, moderación y entrenamiento, a menudo realizado en condiciones precarias. Advierte sobre la vigilancia masiva, el perfilado, la manipulación de conductas, la explotación de datos sanitarios y el colonialismo digital. En el ámbito bélico, León XIV es claro y contundente: no es lícito delegar la toma de decisiones letales o irreversibles en sistemas artificiales. La IA puede hacer la guerra más rápida, opaca e impersonal, reduciendo a las víctimas a meros datos y diluyendo las responsabilidades. Por ello, exige un control humano efectivo, la protección de los civiles y el respeto a las normas internacionales.

Magnifica Humanitas propone un humanismo cristiano que no rechaza la técnica, pero la somete a una disyuntiva decisiva: si hace la vida humana más digna, más justa y más fraterna, puede ser asumida responsablemente; si concentra poder, rompe vínculos y normaliza el descarte, se convierte, como en realidad ya está sucediendo, en una nueva Babel. No se trata de convertirse en un férreo opositor de la IA tras la lectura de la encíclica: el bicho ya está aquí y habrá que aprender a domesticarlo. Los riesgos están advertidos; los beneficios también. Esperemos que esta encíclica impacte lo suficiente en el debate público. En Conspiratio, sin duda, nos tomaremos el tiempo para discutirla en detalle.    

‍