Un papa agustino, el primero en siglos, elige como tema central de su pontificado la inteligencia artificial. El título de la encíclica, Magnifica Humanitas, lo dice antes de abrir el documento: la apuesta es defender la grandeza de lo humano en el momento preciso en que esa grandeza está siendo técnicamente cuestionada. León XIV llega al debate con la pregunta que Agustín formuló en las primeras páginas de las Confesiones: inquieto está nuestro corazón hasta que descanse en Ti. La convoca explícitamente. Lo que está en juego en la revolución de la inteligencia artificial no es solo el empleo, la privacidad, la gobernanza de los datos o los algoritmos de guerra autónoma, aunque todo eso importa y la encíclica lo aborda con seriedad. Lo que está en juego es si el ser humano tiene un interior que no puede ser calculado, un misterio que no puede ser procesado, una dignidad que no depende de ninguna función.
No es la primera vez que la Iglesia entra tarde en un debate y acaba teniendo algo que decir. La Rerum novarum de León XIII llegó en 1891, cuando el capitalismo industrial llevaba décadas triturando a los trabajadores y el marxismo ya había respondido con su propio diagnóstico. León XIII no ganó ese debate en términos de influencia política inmediata, pero formuló principios, como la dignidad del trabajo, la función social de la propiedad, la subsidiariedad, que la filosofía política del siglo XX abordaría después de forma extensa. León XIV escribe ciento treinta y cinco años después, convocando explícitamente ese aniversario, con la conciencia de que está haciendo lo mismo: entrar en el momento de mayor aceleración tecnológica de la historia humana con una pregunta que los ingenieros no se están haciendo.
Babel tiene nombre de algoritmo
El corazón retórico de Magnifica Humanitas no es un argumento filosófico sino una estructura mítica. León XIV organiza su diagnóstico alrededor de dos imágenes bíblicas: la torre de Babel y la reconstrucción de Jerusalén por Nehemías. La elección no es accidental ni decorativa. Frente al discurso tecnocrático, que habla de modelos, parámetros y métricas, la Iglesia responde con un relato. Y lo hace porque entiende, con toda la intuición de la teoría literaria contemporánea, que los grandes cambios históricos no se gobiernan solo con regulación sino con imaginarios, con las historias que una cultura se cuenta a sí misma sobre lo que es y hacia dónde va.
Babel, en la lectura de la encíclica, no es simplemente un mito sobre la multiplicidad de las lenguas. Es el arquetipo de toda empresa humana construida sobre la pretensión de autosuficiencia, sobre la reducción de lo diverso a lo uniforme, sobre la convicción de que la eficiencia puede sustituir a la comunión. En Babel hay una sola lengua, una sola tecnología, una sola dirección. El proyecto fracasa no porque sea tecnológicamente deficiente sino porque es humanamente vacío: ha sacrificado la complejidad de lo humano en el altar de la homogeneización.
La resonancia con el presente es inmediata. Los grandes sistemas de inteligencia artificial operan con esa misma lógica: absorben la pluralidad de la expresión humana, con sus millones de textos, voces, imágenes y conversaciones, y la procesan hasta extraer un promedio estadístico que se presenta como inteligencia. Lo que producen no es diversidad sino una destilación de lo más frecuente, de lo más predecible, del patrón que más se repite. Un modelo de lenguaje no tiene perspectiva; tiene distribución de probabilidades. No tiene voz; tiene frecuencia. Cuando la encíclica habla del riesgo de un «lenguaje único capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos», describe algo técnicamente real. La IA no destruye la diversidad deliberadamente: su lógica constitutiva es la del promedio, y el promedio no puede preservar lo singular.
Frente a Babel, Nehemías. La imagen es menos espectacular pero más exigente: un hombre que ora antes de actuar, que recorre en silencio las ruinas antes de proponer soluciones, que distribuye el trabajo entre todos y escucha los miedos de cada uno. La ciudad se reconstruye no por el genio de un arquitecto sino por la responsabilidad compartida de sacerdotes, artesanos, mujeres y jóvenes, cada uno con su tramo de muralla. La diferencia con Babel no está en la escala sino en la orientación: Nehemías no construye hacia el cielo sino hacia la convivencia, preservando la pluralidad en lugar de abolirla.
León XIV no condena la tecnología, como tampoco la condenó León XIII cuando afrontó la cuestión obrera. La tecnología no es neutral porque toma el rostro de quien la concibe, la financia y la utiliza, y la elección decisiva no es entre un sí o un no a la inteligencia artificial sino entre qué tipo de ciudad queremos construir con ella. La pregunta es política en el sentido más antiguo de la palabra: el que pregunta por el tipo de vida en común que una comunidad quiere vivir.
Las narrativas de fondo
En el capítulo tercero de la encíclica, León XIV dedica una sección específica a lo que llama «narrativas de fondo», y bajo ese título analiza el transhumanismo y el posthumanismo. La elección de la palabra merece atención. El papa no habla de «ideologías» ni de «filosofías» ni de «doctrinas»: habla de narrativas. Con eso reconoce explícitamente que detrás de la revolución tecnológica no hay solo ingeniería sino cosmogonías, relatos sobre el origen y el destino del ser humano, mitos fundacionales que orientan la práctica incluso cuando sus defensores creen estar haciendo ciencia pura.
El transhumanismo es una narrativa con estructura mítica perfectamente reconocible. Tiene su estado de naturaleza —el ser humano como ser incompleto, frágil, limitado por la biología—, su momento de crisis —el sufrimiento, la enfermedad, la muerte— y su promesa de redención: la superación de esos límites a través de la mejora técnica. Es una variante laica y tecnológica de la narrativa de salvación, con la diferencia de que la trascendencia no viene de fuera sino de dentro de la propia capacidad humana de innovar. El posthumanismo va un paso más allá: la meta no es un homo mejorado sino un ser diferente, liberado de la corporalidad y sus restricciones, potencialmente inmortal, eventualmente descargable en un sustrato que no se deteriora.
La encíclica señala que el peligro de estas narrativas no está solo en sus versiones más radicales y especulativas, sino en cómo «modifican el imaginario colectivo y, en consecuencia, orientan las decisiones sociales, económicas y políticas». El transhumanismo y el posthumanismo no necesitan ser adoptados explícitamente para producir efectos: basta con que colonicen el sentido común, con que hagan parecer natural y deseable una visión del ser humano como proyecto de optimización permanente. Cuando la eficiencia se convierte en medida de valor, el paso siguiente es aceptar que algunos seres humanos —los menos eficientes, los más dependientes, los menos productivos— valen menos. En nombre del progreso se puede llegar a pensar en sacrificios necesarios, y hacer pagar a los más vulnerables el precio de una presunta mejora de la especie.
Lo que León XIV opone a estas narrativas es otra narrativa. No opone un argumento filosófico abstracto ni una prohibición moral: opone el relato de la Encarnación. El Verbo se hizo carne. Dios eligió la fragilidad, entró en la historia por la puerta más estrecha —el nacimiento de un niño en una cueva, en un territorio ocupado, en una familia sin recursos—, y encontró en ese camino de limitación y vulnerabilidad la forma de revelar algo que la potencia y la autosuficiencia nunca habían podido revelar. El humanismo cristiano no defiende lo humano a pesar de su fragilidad sino a través de ella. La grandeza de la humanidad se manifiesta en la capacidad de amar, de sufrir, de morir, de cuidar al que sufre. Nada de eso es compatible con un ser sin límites.
Aquí la encíclica formula una distinción que desafía su aparente obviedad: para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo. Es la diferencia entre optimización y conversión, entre un sistema que mejora su rendimiento y un ser que, a través del fracaso, se transforma interiormente. La IA puede aprender de sus errores en el sentido estadístico: ajusta parámetros, refina predicciones. Pero no puede arrepentirse, no puede ser perdonada, no puede empezar de nuevo con la historia a cuestas. El futuro de una persona no es calculable porque está confiado a su libertad y a las relaciones que cultiva, y ninguna de esas dos cosas se deja reducir a datos.
El misterio irreductible
El concepto sobre el que pivota toda la argumentación de Magnifica Humanitas es el de dignidad ontológica. León XIV la distingue cuidadosamente de otras formas de dignidad —la moral, la social, la existencial— que pueden crecer o disminuir según las circunstancias. La dignidad ontológica pertenece a todo ser humano simplemente por el hecho de existir, de haber sido querido y amado por Dios, y ninguna circunstancia, ningún fracaso, ninguna exclusión puede afectarla. La persona vale no porque produzca, no porque sea capaz, no porque se comporte bien, sino porque es.
El paradigma tecnológico dominante opera con una lógica inversa: el valor de cualquier entidad, sea una empresa, un trabajador, un contenido, una idea, se mide por su rendimiento, su utilidad, su capacidad de generar beneficio o atención. Es la ideología de la eficiencia convertida en ontología. León XIV señala con una frase sin desperdicio que entre las ideologías más insidiosas de nuestro tiempo está la que sugiere que toda persona debe ganarse o justificar su propio valor, hasta el punto de atribuir mayor valía a quienes son más eficientes y productivos.
Hay en esto un eco directo de Kant, aunque la encíclica no lo cite. La distinción entre personas y cosas, entre lo que tiene un precio y lo que tiene dignidad, entre lo que puede ser intercambiado y lo que es irreemplazable: esa distinción es exactamente la que la lógica tecnocrática tiende a borrar. No por maldad sino por estructura. Los sistemas algorítmicos no pueden ver la diferencia entre un ser humano y cualquier otra fuente de datos; procesan ambos con la misma indiferencia funcional. Y cuando esa lógica se extiende más allá de los sistemas técnicos hacia la organización de la sociedad, la injusticia se realiza silenciosamente, revestida de neutralidad y objetividad algorítmica, ante la cual resulta difícil incluso protestar, porque nadie ha tomado la decisión: ha sido el sistema.
La encíclica añade aquí la advertencia de Hannah Arendt sobre el totalitarismo, que León XIV convoca en el capítulo cuarto: los súbditos ideales no son los ideológicamente convencidos sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción y la distinción entre lo verdadero y lo falso». Es la descripción más precisa del riesgo epistémico de un entorno saturado de contenido generado algorítmicamente. No se trata de que la IA mienta, aunque puede hacerlo con eficiencia admirable, sino de que borra progresivamente la capacidad de distinguir.
El capítulo tercero contiene la descripción más sofisticada del documento sobre lo que la IA no puede hacer. Merece leerse con atención porque combina rigor técnico y profundidad antropológica: estos sistemas están ligados exclusivamente al tratamiento de datos; no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio.
Esa última frase es la clave: la IA no reside en el horizonte donde el conocimiento humano se produce. El saber humano no es acumulación de datos procesados; es el resultado de haber vivido, de haber sido transformado por la experiencia, de llevar en el cuerpo la sedimentación de las decisiones tomadas y sus consecuencias. Una IA puede generar texto que imita el discurso de una persona, reproducir su estilo, sus patrones argumentativos, construir con suficientes datos un simulacro plausible. Pero el simulacro no tiene historia en el sentido que importa: no ha sufrido las consecuencias de sus elecciones, no lleva cicatrices, no ha perdonado ni pedido perdón. Platón, en la Carta VII, advertía que las cosas más importantes solo se aprenden tras mucho tiempo y esfuerzo, «frotando» los conceptos y las experiencias como si fueran pedernal, hasta que salta la chispa de la comprensión. La IA no frota nada: distribuye probabilidades.
La encíclica añade una advertencia que va más allá del engaño obvio. El riesgo de la simulación de la relación de cuidado no es tanto que una persona crea que habla con otra persona: es que pierda el deseo mismo de buscar realmente al otro. Cuando la palabra es simulada no construye una relación sino una apariencia, y la apariencia puede resultar suficientemente satisfactoria como para desplazar la búsqueda de lo real. Un empobrecimiento que no se anuncia como tal sino que llega con la apariencia de la comodidad.
Detrás de todo esto está también el trabajo invisible que sostiene la IA y que la encíclica nombra sin rodeos en el capítulo cuarto: jóvenes etiquetando datos a cambio de remuneraciones mínimas, niños extrayendo tierras raras en condiciones peligrosas, víctimas de trata convertidas en «paquetes» dentro de los mismos circuitos digitales que sustentan la economía global. «Cuerpos marcados, mutilados, consumidos para que el flujo de los cálculos no se interrumpa», escribe León XIV. El debate sobre la dignidad humana en la era de la IA no puede abstraerse de esa cadena de explotación deliberadamente mantenida oculta.
¿Puede la Iglesia ganar este debate?
Ojo: la respuesta no es obvia. La Iglesia llega al debate sobre la IA con una credibilidad institucional erosionada en muchos frentes. Los escándalos de abusos, la lentitud para adaptarse en cuestiones de género y sexualidad, la percepción no siempre injusta, de que defiende sus privilegios históricos con más energía que a los vulnerables: todo eso pesa. Un documento que apela a la dignidad humana redactado por una institución que ha violado sistemáticamente la dignidad de muchos de los más vulnerables que ha tenido bajo su cuidado sostiene una tensión que no puede ignorarse. León XIV no la elude: en el capítulo cuarto pide perdón explícitamente por la complicidad histórica de la Iglesia con la esclavitud, con una franqueza que no es habitual en documentos de este tipo.
Y sin embargo, la Iglesia llega a este debate con algo que ningún otro actor en la mesa tiene en la misma medida: una antropología milenaria, testada en el contacto con civilizaciones, imperios, revoluciones industriales y catástrofes de todo tipo. Una institución que ha visto nacer y morir más regímenes tecnológicos que ninguna otra. Que estuvo presente cuando el molino de agua transformó la economía medieval, cuando la imprenta deshizo el monopolio del saber, cuando la máquina de vapor rehízo el paisaje social de Europa, cuando la bomba atómica cambió para siempre la condición humana. Esa memoria larga no garantiza sabiduría, pero genera un tipo de perspectiva que la aceleración tecnológica tiende a suprimir: la capacidad de preguntar no solo ¿podemos hacer esto? sino ¿qué nos hace esto a nosotros?
Dicho esto, el documento muestra una grieta recurrente, hoy por hoy, en casi todos los textos filosóficos y antropológicos que analizan el fenómeno IA: cuando León XIV afirma que ningún sistema de cálculo puede generar un corazón que se entrega ni una conciencia capaz de discernir el bien, describe bien los sistemas que existen hoy. Pero la historia de la tecnología es en buena medida la historia de fronteras que parecían ontológicas y resultaron ser contingentes. Cada generación ha tenido su versión de «la máquina nunca podrá»: nunca podrá jugar al ajedrez como un humano, nunca podrá crear música original, nunca podrá mantener una conversación que parezca real. El riesgo de la encíclica es caer en una tautología del humanismo: definir lo humano por aquello que la IA todavía no puede hacer, con lo cual la definición se desplaza cada vez que la tecnología avanza. Una generación que crezca con sistemas de IA dotados de continuidad, de algo parecido a la historia personal y de simulaciones cada vez más convincentes de afecto y juicio moral va a enfrentarse a preguntas que este documento no responde: ¿en qué momento la simulación de la conciencia se convierte en algo que merece ser llamado conciencia? ¿Dónde está exactamente la frontera entre imitar el reconocimiento del otro y reconocerlo? León XIV tiene razón en que esas preguntas exigen una antropología. Pero la antropología que ofrece necesitará más que afirmaciones sobre el misterio irreductible para sostenerse cuando la IA deje de ser claramente una herramienta y empiece a parecer de verdad un interlocutor con identidad cognitiva propia.
Magnifica Humanitas es un documento imperfecto. Es largo, a veces redundante, y la sección dedicada específicamente a la IA convive con capítulos de recapitulación doctrinal que resultan menos urgentes para el lector no especializado. Pero en su núcleo late una doble pregunta que el debate tecnológico dominante no se está haciendo. La primera: ¿hace la IA la vida del hombre más humana, más digna del hombre? La segunda, más silenciosa pero igual de urgente, subyace a todo el documento: si construimos sistemas capaces de imitar todo lo que hacemos, ¿qué queda de lo que somos?
La respuesta que propone la encíclica es que lo que queda —la fragilidad, la vulnerabilidad, la capacidad de morir y de amar, la posibilidad del error como inicio de una transformación, el deseo que no se sacia con simulacros— merece ser cuidado, no reemplazado. Que ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega, ni una conciencia capaz de discernir el bien. León XIV no tiene respuestas técnicas para los problemas técnicos de la inteligencia artificial. Lo que ofrece es la insistencia en que detrás de cada elección técnica hay una elección antropológica, y que ninguna sociedad puede hacer esa elección de forma responsable sin preguntarse primero qué tipo de ser humano quiere proteger. Una pregunta antigua formulada con urgencia nueva. El hecho de que venga de una institución de dos milenios, con todas sus contradicciones a cuestas, no la hace menos pertinente.
Víctor Martínez López (Murcia, 1973) es un abogado vinculado a las industrias creativas, creativo publicitario y especialista en comunicación social.