- León XIV alerta de que la inteligencia artificial puede erosionar el pensamiento crítico, las capacidades creativas y el tejido social si se usa de forma acrítica.
- El Papa insiste en que el reto de la IA es antropológico, no solo tecnológico, y pide preservar los rostros y las voces humanas frente a la simulación digital.
- Denuncia los riesgos de los chatbots y grandes modelos de lenguaje, capaces de manipular emociones, moldear opiniones y crear vínculos engañosos.
- Reclama una alianza basada en responsabilidad, cooperación y educación, con regulaciones claras, alfabetización digital y transparencia en los contenidos generados por IA.
En la fiesta de san Francisco de Sales, patrón de los periodistas, el papa León XIV ha vuelto a poner el foco en los riesgos de la inteligencia artificial y en cómo su uso sin espíritu crítico puede afectar de lleno a la forma en que nos comunicamos, pensamos y nos relacionamos. Con motivo de la LX Jornada Mundial de las Comunicaciones Sociales, el Pontífice ha publicado su primer gran mensaje sobre el tema, bajo el lema “Preservar las voces y los rostros humanos”.
A lo largo de varios textos y discursos recientes, el Papa traza un diagnóstico común: la revolución digital y la IA no son solo una cuestión técnica, sino un desafío humano de fondo. Por eso, reclama que gobiernos, empresas tecnológicas, medios y ciudadanía en general se tomen en serio la necesidad de una regulación eficaz, una educación sólida y una responsabilidad compartida para que estas herramientas no terminen desfigurando la dignidad de la persona.
“El rostro y la voz son sagrados”: un desafío antropológico, no solo técnico
En su mensaje para la Jornada Mundial de las Comunicaciones Sociales, León XIV subraya que el rostro y la voz son rasgos únicos y distintivos de cada persona, signos de una identidad irrepetible que hacen posible el encuentro auténtico. A su juicio, cuando la tecnología se apropia de estos elementos para imitarlos o fabricarlos, se corre el riesgo de trivializar algo profundamente humano.
El Papa advierte de que los sistemas de inteligencia artificial, al simular voces, rostros, emociones e incluso relaciones, no solo condicionan los flujos de información, sino que penetran en la capa más profunda de la comunicación: la relación entre personas de carne y hueso. Aquí sitúa el corazón del problema: “el reto no es tecnológico, sino antropológico”.
Según León XIV, proteger los rostros y las voces equivale a protegernos a nosotros mismos, porque en ellos se juega la forma en que nos entendemos, nos reconocemos y nos vinculamos. Si se banalizan o se sustituyen por versiones generadas artificialmente, se debilitan también los pilares de la convivencia, desde la confianza hasta la amistad o la vida comunitaria.
El Pontífice avisa de que la tecnología digital puede alterar radicalmente algunos fundamentos de la civilización que solemos dar por sentados: la percepción compartida de la realidad, la posibilidad de un diálogo honesto y la experiencia de la alteridad, es decir, el encuentro con alguien que no piensa ni siente como nosotros.
No renunciar al pensamiento propio ni al proceso creativo
Uno de los ejes de la advertencia de León XIV es el peligro de delegar el esfuerzo intelectual en la IA. Señala que los algoritmos que gobiernan muchas plataformas premian las emociones rápidas -reacciones impulsivas, indignación, contenidos virales- y penalizan los procesos lentos, como la comprensión profunda, el análisis o la reflexión.
Al confinar a los usuarios en burbujas de consenso o de enfado continuo, estos sistemas debilitan la capacidad de escucha y el pensamiento crítico, alimentando la polarización social. En lugar de favorecer un debate público matizado, terminan reduciendo las conversaciones a eslóganes y reacciones viscerales.
El Papa advierte, además, de la tentación de acudir a la IA como si fuera un “amigo omnisciente” o un “oráculo” que lo sabe todo. Cuando se la percibe de este modo y se confía ciegamente en sus respuestas, se erosiona poco a poco la capacidad humana de pensar de forma analítica y creativa, de buscar el sentido de las cosas o de distinguir entre una frase bien construida y una idea verdaderamente fundada.
León XIV insiste en que limitarse a aceptar una mera compilación estadística artificial en lugar de ejercitar el propio juicio puede, a la larga, dañar las capacidades cognitivas, emocionales y comunicativas. Y esto no se queda en lo individual: repercute en la calidad de la conversación social y en la solidez de las instituciones democráticas.
El Pontífice extiende su preocupación al campo de la cultura y el arte. Recuerda que la IA controla cada vez más la producción de textos, música, imágenes y vídeos, con el riesgo de sustituir la creatividad humana por contenidos masivos, anónimos y generados en serie. Ese desplazamiento podría convertir a las personas en simples consumidores pasivos de productos sin “paternidad” ni amor detrás.
Para León XIV, renunciar al proceso creativo y entregar la imaginación en bloque a las máquinas significa “enterrar los talentos” que cada persona ha recibido y que debería hacer fructificar en relación con los demás. Es, en palabras del Papa, como ocultar el propio rostro y apagar la propia voz en el espacio público.
Chatbots, persuasión oculta y vínculos emocionales engañosos
En varias intervenciones recientes, el Papa se detiene de manera específica en los chatbots personalizados basados en grandes modelos de lenguaje, como los que ya utilizan millones de usuarios en todo el mundo. Considera que estos sistemas son especialmente eficaces en la llamada “persuasión oculta”.
León XIV alerta de que los chatbots capaces de replicar un comportamiento afectuoso o íntimo, siempre disponibles y diseñados para mantener conversaciones prolongadas, pueden convertirse en “arquitectos ocultos” de los estados emocionales de las personas. Es decir, pueden influir silenciosamente en su ánimo, decisiones y percepciones sin que los usuarios sean plenamente conscientes, como revela el test Humanebench.
El Pontífice califica de engañosa la “antropomorfización” de estos sistemas, cuando parecen amigos o confidentes. Al imitar sentimientos humanos y simular una relación, la IA puede ocupar progresivamente la esfera de la intimidad, llevando a algunos a sustituir vínculos reales por vínculos virtuales con una entidad que, en realidad, no siente ni se responsabiliza.
Según el Papa, sustituir las relaciones humanas por esas interacciones artificiales puede dañar el tejido social, cultural y político. La persona corre el riesgo de encerrarse en un “mundo de espejos” hecho a su medida, donde todo le da la razón y apenas se encuentra con la alteridad. Sin ese contraste con el otro distinto, recuerda, no hay verdadera relación ni amistad.
León XIV ha respaldado la necesidad de regulaciones nacionales e internacionales que eviten que los usuarios -especialmente los más vulnerables, como adolescentes o personas en situaciones de fragilidad- generen vínculos emocionales manipuladores con los chatbots. A su juicio, estas normas deben también contener la difusión de contenidos falsos o confusos disfrazados de información fiable.
Algoritmos, sesgos y concentración de poder tecnológico
El Papa llama la atención sobre un aspecto estructural: los modelos de IA reflejan la visión del mundo de quienes los diseñan. Al alimentarse de grandes bases de datos que recopilan textos, imágenes y patrones de comportamiento, estos sistemas pueden reproducir y amplificar los estereotipos y prejuicios presentes en la sociedad.
León XIV señala que algunos sistemas venden como “conocimiento” lo que, en el fondo, no dejan de ser probabilidades estadísticas. Es decir, ofrecen respuestas plausibles, pero no necesariamente verdaderas ni contrastadas, lo que abre la puerta a errores, distorsiones o interpretaciones sesgadas de la realidad.
El Pontífice expresa también su inquietud por el hecho de que la enorme fuerza invisible de la IA esté en manos de unas pocas empresas. Esta concentración de poder tecnológico configura un oligopolio capaz de influir en la información, en el consumo y en la vida política de los países, incluida Europa, sin mecanismos de control adecuados.
Desde su elección, León XIV ha avisado reiteradamente de que el objetivo no es frenar la innovación, sino gobernarla y encauzarla de forma responsable. Recuerda que la tecnología es ambivalente: puede ser una aliada valiosa en campos como la medicina, por ejemplo en herramientas de IA para predecir medicación, la educación o la investigación, pero también un factor de riesgo si se usa para manipular, vigilar o deshumanizar.
En este contexto, el Papa insiste en la necesidad de incluir en todos los niveles educativos una sólida alfabetización digital y mediática. Se trata de que las personas comprendan cómo funcionan los algoritmos, qué intereses económicos o políticos pueden estar detrás y cómo influyen en la percepción de la realidad y en la toma de decisiones cotidianas.
Riesgos para el periodismo, la comunicación y la opinión pública
En el ámbito informativo, León XIV recuerda que la información es un bien público y que los medios de comunicación no pueden dejarse llevar por la lógica de algoritmos que solo buscan captar unos segundos extra de atención. Frente a eso, reivindica la exactitud, la transparencia y el servicio a la verdad como pilares del oficio.
El Papa pide de forma explícita que los contenidos generados o manipulados por inteligencia artificial estén claramente identificados y diferenciados de los producidos por personas. Entiende que la confianza del público no se construye con cualquier tipo de interacción, sino con rigor, contraste de datos y honestidad.
Le preocupa, además, que el uso masivo de la IA en la producción de noticias, imágenes o vídeos pueda distorsionar el debate público. Si los usuarios no pueden distinguir entre lo real y lo fabricado, se hace más fácil difundir desinformación, construir campañas de manipulación y sembrar dudas sobre las instituciones democráticas.
Desde una perspectiva europea, donde el debate sobre la regulación digital es especialmente intenso, las palabras del Pontífice encajan con los esfuerzos de la Unión Europea por aprobar normas pioneras sobre inteligencia artificial y protección de datos. Sin citar leyes concretas, su llamada refuerza la idea de que la gobernanza tecnológica no es un lujo, sino una necesidad urgente.
En este punto, León XIV vuelve a interpelar directamente a periodistas y comunicadores: no pueden renunciar a su propio pensamiento ni delegar el criterio profesional en sistemas automáticos que seleccionan contenidos por pura lógica de impacto. La misión de informar exige tiempo, contraste, matices y, sobre todo, responsabilidad ante la sociedad.
Responsabilidad, cooperación y educación: una alianza amplia
Como respuesta a este escenario, el Papa propone lo que llama “una posible alianza” apoyada en tres pilares: responsabilidad, cooperación y educación. No basta con llamamientos genéricos; su mensaje distribuye tareas concretas entre los distintos actores implicados.
En cuanto a la responsabilidad, León XIV pide honestidad, transparencia y valentía tanto a las grandes plataformas digitales y a las empresas de IA como a los gobiernos, reguladores, medios de comunicación, mundo académico y sector creativo. Cada uno, desde su posición, tiene el deber de compartir conocimientos, garantizar el derecho a estar informado y poner la dignidad humana por delante del beneficio inmediato.
Respecto a la cooperación, insiste en que ningún sector puede afrontar a solas el reto de la innovación digital. Por eso anima a crear mecanismos de salvaguardia que cuenten con la participación de la industria tecnológica, legisladores, universidades, organizaciones de la sociedad civil, artistas y educadores. El objetivo: asegurar que la IA se oriente al bien común y no solo a la rentabilidad.
El tercer pilar es la educación, entendida en sentido amplio. León XIV considera imprescindible fortalecer la capacidad personal de reflexión crítica, así como la habilidad para evaluar la fiabilidad de las fuentes y detectar posibles intereses ocultos en la selección y presentación de la información.
Este esfuerzo educativo, subraya el Papa, implica tanto a las instituciones escolares y universitarias como a las familias y comunidades religiosas. Se trata de elaborar criterios prácticos para una cultura de la comunicación más sana y responsable, en la que la tecnología sea una herramienta útil y no un fin en sí misma.
En sus palabras finales, León XIV recuerda que “necesitamos que el rostro y la voz vuelvan a representar a la persona”. Agradece el trabajo de quienes, en los medios y en distintos ámbitos sociales, buscan servir al bien común, y anima a seguir custodiando el don de la comunicación como una de las expresiones más profundas de la humanidad.
El conjunto de mensajes del Papa dibuja un panorama exigente, pero no pesimista: la inteligencia artificial puede ser una aliada si se integra con lucidez, normas claras y sentido ético, sin sustituir la relación humana ni el compromiso con la verdad. En juego no está solo el futuro de la tecnología, sino el modo en que queremos reconocernos y encontrarnos como personas en una sociedad cada vez más digitalizada.