Regulación de la inteligencia artificial: la advertencia del papa León XIV
Pablo Rodríguez
En su primera gran encíclica sobre el tema, titulada “Magnifica Humanitas”, León XIV sostiene que la inteligencia artificial es una herramienta poderosa, pero “necesita ser desarmada” de las lógicas de dominación, exclusión y muerte. El pontífice advierte que ciertos sistemas autónomos, especialmente los usados en la guerra, han avanzado “prácticamente más allá del alcance humano para gobernarlos”, lo que exige una respuesta política urgente.
León XIV enmarca la IA dentro de una “cultura del poder” donde grandes empresas tecnológicas y potencias militares compiten por ventaja, a menudo sin suficiente supervisión democrática. Esa dinámica, según el Papa, pone en riesgo tanto la paz como los derechos fundamentales de millones de personas.
El Papa subraya el peligro de delegar decisiones irreversibles y letales a máquinas, al afirmar que “no es permisible” confiar a la IA la facultad de matar. Señala que algunas armas autónomas operan ya con escasa o nula supervisión humana, lo que podría conducir a una espiral de guerras automatizadas y deshumanizadas.
Además, advierte sobre otros riesgos no militares: la difusión masiva de desinformación, la manipulación de elecciones y la sustitución de trabajadores sin redes de protección social adecuadas. En todos estos casos, el hilo conductor es el temor a que la IA se convierta en un instrumento que agrava desigualdades y vulnera la dignidad humana.
Propuestas de regulación
León XIV reclama “marcos jurídicos robustos, supervisión independiente y usuarios informados” para frenar el desarrollo descontrolado de la IA. Pide una implicación política activa capaz de “ralentizar las cosas cuando todo se acelera”, en referencia a la carrera tecnológica y al desmantelamiento de regulaciones por parte de algunos gobiernos.
El Papa propone, además, que la propiedad de los datos y de las infraestructuras de IA no quede sólo en manos privadas, sino que se sometan a reglas que protejan el bien común. También reclama normas específicas para proteger a los niños, asegurar los derechos laborales y evitar que unas pocas empresas definan unilateralmente la “moralidad” programada en estos sistemas.
En su manifiesto, León XIV insiste en que el problema no es la IA en sí misma, sino el uso que se hace de ella. Propone una “civilización del amor” construida a partir de actos cotidianos de justicia y solidaridad, frente a una cultura que idolatra la eficiencia y el beneficio por encima de la persona.
El pontífice incluso recurre a referencias culturales, como una cita de Gandalf de “El Señor de los Anillos”, para ilustrar que cada individuo tiene una responsabilidad en orientar la tecnología hacia el bien común. Al hacerlo, intenta conectar con un público más amplio, más allá del ámbito estrictamente religioso, para abrir un debate global sobre el rumbo de la inteligencia artificial.