Papa León XIV advierte sobre concentración del poder en la inteligencia artificial y pide un desarrollo más lento
· Por Orenses.com
El Papa León XIV lanzó este lunes un llamado histórico por una regulación más rigurosa del desarrollo de la inteligencia artificial, adviriendo que la tecnología está alimentando y normalizando conflictos en todo el mundo. En su primera encíclica papal titulada "Magnifica Humanitas" (Humanidad Magnífica), el pontífice señaló que la IA no debe estar "concentrada en manos de solo pocas personas" y llamó a "desarmar la inteligencia artificial", aclarando que esto "no significa rechazar la tecnología, sino evitar que domine a la humanidad".
El documento, firmado el 15 de mayo y lanzado públicamente el lunes, fue presentado en el Vaticano junto a Christopher Olah, cofundador del gigante de la IA Anthropic. Durante la presentación, Olah reconoció que todos los laboratorios de IA "operan dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto", subrayando la importancia de que haya personas fuera de esos incentivos que "presten atención y estén dispuestas a decir cosas difíciles".
El Papa León XIV, el primer pontífice nacido en Estados Unidos, enfatizó que "solo regular la IA es insuficiente". En la encíclica, expresó preocupación particular sobre el uso de sistemas de armas autónomas, advirtiendo que "la creciente facilidad con la que pueden desplegarse hace la guerra más 'factible' y menos sujeta al control humano". Escribió que "el uso de la IA en la guerra debe estar sujeto a las restricciones éticas más rigurosas, para garantizar el respeto por la dignidad humana y la santidad de la vida".
El pontífice no se posiciona como un opositor a la tecnología. "La tecnología no debe considerarse, en sí misma, como una fuerza antagónica a la humanidad", escribió. Sin embargo, advirtió contra la concentración de poder en manos de intereses privados poderosos, sin supervisión gubernamental. "Una IA más moral no es suficiente si esa moralidad es determinada por pocos", señaló.
La encíclica fue estratégicamente fechada para coincidir con el 135 aniversario de otro documento clave redactado por su predecesor de mismo nombre, Papa Leo XIII, en 1891. Mientras que aquel Papa se enfocó en los derechos de los trabajadores durante la revolución industrial, el Papa actual escribió que "no podemos limitarnos simplemente a repetir sus enseñanzas", sino que "debemos pedir a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, particularmente los avances tecnológicos".
El lanzamiento de esta encíclica genera potencial fricción entre el Vaticano y la administración del presidente Donald Trump, quien ordenó a todas las agencias federales suspender el uso de Anthropic después de que la empresa rechazara dar acceso irrestricto de su tecnología a militares estadounidenses. Esto se suma a tensiones previas tras las críticas del Papa a la guerra en Irán.
En su documento, Leo XIV argumentó que "llamar a la prudencia, evaluación rigurosa e incluso, a veces, a un ritmo más lento en la adopción de la IA no significa oponerme al progreso". En cambio, lo describe como "un ejercicio de cuidado responsable por la familia humana".
El Papa expresó además preocupación sobre cómo la humanidad "está deslizándose hacia una cultura violenta de poder, donde la paz ya no aparece como una responsabilidad a asumir, sino como un frágil intervalo entre conflictos". Concluyó que la tarea actual "no es solo ética o técnica. Es ecológica en el sentido más profundo, porque concierne una nueva dimensión de nuestro hogar común".