El Papa: Prohibir armas autónomas letales, proteger la dignidad en la era de las máquinas

Están representados más de 150 participantes de 13 naciones diferentes y 11 religiones. Hoy se ha presentado el documento del Llamamiento de Hiroshima, en el que, además de reafirmar la necesidad de utilizar la IA sólo para el bien de la humanidad y del planeta, se insta a la comunidad internacional a utilizar medios pacíficos para resolver cualquier conflicto, a fin de lograr el fin inmediato de todos los conflictos armados, y la firma del Llamamiento de Roma por una Ética de la IA, en el evocador marco del Parque Memorial de la Paz, por dieciséis líderes religiosos de diferentes confesiones del mundo oriental (incluidos el budismo, el hinduismo, el zoroastrismo y el bahá’í), acompañados por exponentes de las religiones abrahámicas (cristianos, judíos y musulmanes).

El llamamiento aboga por la aplicación, en el ámbito de la IA, de una algorética o ética by design. El Papa, en el texto enviado, afirma que “incluir en la gobernanza de las inteligencias artificiales las riquezas culturales de los pueblos y de las religiones es una clave estratégica” si se quiere gestionar con sabiduría la innovación tecnológica. Y, como ya hizo en el G7, eleva la petición de prohibir el uso de “armas autónomas letales”, mientras que en un post en X, desde su accont @Pontifex, afirma que “solo juntos podemos construir la #paz, gracias también a las tecnologías al servicio de la humanidad y con respeto a nuestra casa común”.

Las decisiones pertenecen siempre al hombre

Francisco subrayó la importancia de reunirse “en Hiroshima para hablar de inteligencia artificial y de paz, porque “desgraciadamente, entre los conflictos actuales que sacuden cada vez más el mundo, además del odio a la guerra, oímos hablar de esta tecnología”. El Papa aprovechó la ocasión para reiterar lo que había subrayado sobre estos temas a los líderes políticos del G7, el pasado 14 de junio, recordando que cuando la máquina, “en algunas formas y con estos nuevos medios”, produce “elecciones algorítmicas“, llega a “una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas”, mientras que “el ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir” y, por tanto, hace “una valoración práctica”.

“A menudo en la difícil tarea de gobernar, estamos llamados a tomar decisiones con consecuencias incluso para muchas personas”, observa el Pontífice, que “frente a los prodigios de las máquinas, que parecen capaces de elegir autónomamente”, considera indispensable dejar siempre la decisión al ser humano, “incluso con los tonos dramáticos y urgentes con los que a veces se presenta en nuestras vidas.”

“Estaríamos condenando a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir sobre sí mismas y sobre sus vidas, condenándolas a depender de las elecciones de las máquinas”, añadió Francisco, citando su discurso en el G7 y destacando la necesidad de “garantizar y proteger un espacio de control humano significativo sobre el proceso de elección de los programas de inteligencia artificial”, porque “de ello depende la propia dignidad humana“.

Prohibir el uso de armas autónomas letales

Alabando la iniciativa promovida en Japón por la Academia Pontificia de la Vida, Religiones por la Paz Japón, el Foro Abu Dhabi por la Paz de los Emiratos Árabes Unidos y la Comisión para las Relaciones Interreligiosas del Gran Rabinato de Israel, el Papa escribe que ‘es esencial’, ‘unidos como hermanos’ recordar al mundo, cuán ‘urgente’ es, reflexionando sobre los ‘conflictos armados’, ‘repensar el desarrollo y el uso de dispositivos como las llamadas ‘armas autónomas letales’ para prohibir su uso, comenzando ya con un compromiso concreto y activo para introducir un control humano cada vez mayor y más significativo’. Porque “ninguna máquina debería elegir jamás acabar con la vida de un ser humano”. Al final de su mensaje, Francisco deseó que el encuentro de Hiroshima “dé frutos de fraternidad y colaboración” y aseguró su oración para que todos “se conviertan en instrumento de paz para el mundo”.