UNA “ALGOR-ÉTICA” PARA GUIAR A LA INTELIGENCIA ARTIFICIAL HACIA LA DIGNIDAD HUMANA

La Pontificia Academia de las Ciencias Sociales emitió la “Declaración de consenso del Taller sobre Inteligencia Artificial, Justicia y Democracia”, un encuentro de trabajo celebrado en la ciudad del Vaticano el 4 y 5 de marzo de 2025, organizado junto al Comité Panamericano de Juezas y Jueces por los Derechos Sociales y la Doctrina Franciscana (COPAJU), y el Instituto de Investigaciones Jurídicas Fray Bartolomé de las Casas (IFBC).

Este taller surgió como respuesta al llamado hecho por el Papa Francisco a construir una “algor-ética”, es decir, a dar prioridad a las consideraciones éticas y al respeto por la dignidad humana en el desarrollo y el empleo de la inteligencia artificial (IA), entendidas como condiciones para el uso de estas nuevas y potentes tecnologías en servicio de la humanidad. 

Con esa misión, durante dos días de intensa actividad, se dieron cita en Casina Pío IV destacados expertos de diversos campos, convocados por la Pontificia Academia de las Ciencias Sociales, COPAJU y el IFBC para examinar el profundo impacto social de la IA, sobre todo en la administración de justicia, el ejercicio de la ciudadanía democrática y la dignidad del trabajo.

A partir de esos ejes, la declaración aborda aspectos claves para un análisis integral de la IA, en ese contrapunto entre su enorme potencial –lo que Francisco describió como “una verdadera revolución cognitivo-industrial”– y “la dualidad de la IA, mostrando tanto promesa como preocupación”. 

Comienza por señalar que “la IA plantea inquietudes sobre el fraude, la desinformación y el sesgo”, con “implicancias negativas para la ciudadanía democrática, fomentando una sensación de renuencia a dialogar con quienes discrepan y una falta general de civilidad en el ámbito público”. Por eso, destaca “la importancia de la educación en IA para empoderar a las personas a comprender, participar e influir en el desarrollo” de estas tecnologías.

De esa forma, “una población global bien informada puede aprovechar la IA para el progreso social, combatir la desinformación, ampliar el acceso a la justicia y promover la protección de los derechos humanos, defendiendo la dignidad humana y la responsabilidad ética”.

En otro punto el documento se refiere a “la necesidad de tomar decisiones para proteger la dignidad del trabajo, ya que la IA amenaza con vaciar y devaluar categorías enteras de empleo, tanto tareas rutinarias como altamente cualificadas”. En ese sentido, indica “tres desafíos: garantizar que los trabajadores moldeen el diseño de la IA, garantizar que todos los trabajadores se beneficien de las oportunidades de la IA y protegerlos de los daños de la IA”. Es decir, “que el futuro del trabajo dependerá en parte de si la IA está diseñada con y para los trabajadores, mejorando la dignidad humana en lugar de menoscabarla”.

Agrega que, “en cuanto a los incipientes mecanismos regulatorios globales de la IA, aún queda mucho por descubrir” ante el desafío que resulta de una tecnología de “rápida evolución en todas partes y en casi todos los ámbitos de la actividad humana”. Advierte que, “si bien existen herramientas emergentes que pueden aprovecharse, actualmente no hay un consenso internacional”, por lo cual “las consideraciones éticas son esenciales para guiar los sistemas regulatorios, proteger la dignidad humana y garantizar la justicia”. 

Sin embargo, lejos de proponerse un bloqueo al uso de la IA, que “resultará en una desventaja competitiva al negar oportunidades de aprendizaje y ceder el progreso a quienes sí la utilizan”, se destaca que “es imperativo establecer barreras que guíen su desarrollo e integren consideraciones éticas”. 

Entre las iniciativas regulatorias para maximizar el potencial y minimizar los riesgos, el texto reseña el caso de la Ley de Inteligencia Artificial de la Unión Europea (UE) –reglamento 2024/1689–, “cuyo objetivo es crear un marco legal coherente para el desarrollo, la comercialización y el uso de sistemas de IA dentro de la Unión, en consonancia con los valores y los derechos fundamentales de la UE”.

En su tramo final, luego de plantear una serie de principios básicos, preocupaciones, recomendaciones claves y llamadas a la acción, la declaración de consenso concluye que el Taller sobre Inteligencia Artificial, Justicia y Democracia “reafirmó la importancia de priorizar la dignidad humana y las consideraciones éticas en el desarrollo y la implementación de la IA”, en la convicción de que, como señaló el Papa Francisco, al adoptar la “algor-ética” y promover la colaboración interdisciplinaria se puede aprovechar el potencial de esta tecnología y, a la vez, salvaguardar “la justicia, la democracia y la búsqueda de la verdad para todos”.

Junto a esta perspectiva conceptual, hubo también “un compromiso renovado para garantizar que la IA sirva al bien de la humanidad”, por el cual las y los participantes se comprometieron a continuar ese “diálogo vital y a traducir estos principios en políticas y prácticas viables en sus respectivos ámbitos y jurisdicciones”.

Acceda a la declaración de consenso.