El Vaticano publicó un nuevo documento sobre el desarrollo de la inteligencia artificial (IA), advirtiendo sobre los riesgos de los sistemas afines a ella y la concentración de recursos en un grupo de empresas "poderosas".
"El hecho de que la mayor parte del poder sobre las principales aplicaciones de la IA se concentre actualmente en manos de unas pocas empresas poderosas plantea importantes preocupaciones éticas", afirma la nota, que lleva por título 'Antiqua et nova' (antiguas y nuevas), sobre la relación entre la IA y la inteligencia humana.
El texto está firmado por los cardenales Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe, y José Tolentino Mendonça, prefecto del Dicasterio para la Cultura y la Educación.
Peligros y progresos
El texto advierte que ningún individuo "puede tener una supervisión completa de los vastos y complejos conjuntos de datos utilizados para la informática".
"Esta falta de responsabilidad bien definida crea el riesgo de que la IA pueda ser manipulada para beneficio personal o empresarial, o para orientar la opinión pública hacia los intereses de un sector", se lee en el documento enviado a los periodistas.
A lo largo de 35 páginas repletas de citas (son 214 las notas), el nuevo texto aborda las cuestiones antropológicas y éticas planteadas por la IA, asumiendo "preocupaciones por su posible influencia en la creciente crisis de la verdad en el debate público".
Los colaboradores del Papa subrayan que la IA debe utilizarse para "promover la dignidad humana y el bien común, y no para sustituir o degradar a la persona humana".
El texto plantea preocupaciones sobre "problemas sustanciales de responsabilidad ética y seguridad, con repercusiones más amplias en la sociedad en general".
Oportunidades y riesgos en el mundo laboral
En ese sen, la relación entre la IA y el mundo del trabajo se considera "una fuente de enormes oportunidades, pero también de profundos riesgos".
"Aunque la IA promete aumentar la productividad asumiendo tareas comunes, los trabajadores a menudo se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que las máquinas estén diseñadas para ayudar a quienes trabajan", indica el Vaticano.
La nota conjunta rechaza la idea de una "humanidad esclavizada por la eficiencia", advirtiendo acerca de las "implicaciones antropológicas y éticas" del desarrollo tecnológico.
La humanidad corre el riesgo de crear un sustituto de Dios. En última instancia, no es la IA la que es deificada y adorada, sino el ser humano, que se convierte así en esclavo de su propio trabajo".
El documento aborda cuestiones específicas, como el impacto de la IA en la sociedad, la educación, el trabajo, la salud, la guerra y la espiritualidad.
"Aunque la IA procesa y simula ciertas expresiones de inteligencia, sigue estando fundamentalmente confinada a un dominio lógico-matemático, lo que le impone ciertas limitaciones inherentes", indica el Vaticano.
Distinguir entre IA e inteligencia humana
La reflexión destaca la centralidad de la "dignidad humana", considerando importante que "la persona que toma decisiones basadas en la IA sea responsable de ellas y que sea posible justificar el uso de la IA en todas las etapas del proceso".
Al pedir algoritmos "fiables", los responsables de la Santa Sede señalan el "alto grado de subalternidad en relación con la tecnología que caracteriza a la sociedad contemporánea".
La nota advierte acerca de la "antropomorfización de la IA" y sostiene que ninguna aplicación es "capaz de sentir verdaderamente empatía".
En un mundo cada vez más individualista, hay quienes han recurrido a la IA en busca de relaciones humanas profundas, simple compañerismo o incluso vínculos emocionales".
En cuanto a la atención sanitaria, el Vaticano acoge con satisfacción los avances en el ámbito del diagnóstico y el tratamiento, pero rechaza que los pacientes empiecen a "interactuar con una máquina en lugar de con un ser humano".
Guerra
En relación con la guerra, Antiqua et Nova subraya que los sistemas de armas autónomas y letales, capaces de "identificar y atacar objetivos sin intervención humana directa, son "motivo de grave preocupación ética".
Se señala también que el Papa Francisco ha pedido que se prohíba su uso, porque plantean "un 'riesgo existencial', al tener el potencial de actuar de maneras que podrían amenazar la supervivencia de regiones enteras o incluso de la humanidad misma".
"Este peligro exige una atención seria", dice el documento, lo que refleja "la preocupación de larga data sobre las tecnologías que otorgan a la guerra 'un poder destructivo incontrolable sobre grandes cantidades de civiles inocentes', sin siquiera perdonar a los niños".
Acerca de la educación
El texto también reflexiona sobre el ámbito de la educación, hablando de una "relación indispensable entre profesor y alumno", particularmente frente a una "cultura ampliamente digitalizada".
"El uso extensivo de la IA en educación podría provocar una mayor dependencia de los estudiantes de la tecnología", indican los responsables de la Curia Romana.
Es necesario que los usuarios de todas las edades, pero especialmente los jóvenes, desarrollen una capacidad de discernimiento en el uso de los datos y contenidos recogidos en Internet o producidos por sistemas de inteligencia artificial".
El Vaticano dedica especial atención a los fenómenos de la desinformación y los llamados "deepfake", recordando que "los actuales programas de IA pueden proporcionar información distorsionada o fabricada".
"Este tipo de engaño generalizado no es un problema menor: golpea el corazón de la humanidad, demoliendo la confianza fundamental sobre la que se construyen las sociedades", lamenta la nota.
Perder de vista lo trascendente
El documento también advierte contra mecanismos de control social y violaciones de la privacidad, abogando por un mayor respeto a los datos personales.
"No hay justificación para su uso con fines de control, explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de la mayoría", se lee.
El texto identifica posibles "avances" en la lucha contra el cambio climático, con la ayuda de la IA, pero recuerda el "fuerte impacto que estas tecnologías tienen en el medio ambiente".
Citando el discurso del Papa en la sesión del G7 sobre inteligencia artificial en Borgo Egnazia (Italia), el 14 de junio de 2024, la nota señala que los sistemas de armas letales autónomas, capaces de identificar y atacar objetivos sin intervención humana directa, son "una causa grave para la preocupación ética".
La nota reflexiona sobre la relación de la humanidad con Dios, indicando que, "a medida que la sociedad se aleja de la conexión con lo trascendente, algunos se ven tentados a recurrir a la IA en busca de significado o plenitud".
El texto fue aprobado por el Papa, en audiencia concedida a los responsables de los Dicasterios para la Doctrina de la Fe y de la Cultura y la Educación, el 14 de enero último, y fue publicado, simbólicamente, este martes 28, día en que el calendario litúrgico celebra a santo Tomás de Aquino, doctor de la Iglesia.
Acceda al texto completo del mensaje
