El encuentro Omnes-CARF ha abordado las ventajas y riesgos de la inteligencia artificialEn el mensaje para la 57ª Jornada Mundial de la Paz el Papa reflexiona sobre lo positivo de los avances científicos, pero también sobre los retos éticos que algunos avances, como la inteligencia artificial, plantean.
En primer lugar, Francisco recuerda que la Sagrada Escritura afirma que “Dios ha dado a los hombres su Espíritu para que tengan ‘habilidad, talento y experiencia en la ejecución de toda clase de trabajos’ (Ex35,31).
También en la constitución pastoral “Gaudium et spes”, del Concilio Vaticano II, se decía que el hombre siempre “se ha esforzado con su trabajo y con su ingenio en perfeccionar su vida”. Por tanto, el Papa señala que el progreso de la ciencia y de la técnica “en la medida en que contribuye a un mejor orden de la sociedad humana y a acrecentar la libertad y la comunión fraterna, lleva al perfeccionamiento del hombre y a la transformación del mundo”, y ha manifestado su alegría por los avances de la ciencia, gracias a los que “se ha podido poner remedio a innumerables males que afectaban a la vida humana y causaban grandes sufrimientos”.
Riesgos y algoritmos
Pero, por otra parte, Francisco señala que estos avances pueden conllevar un riesgo en algunos ámbitos: “Los progresos técnico-científicos, haciendo posible el ejercicio de un control sobre la realidad, nunca visto hasta ahora, están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común”.
Francisco también hace mención a las tecnologías que usan algoritmos, que extraen los “rastros digitales dejados en internet, datos que permiten controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, frecuentemente sin que ellos lo sepan, limitándoles el ejercicio consciente de la libertad de elección. De hecho, en un espacio como la web, caracterizado por una sobrecarga de información, se puede estructurar el flujo de datos según criterios de selección no siempre percibidos por el usuario”.
El Papa recuerda que las innovaciones no son “neutrales, sino que están sujetas a las influencias culturales. En cuanto actividades plenamente humanas, las direcciones que toman reflejan decisiones condicionadas por los valores personales, sociales y culturales de cada época”.
Inteligencia artificial
A continuación, el Papa se detiene a reflexionar sobre la inteligencia artificial, debido a que “el término mismo, que ha entrado ya en el lenguaje común, abraza una variedad de ciencias, teorías y técnicas dirigidas a hacer que las máquinas reproduzcan o imiten, en su funcionamiento, las capacidades cognitivas de los seres humanos”.
“Su impacto”, recuerda el Papa, “independientemente de la tecnología de base, no solo depende del proyecto, sino también de los objetivos y de los intereses del que los posee y del que los desarrolla, así como de las situaciones en las que se usan”.
Por todo ello, Francisco señala que no hay que dar por hecho que el desarrollo de esta llamada inteligencia artificial aporte necesariamente algo positivo a la humanidad: “Tal resultado positivo sólo será posible si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales (…). No basta ni siquiera suponer, de parte de quien proyecta algoritmos y tecnologías digitales, un compromiso de actuar de forma ética y responsable. Es preciso reforzar o, si es necesario, instituir organismos encargados de examinar las cuestiones éticas emergentes y de tutelar los derechos de los que utilizan formas de inteligencia artificial o reciben su influencia”.
Por otra parte, el Papa reflexiona sobre las máquinas que aprenden solas, el “machine learning” y “deep learning”, una tecnología que, aunque se encuentra “en una fase pionera, ya está introduciendo cambios notables en el tejido de las sociedades, ejercitando una profunda influencia en las culturas, en los comportamientos sociales y en la construcción de la paz”.
Desinformación y parcialidad
Además, “la habilidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de confiabilidad. (…) Pueden (…) generar afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios. Esto crea un serio problema cuando la inteligencia artificial se emplea en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación. La confidencialidad, la posesión de datos y la propiedad intelectual son otros ámbitos en los que las tecnologías en cuestión plantean graves riesgos, a los que se añaden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad”.
Además, el Papa subraya que los algoritmos no pueden proporcionar “previsiones garantizadas del futuro, sino solo aproximaciones estadísticas. No todo puede ser pronosticado, no todo puede ser calculado (…). Además, la gran cantidad de datos analizados por las inteligencias artificiales no es de por sí garantía de imparcialidad. Cuando los algoritmos extrapolan informaciones, siempre corren el riesgo de distorsionarlas, reproduciendo las injusticias y los prejuicios de los ambientes en los que se originan. Cuanto más veloces y complejos se vuelven, más difícil es comprender por qué han generado un determinado resultado”.
Por otra parte, las inteligencias artificiales no son imparciales, “el fin y el significado de sus operaciones continuarán siendo determinadas o habilitadas por seres humanos que tienen un propio universo de valores”. “El riesgo”, señala el Papa, “es que los criterios que están en la base de ciertas decisiones se vuelvan menos transparentes, que la responsabilidad decisional se oculte y que los productores puedan eludir la obligación de actuar por el bien de la comunidad”.
Por ello, es importante el “sentido del límite”, que, según indica Francisco, es “un aspecto a menudo descuidado en la mentalidad actual, tecnocrática y eficientista, y sin embargo decisivo para el desarrollo personal y social. El ser humano, en efecto, mortal por definición, pensando en sobrepasar todo límite gracias a la técnica, corre el riesgo, en la obsesión de querer controlarlo todo, de perder el control de sí mismo, y en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica”.
Discriminación e injusticias
El Papa subraya que todas estas cuestiones suponen grandes desafíos éticos: “En el futuro, la fiabilidad de quien pide un préstamo, la idoneidad de un individuo para un trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social podrían ser determinados por sistemas de inteligencia artificial. (…) Los errores sistémicos pueden multiplicarse fácilmente, produciendo no sólo injusticias en casos concretos sino también, por efecto dominó, auténticas formas de desigualdad social”.
Por otra parte, existe el riesgo de una influencia y limitación en la libertad humana, ya que “con frecuencia las formas de inteligencia artificial parecen capaces de influenciar las decisiones de los individuos por medio de opciones predeterminadas asociadas a estímulos y persuasiones, o mediante sistemas de regulación de las elecciones personales basados en la organización de la información. Estas formas de manipulación o de control social requieren una atención y una supervisión precisas, e implican una clara responsabilidad legal por parte de los productores, de quienes las usan y de las autoridades gubernamentales”.
El Papa recuerda que los derechos humanos siempre deben estar por delante: “No debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado”.
Además, otro importante tema a tener en cuenta es el impacto “de las nuevas tecnologías en el ámbito laboral. Trabajos que en un tiempo eran competencia exclusiva de la mano de obra humana son rápidamente absorbidos por las aplicaciones industriales de la inteligencia artificial”.
Armas
Otra de las grandes preocupaciones del Papa en este ámbito es la carrera armamentísica: “La posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra. La búsqueda de las tecnologías emergentes en el sector de los denominados ‘sistemas de armas autónomos letales’, incluido el uso bélico de la inteligencia artificial, es un gran motivo de preocupación ética.
Los sistemas de armas autónomos no podrán ser nunca sujetos moralmente responsables. La exclusiva capacidad humana de juicio moral y de decisión ética es más que un complejo conjunto de algoritmos, y dicha capacidad no puede reducirse a la programación de una máquina que, aun siendo ‘inteligente’, no deja de ser siempre una máquina. Por este motivo, es imperioso garantizar una supervisión humana adecuada, significativa y coherente de los sistemas de armas”.
Además, otro aspecto a tener en cuenta es “la posibilidad de que armas sofisticadas terminen en las manos equivocadas facilitando, por ejemplo, ataques terroristas o acciones dirigidas a desestabilizar instituciones de gobierno legítimas”.
Educación
El Papa también señala que estas tecnologías pueden tener un impacto en la educación, y subraya la necesidad de “promover el pensamiento crítico. Es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial. Las escuelas, las universidades y las sociedades científicas están llamadas a ayudar a los estudiantes y a los profesionales a hacer propios los aspectos sociales y éticos del desarrollo y el uso de la tecnología”.
Llamamiento a la comunidad internacional
En el mensaje, el Papa indica que estas preocupaciones no son responsabilidad de unos pocos, sino de todo ser humano, y que el uso de este tipo de tecnología debe estar regulado: “Exhorto a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas”.
“Mi oración al comienzo del nuevo año es que el rápido desarrollo de formas de inteligencia artificial no aumente las ya numerosas desigualdades e injusticias presentes en el mundo, sino que ayude a poner fin a las guerras y los conflictos, y a aliviar tantas formas de sufrimiento que afectan a la familia humana”, concluye el Papa.
