La réunion Omnes-CARF a abordé les avantages et les risques de l'intelligence artificielle.Dans le message pour la 57ème journée mondiale de la paix le pape réfléchit aux aspects positifs du progrès scientifique, mais aussi aux défis éthiques que posent certaines avancées, comme l'intelligence artificielle.
Tout d'abord, François rappelle que l'Ecriture Sainte affirme que "Dieu a donné aux hommes son Esprit pour qu'ils aient 'l'habileté, le talent et l'expérience dans l'accomplissement de toutes sortes de travaux' (Ex35,31).
Dans la constitution pastorale "Gaudium et spes" du Concile Vatican II, il est également affirmé que l'homme s'est toujours "efforcé, par son travail et son ingéniosité, de perfectionner sa vie". Le pape souligne donc que le progrès de la science et de la technologie "dans la mesure où il contribue à un meilleur ordre de la société humaine et à l'accroissement de la liberté et de la communion fraternelle, conduit à la perfection de l'homme et à la transformation du monde", et il exprime sa joie devant les progrès de la science, grâce auxquels "il a été possible de remédier à d'innombrables maux qui affectaient la vie de l'homme et causaient de grandes souffrances".
Risques et algorithmes
Mais, d'un autre côté, Francisco souligne que ces développements peuvent conduire à une augmentation du nombre de victimes. risque dans certains domaines : "Le progrès technique et scientifique, qui permet d'exercer un contrôle sur la réalité comme jamais auparavant, met entre les mains de l'humanité un vaste éventail de possibilités, dont certaines représentent un risque pour la survie de l'homme et un danger pour la maison commune".
Francis mentionne également les technologies utilisant des algorithmes, qui extraient "les traces numériques laissées sur Internet, des données qui permettent de contrôler les habitudes mentales et relationnelles des personnes à des fins commerciales ou politiques, souvent à leur insu, en limitant l'exercice conscient de leur liberté de choix. En effet, dans un espace comme le web, caractérisé par une surcharge d'informations, le flux de données peut être structuré selon des critères de sélection qui ne sont pas toujours perçus par l'utilisateur".
Le pape nous rappelle que les innovations ne sont pas "neutres, mais soumises à des influences culturelles". En tant qu'activités humaines à part entière, les orientations qu'elles prennent reflètent des choix conditionnés par les valeurs personnelles, sociales et culturelles de chaque époque.
Intelligence artificielle
Le pape poursuit sa réflexion sur l'intelligence artificielle, car "le terme lui-même, qui est désormais entré dans le langage courant, englobe une variété de sciences, de théories et de techniques visant à faire en sorte que les machines reproduisent ou imitent, dans leur fonctionnement, les capacités cognitives de l'être humain".
"Leur impact, rappelle le pape, indépendamment de la technologie de base, dépend non seulement du projet, mais aussi des objectifs et des intérêts du propriétaire et du promoteur, ainsi que des situations dans lesquelles ils sont utilisés.
Pour toutes ces raisons, Francis souligne qu'il ne faut pas tenir pour acquis que le développement de cette soi-disant intelligence artificielle apportera nécessairement quelque chose de positif à l'humanité : "Un tel résultat positif ne sera possible que si nous sommes capables d'agir de manière responsable et de respecter les valeurs humaines fondamentales (...) Il ne suffit pas de supposer, même de la part de ceux qui conçoivent les algorithmes et les technologies numériques, un engagement à agir d'une manière éthique et responsable. Il est nécessaire de renforcer ou, si nécessaire, de créer des organismes chargés d'examiner les questions éthiques émergentes et de protéger les droits de ceux qui utilisent des formes d'intelligence artificielle ou qui sont influencés par elles.
En outre, le pape réfléchit à l'apprentissage automatique et à l'apprentissage profond, une technologie qui, bien qu'elle soit "dans une phase pionnière, introduit déjà des changements significatifs dans le tissu des sociétés, exerçant une influence profonde sur les cultures, les comportements sociaux et la construction de la paix".
Désinformation et partialité
En outre, "la capacité de certains dispositifs à produire des textes syntaxiquement et sémantiquement cohérents, par exemple, n'est pas une garantie de fiabilité (...) Ils peuvent (...) générer des affirmations qui, à première vue, semblent plausibles, mais qui sont en fait infondées ou trahissent un parti pris. Cela pose un sérieux problème lorsque l'intelligence artificielle est utilisée dans des campagnes de désinformation qui diffusent des "fake news" et entraînent une méfiance croissante à l'égard des médias. La confidentialité, la propriété des données et la propriété intellectuelle sont d'autres domaines dans lesquels les technologies en question présentent des risques sérieux, avec d'autres conséquences négatives liées à leur utilisation inappropriée, telles que la discrimination, l'ingérence dans les processus électoraux, la mise en place d'une société qui surveille et contrôle les personnes, l'exclusion numérique et l'intensification d'un individualisme de plus en plus détaché de la collectivité.
Par ailleurs, le Pape souligne que les algorithmes ne peuvent pas fournir "des prévisions garanties de l'avenir, mais seulement des approximations statistiques. Tout n'est pas prévisible, tout n'est pas calculable (...). De plus, la grande quantité de données analysées par les intelligences artificielles n'est pas en soi une garantie d'impartialité. Lorsque les algorithmes extrapolent des informations, ils risquent toujours de les déformer, de reproduire les injustices et les préjugés des environnements dans lesquels ils sont nés. Plus ils deviennent rapides et complexes, plus il est difficile de comprendre pourquoi ils ont généré tel ou tel résultat.
En revanche, les intelligences artificielles ne sont pas impartiales, "le but et le sens de leurs opérations continueront à être déterminés ou rendus possibles par des êtres humains qui ont leur propre univers de valeurs". "Le risque, souligne le pape, est que les critères qui sous-tendent certaines décisions deviennent moins transparents, que la responsabilité décisionnelle soit cachée et que les producteurs se soustraient à l'obligation d'agir pour le bien de la communauté.
D'où l'importance du "sens des limites" qui, selon François, est "un aspect souvent négligé dans la mentalité actuelle, technocratique et orientée vers l'efficacité, mais décisif pour le développement personnel et social". L'être humain, en effet, mortel par définition, qui pense dépasser toutes les limites grâce à la technologie, risque, dans l'obsession de vouloir tout contrôler, de perdre le contrôle de lui-même, et dans la recherche d'une liberté absolue, de tomber dans la spirale d'une dictature technologique".
Discrimination et injustice
Le pape souligne que toutes ces questions posent de grands défis éthiques : "À l'avenir, la fiabilité d'un emprunteur, l'aptitude d'un individu à occuper un emploi, la possibilité de récidive d'une personne condamnée ou le droit à l'asile politique ou à l'assistance sociale pourraient être déterminés par des systèmes d'intelligence artificielle (...) Les erreurs systémiques peuvent facilement se multiplier, produisant non seulement des injustices dans des cas individuels mais aussi, par effet domino, d'authentiques formes d'inégalité sociale".
D'autre part, il existe un risque d'influence et de limitation de la liberté humaine, car "les formes d'intelligence artificielle apparaissent souvent capables d'influencer les décisions des individus au moyen de choix prédéterminés associés à des stimuli et à des persuasions, ou au moyen de systèmes de régulation des choix personnels fondés sur l'organisation de l'information. Ces formes de manipulation ou de contrôle social requièrent une attention et une surveillance précises et impliquent une responsabilité juridique claire de la part des producteurs, des utilisateurs et des autorités gouvernementales.
Le pape nous rappelle que les droits de l'homme doivent toujours primer : "Nous ne devons pas permettre aux algorithmes de déterminer comment nous comprenons les droits de l'homme, de mettre de côté les valeurs essentielles de la compassion, de la miséricorde et du pardon, ou d'éliminer la possibilité pour un individu de changer et de laisser le passé derrière lui".
En outre, une autre question importante à prendre en considération est l'impact "des nouvelles technologies sur le lieu de travail. Les emplois qui étaient autrefois le domaine exclusif du travail humain sont rapidement absorbés par les applications industrielles de l'intelligence artificielle.
Armes
Une autre des préoccupations majeures du Pape dans ce domaine est la course aux armements : "La possibilité de mener des opérations militaires au moyen de systèmes télécommandés a conduit à une moindre perception de la dévastation qu'ils ont causée et de la responsabilité de leur utilisation, contribuant à une approche encore plus froide et plus distante de l'immense tragédie de la guerre. La poursuite des technologies émergentes dans le domaine des "systèmes d'armes autonomes létaux", y compris l'utilisation de l'intelligence artificielle dans la guerre, est une préoccupation éthique majeure.
Les systèmes d'armes autonomes ne pourront jamais être des sujets moralement responsables. La capacité humaine unique de jugement moral et de prise de décision éthique est plus qu'un ensemble complexe d'algorithmes et ne peut être réduite à la programmation d'une machine qui, bien qu'elle soit "intelligente", reste une machine. C'est pourquoi il est impératif d'assurer un contrôle humain adéquat, significatif et cohérent des systèmes d'armes".
En outre, un autre aspect à prendre en compte est "la possibilité que des armes sophistiquées se retrouvent entre de mauvaises mains, facilitant, par exemple, des attaques terroristes ou des actions visant à déstabiliser les institutions gouvernementales légitimes".
Éducation
Le pape rappelle également que ces technologies peuvent avoir un impact sur l'éducation et insiste sur la nécessité de "promouvoir l'esprit critique". Les utilisateurs de tous âges, mais surtout les jeunes, doivent développer une capacité de discernement dans l'utilisation des données et des contenus obtenus sur le web ou produits par des systèmes d'intelligence artificielle. Les écoles, les universités et les sociétés scientifiques sont invitées à aider les étudiants et les professionnels à s'approprier les aspects sociaux et éthiques du développement et de l'utilisation des technologies.
Appel à la communauté internationale
Dans son message, le pape indique que ces préoccupations ne sont pas le fait de quelques-uns, mais de chaque être humain, et que l'utilisation de ce type de technologie doit être réglementée : "J'exhorte la communauté des nations à travailler ensemble à l'adoption d'un traité international contraignant pour réglementer le développement et l'utilisation de l'intelligence artificielle sous ses nombreuses formes".
"Ma prière au début de la nouvelle année est que le développement rapide des formes d'intelligence artificielle n'augmente pas les inégalités et les injustices déjà nombreuses présentes dans le monde, mais qu'il aide à mettre fin aux guerres et aux conflits, et à soulager tant de formes de souffrance qui affectent la famille humaine", conclut le pape.
