"Afin de relever les défis de l'IA, l'industrie de l'information et de la communication (TIC) a besoin d'être renforcée. Appel de Rome propose une algoréthique, c'est-à-dire une éthique des algorithmes, capable d'agir non pas comme un instrument de confinement, mais comme une orientation et un guide, sur la base des principes de la Doctrine sociale de l'Église : dignité de la personne, justice, subsidiarité et solidarité. Les destinataires sont la société dans son ensemble, les organisations, les gouvernements, les institutions, les entreprises technologiques internationales : tous sont appelés à partager un sens des responsabilités qui garantisse à l'ensemble de l'humanité un avenir dans lequel l'innovation numérique et le progrès technologique placent l'être humain au centre".
Voici l'un des passages clés du discours de Monseigneur Vincenzo Paglia, Président de l'Académie pontificale pour la vie, dans le cadre de la Journée d'étude et de formation pour les journalistes, promue par l'Association ISCOM et l'Académie pontificale pour la vie. Université pontificale de la Sainte-Croix.
L'innovation technologique a toujours été au cœur du monde de l'information. Grâce à la puissance des algorithmes, les Intelligence artificielle des scénarios journalistiques de plus en plus fréquents. Les processus d'automatisation soulèvent des questions éthiques, professionnelles et juridiques. Ils finissent par affecter les fondements mêmes de la profession journalistique : indépendance, formation, déontologie.
Est-il possible de profiter des opportunités offertes par le saut technologique tout en préservant la culture, l'odorat et la sensibilité du journaliste ? Telle est la question centrale de l'initiative sur laquelle ont débattu des universitaires, des professionnels de l'information, des juristes et des experts du numérique.
Le pape François, lors de l'audience accordée le 20 février dernier à l'Académie pontificale pour la vie, a déclaré ce qui suit, en référence à la question beaucoup plus large de la bioéthique : "Il est paradoxal de parler d'un homme "augmenté" si l'on oublie que le corps humain se réfère au bien intégral de la personne et ne peut donc pas être identifié uniquement à l'organisme biologique", une approche erronée dans ce domaine aboutissant en fait non pas à "augmenter" mais à "comprimer" l'homme".
D'où - poursuit le Souverain Pontife - "l'importance de la connaissance à échelle humaine et organique", même dans le domaine théologique, afin de promouvoir un nouvel humanisme, un nouvel humanisme technologique pourrait-on dire. Les paroles du Saint-Père servent en quelque sorte de toile de fond à la réflexion de Monseigneur Vincenzo Paglia, pour qui "le cœur du débat sur l'intelligence artificielle - c'est-à-dire ce qui rend cette technologie spécifique unique et extrêmement puissante - est sa capacité d'agir par elle-même : l'IA adapte son comportement en fonction de la situation, analyse les effets de ses actions antérieures et travaille de manière autonome. Les progrès de la puissance de calcul, la disponibilité de grandes quantités de données et le développement de nouveaux algorithmes ont permis à l'intelligence artificielle de faire un bond en avant au cours des dernières années".
Quant à l'influence omniprésente de l'intelligence artificielle, dont peu sont conscients, "il est bon de lire", suggère Paglia, "le livre de Susanna Zuboff, Le capitalisme de surveillance, dans lequel l'auteur montre l'énorme pouvoir sur nos vies de ceux qui détiennent les données collectées et traitées par l'IA".
Au point que, selon le livre, les capitalistes de la surveillance savent tout de nous, alors qu'il nous est impossible de savoir ce qu'ils savent. Ils accumulent à l'infini des données et des connaissances sur nous, mais pas pour nous. Ils exploitent notre avenir pour que quelqu'un d'autre en profite, mais pas nous.
Tant que le capitalisme de surveillance et son marché du comportement futur pourront prospérer, la propriété des nouveaux moyens de modification du comportement éclipsera les moyens de production en tant que source de richesse et de pouvoir au XXIe siècle.
Évitant une approche manichéenne, c'est-à-dire évitant les adhésions enthousiastes et les exclusions infondées, conformément à l'approche de Day, selon laquelle il ne s'agit pas de choisir entre les deux extrêmes, entre les ultra-technophiles qui vantent et exaltent les technologies émergentes et les pessimistes technophobes qui les diabolisent, Paglia attire l'attention sur ce qu'il considère comme "la question décisive", à savoir que "ces appareils n'ont pas de corps. Ce sont des machines qui peuvent traiter des flux abstraits de données. Mais seulement des machines. Le fait que nous percevions les comportements ou les effets des processus avec l'automatisation nous fait oublier que les machines viennent à nous par des processus très différents. Elles sont une imitation des apparences. En réalité, les machines ne nous parlent pas, ne nous écoutent pas, ne nous répondent pas, tout simplement parce qu'elles ne savent même pas que nous existons et ne comprennent pas ce qu'elles nous disent".
Face au risque que le développement impétueux des technologies perde de vue la dimension humaine, l'Académie pontificale pour la vie a organisé en 2020 la conférence "....".RenAIssance. Pour une intelligence artificielle humaniste", et ont promu conjointement, le 28 février de la même année à Rome, la signature d'un appel à la responsabilité.
Cet appel a été appelé l'Appel de Rome pour l'éthique de l'IA, et "a été signé en premier lieu par moi-même, en tant que président de l'Académie pontificale, par Brad Smith, président de Microsoft, par John Kelly III, directeur général adjoint d'IBM, par Qu Dongyu, directeur général de la FAO, et par la ministre de l'Innovation technologique et de la Numérisation de l'époque, Paola Pisano, au nom du gouvernement italien". Nous avons également pu compter sur la présence et les applaudissements du président du Parlement européen de l'époque, David Sassoli.
Pour orienter les défis de l'IA vers le respect de la dignité de tout être humain, le président de l'Académie pontificale pour la vie précise que "l'Appel de Rome propose une algorithmique, c'est-à-dire une éthique des algorithmes, capable d'agir non pas comme un instrument de contention, mais comme une orientation et un guide". Le Pape dit à propos de l'algoréthique : "elle vise à assurer une vérification compétente et partagée des processus par lesquels les relations entre les êtres humains et les machines sont intégrées à notre époque. Dans la poursuite commune de ces objectifs, les principes de la Doctrine sociale de l'Église apportent une contribution décisive : dignité de la personne, justice, subsidiarité et solidarité. Ils expriment l'engagement d'être au service de chaque personne dans son intégrité, sans discrimination ni exclusion. Mais la complexité du monde technologique appelle à une élaboration éthique plus articulée, pour que cet engagement soit vraiment "incisif".
Qui sont les destinataires ? L'ensemble de la société, répond Mme Paglia, les organisations, les gouvernements, les institutions, les entreprises technologiques internationales : "tous doivent partager un sens des responsabilités qui garantisse à l'ensemble de l'humanité un avenir dans lequel l'innovation numérique et le progrès technologique placent l'être humain au centre".
Quels engagements les signataires prennent-ils et sur la base de quels principes fondamentaux ?
Paglia explique qu'il existe six principes directeurs de conduite que les signataires sont appelés à respecter : "Transparence : en principe, les systèmes d'intelligence artificielle doivent être compréhensibles ; Inclusion : les besoins de tous les êtres humains doivent être pris en compte afin que chacun puisse en bénéficier et offrir à tous les individus les meilleures conditions possibles d'expression et de développement ; Responsabilité : ceux qui conçoivent et mettent en œuvre des solutions d'intelligence artificielle doivent faire preuve de responsabilité et de transparence ; Impartialité : ne pas créer ou agir sur la base de préjugés, afin de préserver l'équité et la dignité humaine ; Fiabilité : les systèmes d'intelligence artificielle doivent pouvoir fonctionner de manière fiable ; Sécurité et protection de la vie privée : les systèmes d'intelligence artificielle doivent fonctionner en toute sécurité et respecter la vie privée des utilisateurs."
L'Appel de Rome est avant tout un mouvement culturel qui se veut porteur de changement, à tel point qu'il a atteint sa signature interreligieuse. "Ainsi, le 10 janvier dernier, devant le Pape, nous nous sommes présentés avec des représentants du Forum de la Paix d'Abu Dhabi (Emirats Arabes Unis) et de la Commission pour le Dialogue Interreligieux du Grand Rabbinat d'Israël. Le même jour, après que les premiers signataires de l'Appel de Rome ont confirmé leur engagement en faveur de la conception et de la réalisation d'une intelligence artificielle conforme à ses principes, nous avons réuni d'éminents orateurs qui ont analysé le sujet d'un point de vue religieux et séculier", ajoute Mme Paglia, consciente que "les religions ont joué et continueront à jouer un rôle crucial dans la construction d'un monde où l'être humain est au centre du concept de développement". C'est pourquoi le développement éthique de l'intelligence artificielle doit également être abordé dans une perspective interreligieuse. Lors de notre événement de janvier, les trois religions abrahamiques se sont réunies pour guider la quête de sens de l'humanité dans cette nouvelle ère.
La prochaine étape, a conclu Monseigneur Vincenzo Paglia, est l'implication des religions orientales, avec l'intention qu'en 2024, au Japon, "nous joindrons nos voix à celles de nos frères et sœurs d'autres traditions religieuses, de sorte que les réalisations technologiques soient utilisées pour le bénéfice de tous, et promeuvent la dignité humaine, l'équité et la justice", et "des valeurs partagées telles que la fraternité humaine, au lieu de la division et de la méfiance".
