Podczas spotkania Omnes-CARF poruszono temat korzyści i zagrożeń związanych ze sztuczną inteligencją.W Orędzie na 57 Światowy Dzień Pokoju Papież zastanawia się nad pozytywnymi aspektami postępu naukowego, ale także nad etycznymi wyzwaniami, jakie stawiają niektóre postępy, takie jak sztuczna inteligencja.
Po pierwsze, Franciszek przypomina, że Pismo Święte potwierdza, iż "Bóg dał ludziom swego Ducha, aby mieli 'umiejętność, talent i doświadczenie w wykonywaniu wszelkiego rodzaju pracy' (Wj 35, 31).
Również w konstytucji duszpasterskiej "Gaudium et spes" Soboru Watykańskiego II stwierdzono, że człowiek zawsze "dążył poprzez swoją pracę i pomysłowość do doskonalenia swojego życia". Dlatego papież wskazuje, że postęp nauki i techniki "o ile przyczynia się do lepszego ładu w społeczeństwie ludzkim oraz do wzrostu wolności i braterskiej komunii, prowadzi do doskonałości człowieka i przemiany świata" i wyraził radość z postępu nauki, dzięki któremu "można było zaradzić niezliczonemu złu, które dotykało życie ludzkie i powodowało wielkie cierpienia".
Ryzyko i algorytmy
Ale z drugiej strony Francisco zwraca uwagę, że te zmiany mogą doprowadzić do ryzyko w niektórych obszarach: "Postęp techniczny i naukowy, umożliwiający sprawowanie kontroli nad rzeczywistością jak nigdy dotąd, oddaje w ręce ludzkości szeroki wachlarz możliwości, z których niektóre stanowią zagrożenie dla przetrwania człowieka i niebezpieczeństwo dla wspólnego domu".
Francis wspomina również o technologiach wykorzystujących algorytmy, które wyodrębniają "cyfrowe ślady pozostawione w Internecie, dane, które umożliwiają kontrolowanie mentalnych i relacyjnych nawyków ludzi w celach komercyjnych lub politycznych, często bez ich wiedzy, ograniczając ich świadome korzystanie z wolności wyboru. W rzeczywistości, w przestrzeni takiej jak sieć, charakteryzującej się nadmiarem informacji, przepływ danych może być ustrukturyzowany zgodnie z kryteriami wyboru, które nie zawsze są postrzegane przez użytkownika".
Papież przypomina nam, że innowacje nie są "neutralne, ale podlegają wpływom kulturowym. Jako w pełni ludzkie działania, kierunki, które obierają, odzwierciedlają wybory uwarunkowane wartościami osobistymi, społecznymi i kulturowymi każdej epoki.
Sztuczna inteligencja
Papież kontynuuje rozważania na temat sztucznej inteligencji, ponieważ "sam termin, który wszedł obecnie do potocznego języka, obejmuje różnorodne nauki, teorie i techniki mające na celu sprawienie, by maszyny odtwarzały lub naśladowały w swoim funkcjonowaniu zdolności poznawcze istot ludzkich".
"Ich wpływ - przypomina papież - niezależnie od podstawowej technologii, zależy nie tylko od projektu, ale także od celów i interesów właściciela i dewelopera, a także sytuacji, w których są one wykorzystywane.
Z tych wszystkich powodów Franciszek zwraca uwagę, że nie należy przyjmować za pewnik, że rozwój tak zwanej sztucznej inteligencji koniecznie przyniesie ludzkości coś pozytywnego: "Taki pozytywny wynik będzie możliwy tylko wtedy, gdy będziemy w stanie działać odpowiedzialnie i szanować podstawowe wartości ludzkie (...). Nie wystarczy założyć, nawet ze strony tych, którzy projektują algorytmy i technologie cyfrowe, zobowiązanie do działania w sposób etyczny i odpowiedzialny. Konieczne jest wzmocnienie lub, w razie potrzeby, ustanowienie organów w celu zbadania pojawiających się kwestii etycznych i ochrony praw tych, którzy korzystają z form sztucznej inteligencji lub są pod ich wpływem.
Ponadto papież zastanawia się nad uczeniem maszynowym i głębokim uczeniem, technologią, która, choć "znajduje się w fazie pionierskiej, już wprowadza znaczące zmiany w tkance społeczeństw, wywierając głęboki wpływ na kultury, zachowania społeczne i budowanie pokoju".
Dezinformacja i stronniczość
Co więcej, "zdolność niektórych urządzeń do tworzenia na przykład spójnych składniowo i semantycznie tekstów nie jest gwarancją wiarygodności (...) Mogą one (...) generować twierdzenia, które na pierwszy rzut oka wydają się wiarygodne, ale w rzeczywistości są bezpodstawne lub zdradzają stronniczość". Stwarza to poważny problem, gdy sztuczna inteligencja jest wykorzystywana w kampaniach dezinformacyjnych, które rozpowszechniają fałszywe wiadomości i prowadzą do rosnącej nieufności wobec mediów. Poufność, własność danych i własność intelektualna to inne obszary, w których omawiane technologie stwarzają poważne zagrożenia, z dalszymi negatywnymi konsekwencjami związanymi z ich niewłaściwym wykorzystaniem, takimi jak dyskryminacja, ingerencja w procesy wyborcze, ustanowienie społeczeństwa, które monitoruje i kontroluje ludzi, wykluczenie cyfrowe i nasilenie indywidualizmu coraz bardziej oderwanego od zbiorowości.
Ponadto papież podkreśla, że algorytmy nie mogą zapewnić "gwarantowanych prognoz przyszłości, a jedynie statystyczne przybliżenia. Nie wszystko można przewidzieć, nie wszystko można obliczyć (...). Co więcej, duża ilość danych analizowanych przez sztuczną inteligencję nie jest sama w sobie gwarancją bezstronności. Kiedy algorytmy ekstrapolują informacje, zawsze istnieje ryzyko, że je zniekształcą, powielając niesprawiedliwości i uprzedzenia środowisk, z których pochodzą. Im szybsze i bardziej złożone się stają, tym trudniej jest zrozumieć, dlaczego wygenerowały określony wynik.
Z drugiej strony, sztuczne inteligencje nie są bezstronne, "cel i sens ich działania będą nadal określane lub umożliwiane przez istoty ludzkie, które mają swój własny wszechświat wartości". "Ryzyko - podkreśla papież - polega na tym, że kryteria leżące u podstaw niektórych decyzji staną się mniej przejrzyste, że odpowiedzialność decyzyjna zostanie ukryta, a producenci mogą uchylać się od obowiązku działania dla dobra społeczności".
Dlatego ważne jest "poczucie granic", które według Franciszka jest "aspektem często zaniedbywanym w dzisiejszej mentalności technokratycznej i zorientowanej na wydajność, ale decydującym o rozwoju osobistym i społecznym". Istota ludzka, z definicji śmiertelna, myśląc o przekroczeniu wszelkich granic dzięki technologii, ryzykuje, że w obsesji chęci kontrolowania wszystkiego straci kontrolę nad sobą, a w poszukiwaniu absolutnej wolności wpadnie w spiralę dyktatury technologicznej".
Dyskryminacja i niesprawiedliwość
Papież podkreśla, że wszystkie te kwestie stanowią wielkie wyzwania etyczne: "W przyszłości wiarygodność kredytobiorcy, przydatność osoby do pracy, możliwość recydywy osoby skazanej lub prawo do azylu politycznego lub pomocy społecznej mogą być określane przez systemy sztucznej inteligencji (...) Błędy systemowe mogą się łatwo mnożyć, powodując nie tylko niesprawiedliwość w indywidualnych przypadkach, ale także, poprzez efekt domina, autentyczne formy nierówności społecznej".
Z drugiej strony istnieje ryzyko wpływu i ograniczenia wolności człowieka, ponieważ "formy sztucznej inteligencji często wydają się zdolne do wpływania na decyzje jednostek poprzez z góry określone wybory związane z bodźcami i perswazjami lub za pomocą systemów regulujących osobiste wybory w oparciu o organizację informacji. Te formy manipulacji lub kontroli społecznej wymagają precyzyjnej uwagi i nadzoru oraz pociągają za sobą wyraźną odpowiedzialność prawną ze strony producentów, użytkowników i władz rządowych.
Papież przypomina nam, że prawa człowieka muszą być zawsze na pierwszym miejscu: "Nie możemy pozwolić, aby algorytmy decydowały o tym, jak rozumiemy prawa człowieka, aby odkładać na bok podstawowe wartości współczucia, miłosierdzia i przebaczenia lub eliminować możliwość zmiany jednostki i pozostawienia przeszłości za sobą".
Kolejną ważną kwestią do rozważenia jest wpływ nowych technologii na miejsce pracy. Miejsca pracy, które kiedyś były wyłączną domeną pracy ludzkiej, są szybko wchłaniane przez przemysłowe zastosowania sztucznej inteligencji.
Broń
Innym z głównych zmartwień papieża w tym obszarze jest wyścig zbrojeń: "Możliwość prowadzenia operacji wojskowych za pomocą zdalnie sterowanych systemów doprowadziła do mniejszego postrzegania zniszczeń, które spowodowały, i odpowiedzialności za ich użycie, przyczyniając się do jeszcze zimniejszego i bardziej zdystansowanego podejścia do ogromnej tragedii wojny. Pogoń za nowymi technologiami w dziedzinie tak zwanych "śmiercionośnych autonomicznych systemów uzbrojenia", w tym wykorzystania sztucznej inteligencji w działaniach wojennych, stanowi poważny problem etyczny.
Autonomiczne systemy uzbrojenia nigdy nie będą moralnie odpowiedzialnymi podmiotami. Wyjątkowo ludzka zdolność do oceny moralnej i etycznego podejmowania decyzji jest czymś więcej niż złożonym zestawem algorytmów i nie może być zredukowana do programowania maszyny, która, choć "inteligentna", nadal jest maszyną. Z tego powodu konieczne jest zapewnienie odpowiedniego, znaczącego i spójnego ludzkiego nadzoru nad systemami uzbrojenia".
Ponadto innym aspektem, który należy wziąć pod uwagę, jest "możliwość, że wyrafinowana broń może trafić w niepowołane ręce, ułatwiając na przykład ataki terrorystyczne lub działania mające na celu destabilizację legalnych instytucji rządowych".
Edukacja
Papież wskazuje również, że technologie te mogą mieć wpływ na edukację i podkreśla potrzebę "promowania krytycznego myślenia. Użytkownicy w każdym wieku, a zwłaszcza młodzi ludzie, muszą rozwijać zdolność rozeznania w korzystaniu z danych i treści uzyskanych z sieci lub wytworzonych przez systemy sztucznej inteligencji. Szkoły, uniwersytety i towarzystwa naukowe są wzywane do pomocy studentom i profesjonalistom w przejęciu odpowiedzialności za społeczne i etyczne aspekty rozwoju i wykorzystania technologii.
Apel do społeczności międzynarodowej
W przesłaniu papież wskazuje, że obawy te nie są odpowiedzialnością nielicznych, ale każdego człowieka i że korzystanie z tego typu technologii musi być uregulowane: "Wzywam wspólnotę narodów do współpracy w celu przyjęcia wiążącego międzynarodowego traktatu regulującego rozwój i wykorzystanie sztucznej inteligencji w jej wielu formach".
"Moją modlitwą na początku nowego roku jest to, aby szybki rozwój form sztucznej inteligencji nie zwiększył i tak już licznych nierówności i niesprawiedliwości obecnych na świecie, ale pomógł położyć kres wojnom i konfliktom oraz złagodzić tak wiele form cierpienia, które dotykają rodzinę ludzką" - podsumowuje papież.
