L'incontro Omnes-CARF ha affrontato i benefici e i rischi dell'intelligenza artificiale.Nel Messaggio per la 57a Giornata Mondiale della Pace il Papa riflette sugli aspetti positivi del progresso scientifico, ma anche sulle sfide etiche che alcuni progressi, come l'intelligenza artificiale, pongono.
Innanzitutto, Francesco ricorda che la Sacra Scrittura afferma che "Dio ha dato agli uomini il suo Spirito perché abbiano "abilità, talento ed esperienza nel compiere ogni genere di lavoro" (Es 35,31).
Anche nella costituzione pastorale "Gaudium et spes" del Concilio Vaticano II si afferma che l'uomo ha sempre "cercato con il lavoro e l'ingegno di perfezionare la propria vita". Pertanto, il Papa sottolinea che il progresso della scienza e della tecnologia "nella misura in cui contribuisce a migliorare l'ordine della società umana e ad accrescere la libertà e la comunione fraterna, porta al perfezionamento dell'uomo e alla trasformazione del mondo", ed esprime la sua gioia per il progresso della scienza, grazie al quale "è stato possibile porre rimedio a innumerevoli mali che affliggevano la vita umana e causavano grandi sofferenze".
Rischi e algoritmi
Ma, d'altra parte, Francisco sottolinea che questi sviluppi possono portare a una rischio in alcuni settori: "Il progresso tecnico e scientifico, rendendo possibile esercitare un controllo sulla realtà come mai prima d'ora, sta mettendo nelle mani dell'umanità una vasta gamma di possibilità, alcune delle quali rappresentano un rischio per la sopravvivenza umana e un pericolo per la casa comune".
Francis cita anche le tecnologie che utilizzano algoritmi, che estraggono "tracce digitali lasciate su internet, dati che permettono di controllare le abitudini mentali e relazionali delle persone a fini commerciali o politici, spesso a loro insaputa, limitando l'esercizio consapevole della libertà di scelta. Infatti, in uno spazio come il web, caratterizzato da un sovraccarico di informazioni, il flusso di dati può essere strutturato secondo criteri di selezione non sempre percepiti dall'utente".
Il Papa ci ricorda che le innovazioni non sono "neutre, ma soggette a influenze culturali". Come attività pienamente umane, le direzioni che prendono riflettono scelte condizionate dai valori personali, sociali e culturali di ogni epoca.
Intelligenza artificiale
Il Papa prosegue con una riflessione sull'intelligenza artificiale, perché "il termine stesso, ormai entrato nel linguaggio comune, abbraccia una varietà di scienze, teorie e tecniche volte a far sì che le macchine riproducano o imitino, nel loro funzionamento, le capacità cognitive degli esseri umani".
"Il loro impatto", ricorda il Papa, "a prescindere dalla tecnologia di base, dipende non solo dal progetto, ma anche dagli obiettivi e dagli interessi del proprietario e dello sviluppatore, nonché dalle situazioni in cui vengono utilizzati.
Per tutti questi motivi, Francesco sottolinea che non bisogna dare per scontato che lo sviluppo della cosiddetta intelligenza artificiale porterà necessariamente qualcosa di positivo all'umanità: "Tale risultato positivo sarà possibile solo se saremo in grado di agire in modo responsabile e di rispettare i valori umani fondamentali (...). Non è sufficiente ipotizzare, anche da parte di coloro che progettano algoritmi e tecnologie digitali, un impegno ad agire in modo etico e responsabile. È necessario rafforzare o, se necessario, istituire organismi che esaminino le questioni etiche emergenti e tutelino i diritti di coloro che utilizzano forme di intelligenza artificiale o ne sono influenzati.
Inoltre, il Papa riflette sul machine learning e sul deep learning, una tecnologia che, sebbene sia "in una fase pionieristica, sta già introducendo cambiamenti significativi nel tessuto delle società, esercitando una profonda influenza sulle culture, sui comportamenti sociali e sulla costruzione della pace".
Disinformazione e pregiudizi
Inoltre, "la capacità di alcuni dispositivi di produrre testi sintatticamente e semanticamente coerenti, ad esempio, non è garanzia di affidabilità (...) Possono (...) generare affermazioni che a prima vista sembrano plausibili, ma che in realtà sono infondate o tradiscono pregiudizi". Questo crea un grave problema quando l'intelligenza artificiale viene utilizzata in campagne di disinformazione che diffondono fake news e portano a una crescente sfiducia nei confronti dei media. La riservatezza, la proprietà dei dati e la proprietà intellettuale sono altri ambiti in cui le tecnologie in questione pongono seri rischi, con ulteriori conseguenze negative legate al loro uso improprio, come la discriminazione, l'interferenza nei processi elettorali, la creazione di una società che monitora e controlla le persone, l'esclusione digitale e l'intensificazione di un individualismo sempre più distaccato dalla collettività.
Inoltre, il Papa sottolinea che gli algoritmi non possono fornire "previsioni garantite del futuro, ma solo approssimazioni statistiche. Non tutto può essere previsto, non tutto può essere calcolato (...). Inoltre, la grande quantità di dati analizzati dalle intelligenze artificiali non è di per sé una garanzia di imparzialità. Quando gli algoritmi estrapolano informazioni, corrono sempre il rischio di distorcerle, riproducendo le ingiustizie e i pregiudizi degli ambienti in cui hanno origine. Più diventano veloci e complessi, più è difficile capire perché hanno generato un certo risultato.
D'altra parte, le intelligenze artificiali non sono imparziali, "lo scopo e il significato delle loro operazioni continueranno ad essere determinati o abilitati da esseri umani che hanno un proprio universo di valori". "Il rischio", sottolinea il Papa, "è che i criteri alla base di certe decisioni diventino meno trasparenti, che la responsabilità decisionale venga nascosta e che i produttori possano sottrarsi all'obbligo di agire per il bene della comunità".
Per questo è importante il "senso del limite" che, secondo Francesco, è "un aspetto spesso trascurato nell'odierna mentalità tecnocratica e orientata all'efficienza, eppure decisivo per lo sviluppo personale e sociale". L'essere umano, infatti, mortale per definizione, pensando di superare ogni limite grazie alla tecnologia, rischia, nell'ossessione di voler controllare tutto, di perdere il controllo di sé, e nella ricerca della libertà assoluta, di cadere nella spirale di una dittatura tecnologica".
Discriminazione e ingiustizia
Il Papa sottolinea che tutti questi temi pongono grandi sfide etiche: "In futuro, l'affidabilità di un mutuatario, l'idoneità di un individuo per un lavoro, la possibilità di recidiva di un condannato o il diritto all'asilo politico o all'assistenza sociale potrebbero essere determinati da sistemi di intelligenza artificiale (...) Errori sistemici possono facilmente moltiplicarsi, producendo non solo ingiustizie in casi individuali ma anche, per effetto domino, autentiche forme di disuguaglianza sociale".
D'altra parte, esiste il rischio di un'influenza e di una limitazione della libertà umana, in quanto "le forme di intelligenza artificiale appaiono spesso in grado di influenzare le decisioni degli individui attraverso scelte predeterminate associate a stimoli e persuasioni, o attraverso sistemi di regolazione delle scelte personali basati sull'organizzazione delle informazioni". Queste forme di manipolazione o controllo sociale richiedono un'attenzione e una supervisione precise e implicano una chiara responsabilità legale da parte di produttori, utenti e autorità governative.
Il Papa ci ricorda che i diritti umani devono essere sempre al primo posto: "Non dobbiamo permettere agli algoritmi di determinare il modo in cui intendiamo i diritti umani, di mettere da parte i valori essenziali della compassione, della misericordia e del perdono, o di eliminare la possibilità per un individuo di cambiare e lasciarsi il passato alle spalle".
Inoltre, un'altra questione importante da considerare è l'impatto "delle nuove tecnologie sul posto di lavoro. Le mansioni che un tempo erano di dominio esclusivo del lavoro umano vengono rapidamente assorbite dalle applicazioni industriali dell'intelligenza artificiale.
Armi
Un'altra delle maggiori preoccupazioni del Papa in questo ambito è la corsa agli armamenti: "La possibilità di condurre operazioni militari per mezzo di sistemi controllati a distanza ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro uso, contribuendo a un approccio ancora più freddo e distante all'immensa tragedia della guerra. Il perseguimento delle tecnologie emergenti nel campo dei cosiddetti "sistemi d'arma autonomi letali", compreso l'uso dell'intelligenza artificiale in guerra, rappresenta una grande preoccupazione etica.
I sistemi d'arma autonomi non potranno mai essere soggetti moralmente responsabili. La capacità unicamente umana di giudizio morale e di decisione etica è più di un complesso insieme di algoritmi e non può essere ridotta alla programmazione di una macchina che, per quanto "intelligente", è pur sempre una macchina. Per questo motivo, è imperativo garantire una supervisione umana adeguata, significativa e coerente dei sistemi d'arma".
Inoltre, un altro aspetto da tenere in considerazione è "la possibilità che armi sofisticate finiscano nelle mani sbagliate facilitando, ad esempio, attacchi terroristici o azioni volte a destabilizzare le istituzioni governative legittime".
Educazione
Il Papa evidenzia anche che queste tecnologie possono avere un impatto sull'educazione e sottolinea la necessità di "promuovere il pensiero critico". Gli utenti di tutte le età, ma soprattutto i giovani, devono sviluppare una capacità di discernimento nell'uso di dati e contenuti ottenuti dal web o prodotti da sistemi di intelligenza artificiale. Le scuole, le università e le società scientifiche sono chiamate ad aiutare gli studenti e i professionisti a farsi carico degli aspetti sociali ed etici dello sviluppo e dell'uso della tecnologia.
Appello alla comunità internazionale
Nel messaggio, il Papa indica che queste preoccupazioni non sono responsabilità di pochi, ma di ogni essere umano, e che l'uso di questo tipo di tecnologia deve essere regolato: "Esorto la comunità delle nazioni a lavorare insieme per adottare un trattato internazionale vincolante per regolare lo sviluppo e l'uso dell'intelligenza artificiale nelle sue molteplici forme".
"La mia preghiera all'inizio del nuovo anno è che il rapido sviluppo di forme di intelligenza artificiale non aumenti le già numerose disuguaglianze e ingiustizie presenti nel mondo, ma contribuisca a porre fine a guerre e conflitti, e ad alleviare tante forme di sofferenza che colpiscono la famiglia umana", conclude il Papa.
