A reunião da Omnes-CARF abordou os benefícios e riscos da inteligência artificial.No mensagem para o 57º Dia Mundial da Paz o Papa reflecte sobre os aspectos positivos do progresso científico, mas também sobre os desafios éticos que alguns avanços, como a inteligência artificial, colocam.
Em primeiro lugar, Francisco recorda que a Sagrada Escritura afirma que "Deus deu aos homens o seu Espírito para que tenham 'habilidade, talento e experiência no desempenho de todo o tipo de trabalho' (Ex 35,31).
Também na constituição pastoral "Gaudium et spes" do Concílio Vaticano II, se afirma que o homem sempre "se esforçou, com o seu trabalho e engenho, por aperfeiçoar a sua vida". Por isso, o Papa sublinha que o progresso da ciência e da técnica "na medida em que contribui para uma melhor ordem da sociedade humana e para o aumento da liberdade e da comunhão fraterna, leva à perfeição do homem e à transformação do mundo", e exprime a sua alegria pelo progresso da ciência, graças ao qual "foi possível remediar inúmeros males que afectavam a vida humana e causavam grandes sofrimentos".
Riscos e algoritmos
Mas, por outro lado, Francisco salienta que estes desenvolvimentos podem conduzir a uma risco em alguns domínios: "O progresso técnico e científico, que permite exercer um controlo sobre a realidade como nunca antes, coloca nas mãos da humanidade um vasto leque de possibilidades, algumas das quais representam um risco para a sobrevivência humana e um perigo para a casa comum".
Francis menciona também as tecnologias que utilizam algoritmos, que extraem "vestígios digitais deixados na Internet, dados que permitem controlar os hábitos mentais e relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento, limitando o seu exercício consciente da liberdade de escolha. De facto, num espaço como a Web, caracterizado por uma sobrecarga de informação, o fluxo de dados pode ser estruturado de acordo com critérios de seleção que nem sempre são percebidos pelo utilizador".
O Papa recorda-nos que as inovações não são "neutras, mas sujeitas a influências culturais. Como actividades plenamente humanas, as direcções que tomam reflectem escolhas condicionadas pelos valores pessoais, sociais e culturais de cada época.
Inteligência artificial
O Papa continua a refletir sobre a inteligência artificial, porque "o próprio termo, que entrou na linguagem comum, engloba uma variedade de ciências, teorias e técnicas destinadas a fazer com que as máquinas reproduzam ou imitem, no seu funcionamento, as capacidades cognitivas dos seres humanos".
"O seu impacto", recorda o Papa, "independentemente da tecnologia de base, depende não só do projeto, mas também dos objectivos e interesses do proprietário e do promotor, bem como das situações em que são utilizados.
Por todas estas razões, Francisco salienta que não se deve partir do princípio de que o desenvolvimento da chamada inteligência artificial trará necessariamente algo de positivo para a humanidade: "Tal resultado positivo só será possível se formos capazes de agir de forma responsável e respeitar os valores humanos fundamentais (...). Não basta assumir, mesmo por parte de quem concebe algoritmos e tecnologias digitais, o compromisso de agir de forma ética e responsável. É necessário reforçar ou, se necessário, criar organismos para examinar as questões éticas emergentes e proteger os direitos das pessoas que utilizam formas de inteligência artificial ou são influenciadas por elas.
Além disso, o Papa reflecte sobre a aprendizagem automática e a aprendizagem profunda, uma tecnologia que, embora esteja "numa fase pioneira, já está a introduzir mudanças significativas no tecido das sociedades, exercendo uma influência profunda nas culturas, nos comportamentos sociais e na construção da paz".
Desinformação e preconceito
Além disso, "a capacidade de alguns dispositivos para produzir textos sintáctica e semanticamente coerentes, por exemplo, não é garantia de fiabilidade (...) Podem (...) gerar afirmações que, à primeira vista, parecem plausíveis, mas que, na realidade, são infundadas ou revelam parcialidade. Isto cria um problema grave quando a inteligência artificial é utilizada em campanhas de desinformação que espalham notícias falsas e conduzem a uma desconfiança crescente em relação aos meios de comunicação social. A confidencialidade, a propriedade dos dados e a propriedade intelectual são outras áreas em que as tecnologias em causa apresentam sérios riscos, com outras consequências negativas associadas à sua utilização indevida, como a discriminação, a interferência nos processos eleitorais, a criação de uma sociedade que vigia e controla as pessoas, a exclusão digital e a intensificação de um individualismo cada vez mais desligado do coletivo.
Além disso, o Papa sublinha que os algoritmos não podem fornecer "previsões garantidas do futuro, mas apenas aproximações estatísticas. Nem tudo pode ser previsto, nem tudo pode ser calculado (...). Além disso, a grande quantidade de dados analisados pelas inteligências artificiais não é, por si só, uma garantia de imparcialidade. Quando os algoritmos extrapolam a informação, correm sempre o risco de a distorcer, reproduzindo as injustiças e os preconceitos dos ambientes em que têm origem. Quanto mais rápidos e complexos se tornam, mais difícil é compreender porque é que geraram um determinado resultado.
Por outro lado, as inteligências artificiais não são imparciais, "o objetivo e o sentido das suas operações continuarão a ser determinados ou possibilitados por seres humanos que têm o seu próprio universo de valores". O risco", sublinha o Papa, "é que os critérios subjacentes a certas decisões se tornem menos transparentes, que a responsabilidade das decisões seja escondida e que os produtores possam fugir à obrigação de atuar para o bem da comunidade".
Por isso, é importante o "sentido dos limites", que, segundo Francisco, é "um aspeto muitas vezes negligenciado na mentalidade tecnocrática e eficientista atual, mas decisivo para o desenvolvimento pessoal e social". O ser humano, de facto, mortal por definição, pensando em ultrapassar todos os limites graças à tecnologia, corre o risco, na obsessão de querer controlar tudo, de perder o controlo de si mesmo e, na busca de uma liberdade absoluta, de cair na espiral de uma ditadura tecnológica".
Discriminação e injustiça
O Papa sublinha que todas estas questões colocam grandes desafios éticos: "No futuro, a fiabilidade de um mutuário, a aptidão de um indivíduo para um emprego, a possibilidade de reincidência de uma pessoa condenada ou o direito de asilo político ou de assistência social poderão ser determinados por sistemas de inteligência artificial (...) Os erros sistémicos podem facilmente multiplicar-se, produzindo não só injustiças em casos individuais mas também, por efeito dominó, autênticas formas de desigualdade social".
Por outro lado, existe o risco de influência e de limitação da liberdade humana, uma vez que "as formas de inteligência artificial parecem frequentemente capazes de influenciar as decisões dos indivíduos através de escolhas predeterminadas associadas a estímulos e persuasões, ou através de sistemas de regulação das escolhas pessoais baseados na organização da informação. Estas formas de manipulação ou de controlo social exigem uma atenção e um controlo precisos e implicam uma responsabilidade jurídica clara por parte dos produtores, dos utilizadores e das autoridades governamentais.
O Papa recorda-nos que os direitos humanos devem estar sempre em primeiro lugar: "Não devemos permitir que os algoritmos determinem a forma como entendemos os direitos humanos, que ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou que eliminem a possibilidade de um indivíduo mudar e deixar o passado para trás".
Além disso, outra questão importante a considerar é o impacto "das novas tecnologias no local de trabalho. Os empregos que outrora eram do domínio exclusivo do trabalho humano estão a ser rapidamente absorvidos pelas aplicações industriais da inteligência artificial.
Armas
Outra das grandes preocupações do Papa neste domínio é a corrida aos armamentos: "A possibilidade de conduzir operações militares por meio de sistemas telecomandados levou a uma menor perceção da devastação que causaram e da responsabilidade pela sua utilização, contribuindo para uma abordagem ainda mais fria e distante da imensa tragédia da guerra. A prossecução de tecnologias emergentes no domínio dos chamados "sistemas de armas letais autónomas", incluindo a utilização da inteligência artificial na guerra, constitui uma preocupação ética de monta.
Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis. A capacidade exclusivamente humana de julgamento moral e de tomada de decisões éticas é mais do que um conjunto complexo de algoritmos e não pode ser reduzida à programação de uma máquina que, embora "inteligente", não deixa de ser uma máquina. Por esta razão, é imperativo assegurar um controlo humano adequado, significativo e coerente dos sistemas de armamento".
Além disso, outro aspeto a ter em conta é "a possibilidade de armas sofisticadas poderem ir parar às mãos erradas, facilitando, por exemplo, ataques terroristas ou acções destinadas a desestabilizar instituições governamentais legítimas".
Educação
O Papa recorda também que estas tecnologias podem ter um impacto na educação e sublinha a necessidade de "promover o pensamento crítico". Os utilizadores de todas as idades, mas sobretudo os jovens, devem desenvolver uma capacidade de discernimento na utilização dos dados e dos conteúdos obtidos na Internet ou produzidos pelos sistemas de inteligência artificial. As escolas, as universidades e as sociedades científicas são chamadas a ajudar os estudantes e os profissionais a apropriarem-se dos aspectos sociais e éticos do desenvolvimento e da utilização das tecnologias.
Apelo à comunidade internacional
Na mensagem, o Papa indica que estas preocupações não são da responsabilidade de alguns, mas de todos os seres humanos, e que a utilização deste tipo de tecnologia deve ser regulada: "Exorto a comunidade das nações a trabalhar em conjunto para adotar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas múltiplas formas".
"A minha oração no início do novo ano é que o rápido desenvolvimento das formas de inteligência artificial não aumente as já numerosas desigualdades e injustiças presentes no mundo, mas ajude a pôr fim às guerras e aos conflitos e a aliviar tantas formas de sofrimento que afectam a família humana", conclui o Papa.
