Auf der Omnes-CARF-Sitzung wurden die Vorteile und Risiken der künstlichen Intelligenz erörtert.In der Botschaft zum 57. Weltfriedenstag reflektiert der Papst über die positiven Aspekte des wissenschaftlichen Fortschritts, aber auch über die ethischen Herausforderungen, die einige Fortschritte, wie etwa die künstliche Intelligenz, mit sich bringen.
Zunächst erinnert Franziskus daran, dass die Heilige Schrift bekräftigt, dass "Gott den Menschen seinen Geist gegeben hat, damit sie 'Geschicklichkeit, Talent und Erfahrung in der Ausführung aller Arten von Arbeiten' haben (Ex 35,31).
Auch in der Pastoralkonstitution "Gaudium et spes" des Zweiten Vatikanischen Konzils heißt es, dass der Mensch stets "durch seine Arbeit und seinen Erfindungsreichtum danach strebt, sein Leben zu vervollkommnen". Daher weist der Papst darauf hin, dass der Fortschritt von Wissenschaft und Technik "insofern er zu einer besseren Ordnung der menschlichen Gesellschaft und zur Vermehrung der Freiheit und der brüderlichen Gemeinschaft beiträgt, zur Vervollkommnung des Menschen und zur Umgestaltung der Welt führt", und er drückt seine Freude über den Fortschritt der Wissenschaft aus, dank der "unzählige Übel, die das menschliche Leben beeinträchtigt und großes Leid verursacht haben, beseitigt werden konnten".
Risiken und Algorithmen
Auf der anderen Seite weist Francisco darauf hin, dass diese Entwicklungen zu einer Risiko in einigen Bereichen: "Der technische und wissenschaftliche Fortschritt, der eine nie dagewesene Kontrolle über die Realität ermöglicht, stellt der Menschheit eine Vielzahl von Möglichkeiten zur Verfügung, von denen einige eine Gefahr für das Überleben der Menschheit und für das gemeinsame Haus darstellen".
Francis erwähnt auch Technologien, die Algorithmen verwenden, die "digitale Spuren im Internet hinterlassen, Daten, die es ermöglichen, die mentalen und relationalen Gewohnheiten der Menschen für kommerzielle oder politische Zwecke zu kontrollieren, oft ohne ihr Wissen, und die ihre bewusste Ausübung der Wahlfreiheit einschränken. In einem Raum wie dem Internet, der durch eine Überfülle an Informationen gekennzeichnet ist, kann der Datenfluss nach Auswahlkriterien strukturiert werden, die vom Nutzer nicht immer wahrgenommen werden".
Der Papst erinnert daran, dass Innovationen nicht "neutral sind, sondern kulturellen Einflüssen unterliegen. Als vollständig menschliche Aktivitäten spiegeln die Richtungen, die sie einschlagen, Entscheidungen wider, die durch die persönlichen, sozialen und kulturellen Werte jeder Epoche bedingt sind.
Künstliche Intelligenz
Der Papst fährt fort, über künstliche Intelligenz nachzudenken, denn "der Begriff selbst, der inzwischen in den allgemeinen Sprachgebrauch eingegangen ist, umfasst eine Vielzahl von Wissenschaften, Theorien und Techniken, die darauf abzielen, dass Maschinen in ihrer Funktionsweise die kognitiven Fähigkeiten des Menschen reproduzieren oder nachahmen".
"Ihre Wirkung", so der Papst, "hängt unabhängig von der zugrunde liegenden Technologie nicht nur vom Projekt ab, sondern auch von den Zielen und Interessen des Bauherrn und des Entwicklers sowie von den Situationen, in denen sie eingesetzt werden.
Aus all diesen Gründen weist Francis darauf hin, dass es nicht selbstverständlich ist, dass die Entwicklung dieser sogenannten künstlichen Intelligenz der Menschheit zwangsläufig etwas Positives bringen wird: "Ein solches positives Ergebnis wird nur möglich sein, wenn wir in der Lage sind, verantwortungsvoll zu handeln und die grundlegenden menschlichen Werte zu respektieren (...). Es reicht nicht aus, auch bei denjenigen, die Algorithmen und digitale Technologien entwerfen, eine Verpflichtung zu ethischem und verantwortungsvollem Handeln vorauszusetzen. Es ist notwendig, Gremien zu stärken oder gegebenenfalls einzurichten, die sich mit neu auftretenden ethischen Fragen befassen und die Rechte derjenigen schützen, die Formen der künstlichen Intelligenz nutzen oder von ihnen beeinflusst werden.
Darüber hinaus macht sich der Papst Gedanken über das maschinelle Lernen und das Deep Learning, eine Technologie, die sich zwar noch in der Pionierphase befindet, aber bereits bedeutende Veränderungen im gesellschaftlichen Gefüge bewirkt und einen tiefgreifenden Einfluss auf Kulturen, soziales Verhalten und die Schaffung von Frieden ausübt".
Desinformation und Voreingenommenheit
Außerdem ist "die Fähigkeit einiger Geräte, syntaktisch und semantisch kohärente Texte zu produzieren, keine Garantie für Zuverlässigkeit (...) Sie können (...) Behauptungen aufstellen, die auf den ersten Blick plausibel erscheinen, in Wirklichkeit aber unbegründet sind oder Voreingenommenheit verraten. Dies schafft ein ernstes Problem, wenn künstliche Intelligenz in Desinformationskampagnen eingesetzt wird, die Fake News verbreiten und zu einem wachsenden Misstrauen gegenüber den Medien führen. Vertraulichkeit, Dateneigentum und geistiges Eigentum sind weitere Bereiche, in denen die fraglichen Technologien ernsthafte Risiken bergen, mit weiteren negativen Folgen, die mit ihrem unsachgemäßen Einsatz verbunden sind, wie Diskriminierung, Einmischung in Wahlprozesse, Aufbau einer Gesellschaft, die die Menschen überwacht und kontrolliert, digitale Ausgrenzung und die Intensivierung eines Individualismus, der sich zunehmend vom Kollektiv löst.
Außerdem betont der Papst, dass Algorithmen "keine garantierten Vorhersagen für die Zukunft liefern können, sondern nur statistische Näherungen. Nicht alles kann vorhergesagt werden, nicht alles kann berechnet werden (...). Außerdem ist die große Menge an Daten, die von künstlichen Intelligenzen analysiert werden, an sich noch keine Garantie für Unparteilichkeit. Wenn Algorithmen Informationen extrapolieren, laufen sie immer Gefahr, diese zu verzerren und die Ungerechtigkeiten und Vorurteile der Umgebung, aus der sie stammen, zu reproduzieren. Je schneller und komplexer sie werden, desto schwieriger ist es zu verstehen, warum sie ein bestimmtes Ergebnis erzielt haben.
Andererseits sind künstliche Intelligenzen nicht unparteiisch, "der Zweck und der Sinn ihrer Operationen werden weiterhin von Menschen bestimmt oder ermöglicht, die ihr eigenes Werteuniversum haben". "Die Gefahr", so der Papst, "besteht darin, dass die Kriterien, die bestimmten Entscheidungen zugrunde liegen, weniger transparent werden, dass die Verantwortung für die Entscheidungen verschleiert wird und dass die Produzenten sich der Verpflichtung entziehen, zum Wohle der Gemeinschaft zu handeln.
Deshalb ist der "Sinn für Grenzen" wichtig, der, so Franziskus, "ein Aspekt ist, der in der heutigen technokratischen und effizienzorientierten Mentalität oft vernachlässigt wird, der aber für die persönliche und soziale Entwicklung entscheidend ist. Der Mensch, der in der Tat per definitionem sterblich ist und meint, dank der Technologie jede Grenze zu überschreiten, läuft Gefahr, in der Besessenheit, alles kontrollieren zu wollen, die Kontrolle über sich selbst zu verlieren und auf der Suche nach absoluter Freiheit in die Spirale einer technologischen Diktatur zu geraten".
Diskriminierung und Ungerechtigkeit
Der Papst unterstreicht, dass all diese Fragen große ethische Herausforderungen mit sich bringen: "In Zukunft könnte die Zuverlässigkeit eines Kreditnehmers, die Eignung einer Person für einen Arbeitsplatz, die Rückfallwahrscheinlichkeit eines Verurteilten oder das Recht auf politisches Asyl oder Sozialhilfe durch Systeme der künstlichen Intelligenz bestimmt werden (...) Systemische Fehler können sich leicht vervielfachen und nicht nur Ungerechtigkeiten in Einzelfällen, sondern durch einen Dominoeffekt auch echte Formen sozialer Ungleichheit hervorbringen".
Andererseits besteht die Gefahr einer Beeinflussung und Einschränkung der menschlichen Freiheit, da "Formen der künstlichen Intelligenz oft in der Lage zu sein scheinen, die Entscheidungen des Einzelnen durch vorgegebene Wahlmöglichkeiten in Verbindung mit Reizen und Überzeugungen oder durch Systeme zur Regulierung persönlicher Entscheidungen auf der Grundlage der Organisation von Informationen zu beeinflussen. Diese Formen der Manipulation oder der sozialen Kontrolle erfordern genaue Aufmerksamkeit und Überwachung und implizieren eine klare rechtliche Verantwortung seitens der Hersteller, der Nutzer und der staatlichen Behörden.
Der Papst erinnert uns daran, dass die Menschenrechte immer an erster Stelle stehen müssen: "Wir dürfen nicht zulassen, dass Algorithmen bestimmen, wie wir die Menschenrechte verstehen, dass sie die grundlegenden Werte des Mitgefühls, der Barmherzigkeit und der Vergebung beiseite schieben, dass sie dem Einzelnen die Möglichkeit nehmen, sich zu ändern und die Vergangenheit hinter sich zu lassen".
Ein weiterer wichtiger Aspekt sind die Auswirkungen "der neuen Technologien auf den Arbeitsplatz". Arbeitsplätze, die früher ausschließlich der menschlichen Arbeitskraft vorbehalten waren, werden rasch von industriellen Anwendungen der künstlichen Intelligenz übernommen.
Waffen
Ein weiteres wichtiges Anliegen des Papstes in diesem Bereich ist das Wettrüsten: "Die Möglichkeit, militärische Operationen mit Hilfe von ferngesteuerten Systemen durchzuführen, hat zu einer geringeren Wahrnehmung der von ihnen verursachten Verwüstungen und der Verantwortung für ihren Einsatz geführt, was zu einer noch kälteren und distanzierteren Haltung gegenüber der unermesslichen Tragödie des Krieges beiträgt. Das Streben nach neuen Technologien im Bereich der so genannten "tödlichen autonomen Waffensysteme", einschließlich des Einsatzes von künstlicher Intelligenz in der Kriegsführung, ist ein großes ethisches Problem.
Autonome Waffensysteme können niemals moralisch verantwortliche Subjekte sein. Die einzigartige menschliche Fähigkeit zur moralischen Beurteilung und ethischen Entscheidungsfindung ist mehr als ein komplexer Satz von Algorithmen und kann nicht auf die Programmierung einer Maschine reduziert werden, die zwar "intelligent", aber immer noch eine Maschine ist. Aus diesem Grund muss unbedingt eine angemessene, sinnvolle und kohärente menschliche Aufsicht über Waffensysteme gewährleistet werden".
Ein weiterer Aspekt, der berücksichtigt werden muss, ist die Möglichkeit, dass hochentwickelte Waffen in die falschen Hände geraten und beispielsweise terroristische Anschläge oder Aktionen zur Destabilisierung rechtmäßiger Regierungsinstitutionen erleichtern könnten".
Erziehung
Der Papst weist auch darauf hin, dass diese Technologien Auswirkungen auf die Bildung haben können, und betont die Notwendigkeit, "kritisches Denken zu fördern". Nutzer aller Altersgruppen, vor allem aber junge Menschen, müssen die Fähigkeit entwickeln, Daten und Inhalte, die aus dem Internet stammen oder von Systemen der künstlichen Intelligenz erzeugt werden, differenziert zu nutzen. Schulen, Universitäten und wissenschaftliche Gesellschaften sind aufgerufen, Studenten und Berufstätige dabei zu unterstützen, sich mit den sozialen und ethischen Aspekten der Entwicklung und Nutzung von Technologie auseinanderzusetzen.
Appell an die internationale Gemeinschaft
In der Botschaft weist der Papst darauf hin, dass diese Sorgen nicht die Verantwortung einiger weniger, sondern aller Menschen sind und dass die Nutzung dieser Art von Technologie geregelt werden muss: "Ich fordere die Gemeinschaft der Nationen auf, zusammenzuarbeiten, um ein verbindliches internationales Abkommen zu verabschieden, das die Entwicklung und Nutzung der künstlichen Intelligenz in ihren vielen Formen regelt".
"Mein Gebet zu Beginn des neuen Jahres ist, dass die rasche Entwicklung von Formen der künstlichen Intelligenz die ohnehin schon zahlreichen Ungleichheiten und Ungerechtigkeiten in der Welt nicht noch vergrößert, sondern dazu beiträgt, Kriege und Konflikte zu beenden und so viele Formen des Leidens, die die Menschheitsfamilie betreffen, zu lindern", so der Papst abschließend.
