Papst fordert Regeln für KI

Zur Sache

Die vollständige offizielle deutsche Übersetzung der Enzyklika finden Sie hier: Vatican.va

Die Katholische Nachrichten-Agentur hat die wichtigsten Textausschnitte wie folgt zusammengefasst:

Die von Gott geschaffene großartige Menschheit steht heute vor einer entscheidenden Wahl: Entweder sie errichtet einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen. Jede Generation erbt die Aufgabe, die eigene Zeit zu gestalten, damit die Geschichte zu einem Ort reifen kann, an dem die Würde jedes Menschen gewahrt, Gerechtigkeit gefördert und Geschwisterlichkeit ermöglicht wird. Doch jeder Epoche droht die Gefahr, dass die Welt unmenschlich und ungerechter wird. (…)

Die technische Entwicklung hat im Laufe der Jahrhunderte zu einer erheblichen Verbesserung der Lebensbedingungen der Menschheit beigetragen; zugleich hat jede Phase des Fortschritts auch die Ambivalenz von Werkzeugen offenbart, die in der Lage sind, Schaden anzurichten, wenn sie nicht auf das Gute ausgerichtet sind. Heute sehen wir uns jedoch mit einer neuen Situation konfrontiert, in der die Macht und Omnipräsenz neuer Technologien die Struktur des täglichen Lebens durchwirken, Entscheidungsprozesse prägen und die kollektive Vorstellungswelt tiefgreifend beeinflussen: 'Nie hatte die Menschheit so viel Macht über sich selbst'. (…)

Heute sind die Haupttriebkräfte der Entwicklung private, oft transnationale Akteure, die über Ressourcen und Handlungsmöglichkeiten verfügen, die denen vieler Regierungen überlegen sind. Die technologische Macht nimmt somit eine beispiellose, vorwiegend 'private' Gestalt an und ist aus diesem Grund noch schwieriger zu erkennen, zu steuern und auf das Gemeinwohl auszurichten.

Wir durchleben eine rasante Übergangsphase, einen 'Epochenwandel', in dem – während einige um die Zukunft der neuen Technologien wetteifern und andere sich eingehend mit ihnen auseinandersetzen – die meisten Menschen in einer Art Wartestellung verharren, aus der Ferne beobachten und einfach hoffen, dass alles gut gehen wird. Genau aus diesem Grund stellen sich unserem Gewissen entscheidende Fragen, denen wir uns nicht länger entziehen können: Wohin gehen wir? Auf welches Ziel wollen wir uns ausrichten? Welche Richtung sollen wir als Menschheit und als Völker einschlagen?

Technologie kann heilen, verbinden, bilden und unser gemeinsames Haus schützen, aber sie kann auch spalten, ausgrenzen und neue Ungerechtigkeiten hervorbringen. Abstrakt betrachtet ist sie per se weder eine Lösung für die Probleme der Menschheit noch ein Übel. Konkret betrachtet aber ist sie nicht neutral, weil sie die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen. (…)

In der Zeit der Künstlichen Intelligenz, in der die Menschenwürde aufgrund neuer Formen von Entmenschlichung in den Hintergrund zu treten droht, haben wir die dringende Pflicht, zutiefst menschlich zu bleiben und liebevoll jenes großartige Menschsein zu bewahren, das uns geschenkt ist und das in Christus in seiner ganzen Fülle offenbar wurde, und das keine Maschine in seiner Pracht jemals ersetzen kann. (…)

Deshalb hat die Kirche – gemeinsam mit den anderen christlichen Konfessionen und den Gläubigen anderer Religionen – ihre Stimme zu erheben, wenn die Würde der Brüder und Schwestern entstellt wird, wenn die Politik den Dramen der Menschheit nicht gerecht wird, wenn sich die Wirtschaft gegen den Menschen wendet oder die Wissenschaft die Grenzen ihrer Methode überschreitet.  (…)

Der Wert des Menschen hängt nicht davon ab, was er leistet oder produziert, und es gibt Rechte, die allen allein aufgrund der Tatsache zustehen, dass sie Menschen sind. Keine menschliche Macht kann diese rechtmäßig verweigern oder willkürlich einschränken. (…)

Zu den Gütern, die universal für alle bestimmt sind, müssen wir heute auch die neuen Formen des Eigentums zählen: Patente, Algorithmen, digitale Plattformen, technologische Infrastrukturen, Daten. In einem Kontext, in dem der Reichtum der Nationen immer mehr von Wissen und Technologien abhängt, entsteht ein neues Ungleichgewicht, wenn diese Güter ohne angemessene Teilhabe und Zugangsmöglichkeiten in den Händen weniger konzentriert bleiben. (…)

Eine gerechte soziale Ordnung im digitalen Zeitalter ist eine, die allen einen gleichberechtigten Zugang zu Chancen garantiert, die Jüngsten und die Fragilsten schützt, Hass und Desinformation bekämpft und die Nutzung von Daten und Technologien einer öffentlichen Kontrolle unterwirft, damit nicht der bloße Profit zum Maßstab wird, sondern die Würde eines jeden Menschen und das Wohl der Völker. (…)

Wenn technologische Entwicklung ohne eine angemessene ethische und soziale Reifung voranschreitet, kann es geschehen, dass die Mittel mehr werden, ohne dass die Menschlichkeit in gleichem Maße mitwächst. (…)

Im digitalen Bereich liegt die Kontrolle über Plattformen, Infrastrukturen, Daten und Rechenleistung in vielen Fällen nicht in der Hand der Staaten, sondern von großen wirtschaftlichen und technologischen Akteuren, die de facto die Zugangsbedingungen, die Regeln der Sichtbarkeit und die Möglichkeiten der Teilhabe selbst festlegen. Wenn sich solche Macht in wenigen Händen konzentriert, besteht die Gefahr, dass sie undurchsichtig wird und sich der öffentlichen Kontrolle entzieht. (…)

Damit KI die Menschenwürde achtet und wirklich dem Gemeinwohl dient, müssen die Verantwortlichkeiten jederzeit klar sein: angefangen bei jenen, die die Systeme entwerfen und trainieren, bis hin zu jenen, die sie nutzen und ihnen konkrete Entscheidungen anvertrauen. (…)

Wenn man zur Vorsicht, zu strengen Kontrollen und manchmal auch zu einer Verlangsamung bei der Einführung der KI aufruft, bedeutet das nicht, gegen den Fortschritt zu sein, sondern eine verantwortungsvolle Sorge um die Menschheitsfamilie zu zeigen. (…)

Es reicht nicht aus, sich allgemein auf die Ethik zu berufen: Es bedarf angemessener rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, Aufklärung der Nutzer und einer Politik, die sich nicht ihrer Aufgabe entzieht. Andernfalls wird der Wandel nur von technokratischen Logiken bestimmt und als notwendig und unvermeidlich dargestellt, was letztendlich dazu führt, dass Regeln durchgesetzt werden, die von denjenigen diktiert werden, die über Daten, Infrastruktur und Rechenkapazitäten verfügen. (…)

Wir dürfen uns nicht darauf beschränken, zu fordern, dass Maschinen moralisch handeln, also die sogenannte Ausrichtung von KI auf menschliche Werte. Wir müssen mutig eine weitere Bedingung stellen, nämlich die Möglichkeit, den anzuwendenden Ethikkodex zu diskutieren und ihn mit Kriterien sozialer Gerechtigkeit abzugleichen, die wir teilen. Andernfalls setzen diejenigen, die KI kontrollieren ihre eigene moralische Auffassung durch, und diese wird zur unsichtbaren Infrastruktur der Systeme. Eine moralischere KI nützt nichts, wenn diese Moral von wenigen bestimmt wird. Was wir brauchen, ist eine Politik, die präsenter ist, die in der Lage ist, dort zu bremsen, wo alles immer schneller wird, und die Räume zu schützen, in denen Gemeinschaften noch mitwirken und Fragen stellen können. (…)

Unser Verhältnis zum Leben scheint heute in einer Krise zu stecken. Alles, was als 'Begrenztheit' erscheint – Unfähigkeit, Krankheit, Alter, Leiden, Verletzlichkeit –, wird normalerweise erst einmal als ein zu behebender Mangel angesehen und nicht als ein Umstand, durch den der Mensch reift und sich für Beziehungen öffnet. (…)

Aus diesem Grund darf die – großartige und verwundete – Menschheit weder ersetzt noch überwunden werden. Sie kann die technischen Fortschritte begrüßen, um Leiden zu lindern und neue Möglichkeiten zu eröffnen, aber nur, wenn sie dabei nicht verleugnet, was sie menschlich macht, nämlich die Fähigkeit zu Beziehung und Liebe. (…)

Zu früh über ein eigenes Mobiltelefon zu verfügen und es ohne Aufsicht durch Erwachsene zu nutzen, kann junge Menschen noch verletzlicher werden lassen und Abhängigkeiten fördern, indem sie Isolation, Mobbing und Cybermobbing ausgesetzt werden und unter Druck geraten, intime Bilder oder sensible Daten weiterzugeben. (…)

Für Eltern allein ist es schwierig, sich der Beeinflussung durch Geschäftsmodelle entgegenzustellen, die Aufmerksamkeit und Zeit monetarisieren. Daher ist ein Bündnis zwischen Politik, Bildungseinrichtungen und Familien unerlässlich, um die Erwachsenen bei ihrer Aufgabe konkret zu unterstützen. Es bedarf weitsichtiger politischer Entscheidungen, um den unmittelbaren Interessen der Plattformen – die in wenigen Händen konzentriert sind – entgegenzuwirken, wenn diese im Widerspruch zum Wohl der Minderjährigen stehen. (…)

Es (ist) im Zeitalter von KI und Robotik nicht mehr möglich, sich allein auf die 'unsichtbare Hand' des Marktes zu verlassen. Die Politik hat die Aufgabe, die wirtschaftlich-technologischen Dynamiken auf das Gemeinwohl auszurichten und menschenwürdige Arbeit, soziale Inklusion sowie eine gerechte Verteilung der Vorteile der Innovation zu fördern. Da viele wirtschaftliche Entscheidungen über die Staatsgrenzen hinausreichen, ist auch eine internationale Zusammenarbeit erforderlich, die in der Lage ist, gemeinsame Strategien zu entwickeln (…)

Wenn jede Handlung – Bewegungen, Käufe, Beziehungen, Vorlieben – Spuren hinterlässt, dann entsteht eine neue Macht: Jene, Profile zu erstellen, Vorhersagen zu treffen und Verhalten zu beeinflussen, oft ohne dass sich die Menschen dessen voll bewusst sind. Werden diese Daten genutzt, um Entscheidungen zu treffen, die konkrete Möglichkeiten beeinflussen (Zugang zu Krediten, Personalauswahl, Dienstleistungen), besteht die Gefahr, dass die Freiheit beeinträchtigt und die Schwächsten diskriminiert werden.  (…) Aus diesem Grund ist Freiheit im digitalen Zeitalter nicht nur eine interne Angelegenheit: Sie ist auch eine öffentliche Angelegenheit, die klare Regeln, Transparenz, Rechtsbehelfsmöglichkeiten und angemessene Grenzen für den Einsatz invasiver Technologien erfordert, damit die Technik im Dienste des Menschen bleibt und nicht zu einer Form der Herrschaft über das Bewusstsein wird. (…)

In unseren Tagen zeigt der Kolonialismus ein neues Gesicht. Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen. Ganze Gebiete, insbesondere jene mit geringerer geopolitischer Bedeutung und größerer struktureller Anfälligkeit, werden derzeit von einer neuen Logik der Ausbeutung durchzogen: Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Daten. (…)

Hierin liegt eine der dringlichsten moralischen Herausforderungen unserer Zeit: gemeinsames Wissen in ein Gemeingut zu verwandeln, statt es als Beherrschungsinstrument zu nutzen. Das bedeutet, den Menschen nicht nur die Daten zurückzugeben, die sie beschreiben, sondern auch die Möglichkeit, zu entscheiden, wie diese genutzt werden, von wem und für wen. Andernfalls wird das digitale Zeitalter nicht postkolonial sein, sondern in einer anderen Form kolonial. (…)

Die digitale Revolution verändert die Grammatik von Konflikten. Zur sichtbaren Kriegsführung gesellen sich hybride Formen: Cyberangriffe, Informationsmanipulation, Einflusskampagnen und die Automatisierung strategischer Entscheidungen. KI tritt in diese Prozesse als beschleunigender Faktor ein (…)

Zu all dem kommt ein neues und entscheidendes Element hinzu: die mediale und digitale Dimension. Kommunikationsnetzwerke, fragmentierte Informationslandschaften und Algorithmen, die Konflikte begünstigen, können Polarisierung und Ressentiments verstärken, Propaganda beschleunigen und eine gemeinsame Urteilsfähigkeit behindern. So wird Krieg nicht nur geführt, sondern auch kulturell vorbereitet: durch vereinfachende Narrative, Freund-Feind-Logik, Desinformation und Angst. (…)

Heute ist es – unbeschadet des Rechts auf legitime Verteidigung, die im engsten Sinne zu verstehen ist – wichtiger denn je, die Überwindung der Theorie des 'gerechten Krieges' zu bekräftigen, die allzu oft herangezogen wird, um alle möglichen Kriege zu rechtfertigen. Um Konflikte zu bewältigen, verfügt die Menschheit über Mittel, die weitaus wirksamer sind und geeigneter, das menschliche Leben zu fördern, wie zum Beispiel den Dialog, die Diplomatie und die Vergebung. (…)

Es (ist) nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen. Es existiert kein Algorithmus, der Krieg moralisch vertretbar machen könnte. (… )"