Anzeige
Künstliche Intelligenz erschafft inzwischen Texte, Bilder, Videos, aber erleichtert auch Fakes und Betrug. Wozu Leo XIV. rät.
Papst Leo XIV. empfiehlt Qualitätsjournalismus und Bildung zum Schutz gegen die vermeintlich allwissende Künstliche Intelligenz (KI). "Systeme, die statistische Wahrscheinlichkeiten als Wissen ausgeben, bieten uns in Wirklichkeit bestenfalls Annäherungen an die Wahrheit, die mitunter regelrechte 'Halluzinationen' sind", schreibt Leo in seiner Botschaft zum katholischen Tag der sozialen Kommunikationsmittel. In Deutschland wird dieser Mediensonntag am zweiten Sonntag im September begangen, diesmal am 13. September.
Medien- und Kommunikationsunternehmen dürften nicht zulassen, dass Algorithmen, die um jeden Preis um ein paar Sekunden mehr Aufmerksamkeit kämpften, journalistische Werte wie die Suche nach Wahrheit verdrängten, so der Papst.
"KI-Inhalte klar kennzeichnen"
Als Probleme nennt er eine fehlende Überprüfung von Quellen und Informationen auch durch die Krise des Journalismus vor Ort. Das schaffe einen Nährboden für Desinformation und "ein wachsendes Gefühl von Misstrauen, Orientierungslosigkeit und Unsicherheit".
Leo XIV. fordert, von KI erzeugte oder manipulierte Inhalte müssten klar gekennzeichnet und deutlich von menschengemachten Inhalten unterschieden werden. Die Arbeit von Journalisten, Autoren und anderen Kreativen sei urheberrechtlich zu schützen.
Leo XIV.: Es braucht "digitale Alphabetisierung"
In dem Text "Custodire voci e volti umani" ("Gesichter und Stimmen des Menschen schützen") verweist Leo auf Chatbots und ständig wachsende Möglichkeiten der KI, Stimmen, Gesichter, Gestik und Mimik nachzuahmen und sogar menschliche Emotionen vorzutäuschen. Es brauche eine "digitale Alphabetisierung", um zu verstehen, "wie Algorithmen unsere Wahrnehmung der Realität prägen, wie KI-Verzerrungen funktionieren, welche Mechanismen das Erscheinen bestimmter Inhalte in unseren Informationsfeeds bestimmen und welche Annahmen und Wirtschaftsmodelle der KI-Ökonomie zugrunde liegen und wie sie sich verändern können".
Nur so sei zu verhindern, dass KI für schädliche Inhalte und Verhaltensweisen wie Betrug, Cybermobbing und Deepfakes missbraucht werde, die die Privatsphäre und Intimität der Menschen ohne deren Zustimmung verletzen.
"Menschliche Kreativität nicht aufgeben"
Der Papst mahnt, KI-Systeme hätten zunehmend die Produktion von Texten, Musik und Videos übernommen. "Ein Großteil der menschlichen Kreativwirtschaft läuft daher Gefahr, abgebaut und durch das Label ‘von KI gesteuert’ ersetzt zu werden, wodurch Menschen zu bloßen passiven Konsumenten unreflektierter Gedanken, anonymer, unautorisierter und ungeliebter Produkte werden", so Leo.
Den kreativen Prozess und eigene geistige Fähigkeiten aufzugeben und die Vorstellungskraft Maschinen zu überlassen, bedeute, die Talente zu begraben, die den Menschen gegeben seien, um in Beziehung zu Gott und den Mitmenschen zu wachsen: "Es bedeutet, unser Gesicht zu verbergen und unsere Stimme zum Schweigen zu bringen."
Marx: Pressefreiheit schützt zerbrechliche Demokratie
Kardinal Reinhard Marx hat die Pressefreiheit als "Schutzschild unserer zerbrechlichen Demokratie" gewürdigt. "Freie und kritische Qualitätsmedien sind gerade gegenwärtig unerlässlich für unsere demokratische Gesellschaft und für die Kirche", betonte der Vorsitzende der Publizistischen Kommission der Deutschen Bischofskonferenz am 25. Januar in Sozialen Medien. Anlass war der 250. Geburtstag des katholischen Publizisten Joseph Görres (1776-1848). Seit 1814 hatte er den "Rheinischen Merkur" herausgegeben. | KNA
Update 17 Uhr: Kasten