Ein Beitrag des Beirats für Spiritualität und Werte der Caritas Österreich
Für einen Algorithmus ist ein Fehler etwas, das korrigiert werden muss; für einen Menschen kann er der Beginn einer tiefgreifenden Veränderung sein. Leo XIV., Magnifica Humanitas 128.
KI – Können, Logik und Grenzen
Künstliche Intelligenz (KI) – und hier vor allem die generative KI - ist als digital-technisches Hilfsmittel mit vielfältigen Einsatzmöglichkeiten in Dokumentation, Beratung, Pflege und Kommunikation in der Caritas längst angekommen. Diese sogenannte künstliche Intelligenz greift vorhandene Datensätze auf und führt sie in hoher Geschwindigkeit, einer „Algorithmus-Logik“ folgend, zusammen. Diese Zusammenfassung, die sich an den am häufigsten vorhandenen Daten orientiert, ist weder objektiv noch neutral und stellt keinen Wahrheitsanspruch, sondern sie gibt in den Daten vertretene Meinungen wieder und wiederholt dabei gängige Vorurteile.
Wichtig zu wissen!
Viele Menschen, mit denen die Caritas arbeitet, haben wenig Zugang zu digitalen Angeboten, sind in Datensystemen unterrepräsentiert und sind aufgrund ihrer oftmals eingeschränkten finanziellen Ressourcen auch eine wirtschaftlich unbedeutsame Zielgruppe im digitalen Bereich. Sie sind daher besonders von digitaler Benachteiligung betroffen – dafür achtsam zu sein, sieht sich die Caritas in einer besonderen Verantwortung.
Ethische Leitfragen:
- Was ist ein nützlicher Einsatz von KI, der ein gutes und gerechtes Leben für alle anstrebt und caritativ auf Benachteiligte und Marginalisierte fokussiert?
- Wie wird die Aufgabe der Caritas, notleidenden Menschen beizustehen, bestmöglich gewahrt oder gar durch KI verbessert bzw. erleichtert?
- Welche caritasethischen Prinzipien sind hilfreich, um zu einer guten ethischen Einschätzung zu kommen?
Ethischer Umgang mit KI
Verschiedene Studien zeigen, dass verantwortungsvoller KI-Einsatz eine hohe Verantwortungsbereitschaft der Anwender*innen voraussetzt, die durch Ethik-Kodex, Schulungen, starke Ethikgremien oder Ethikbeauftragte sowie Dialog und Reflexion gestützt wird. Papst Leo XIV. beschreibt KI in der jüngsten Sozialenzyklika „Magnifica Humanitas“ als mächtiges Werkzeug, das sich jedoch den moralischen Grundpfeilern der Menschlichkeit unterordnen muss, um eine „Zivilisation der Liebe“ statt einer Kultur der technokratischen Macht zu errichten.
Der Wert einer Zivilisation lässt sich nicht an der Macht ihrer Mittel messen, sondern an der Fürsorge, die sie zu leisten vermag. MH 114
Ethische Leitplanken im Umgang mit KI in der Caritas:
KI und Menschenwürde
Der KI-Einsatz ist so lange gut, wie er die Würde und Autonomie der Menschen achtet, und insbesondere die Würde und Autonomie benachteiligter und marginalisierter Menschen fördert, unterstützt und jedenfalls nicht untergräbt. Barrierefreiheit, soziale Verträglichkeit und Geschlechtergerechtigkeit sind bleibende Gradmesser für einen guten Umgang mit Würde. In seiner jüngst erschienen Enzyklika Magnifica Humanitas betont Leo XIV., dass die Würde des Menschen unantastbar ist und niemals Algorithmen existenzielle Entscheidungen treffen dürfen.
KI und Solidarität
Caritas erklärt sich mit armutsbetroffenen Menschen solidarisch, die wenig Datenaufmerksamkeit erhalten und macht ihre Themen sichtbar. Zeitgleich zeigt sie sich mit den Mitarbeitenden und ihren Wünschen nach Vereinfachung und Reduzierung administrativer Prozesse solidarisch und lädt dezidiert zu einem verantwortungsbewussten KI-Mitteleinsatz ein. Ausbeuterische Arbeitsbedingungen beim Abbau seltener Erden oder bei Klickarbeitern (Content-Moderator*innen in Niedriglohnländern) sind häufig unsichtbare Schattenseiten der KI-Lieferketten, die eine global verstandene Solidarität wichtig machen.
KI und Subsidiarität
Generative KI kann hilfreiche Unterstützung im Berufsalltag bieten. Solange KI eine tatsächliche Unterstützung und Hilfeleistung darstellt, kann ihr Einsatz entlastende Wirkung haben. Wenn etwas im unmittelbaren und direkten Kontakt und Austausch oder mit Eigenkreativität besser gelöst werden kann, ist der KI-Einsatz zu überprüfen. Verantwortlich in der Einschätzung und für den Wahrheitsgehalt der Inhalte bleibt letztlich die/der Nutzer*in, rechenschaftspflichtig sind aber auch jene, die die Systeme entwerfen und trainieren („Accountability“). Lokale Eigenheiten sollen gegenüber automatisierten Systemen und deren Tendenz zu Vereinheitlichung und Überwachung geschützt werden.
KI und Gemeinwohl
Caritas zielt auf ein gutes und gerechtes Leben für alle ab. Die Güter der Erde, inklusive des technischen Fortschritts, sollen allen Menschen gleichermaßen zukommen, auch soll der Wahrheitsgehalt und die Definition von Wahrheit nicht in den Händen einiger weniger Tech-Konzerne liegen. KI kann in der Wahrheitssuche und Umverteilungsdebatte eine zentrale, jedoch assistierende Rolle spielen. Was dem Menschen gut tut, ist nicht nur in der technisch-digitalen Welt aufgehoben, sondern insbesondere in seinen unmittelbaren Beziehungen (sozialer, körperlicher und spiritueller Art).
KI und soziale Gerechtigkeit
KI verändert die Arbeitswelt radikal. Die 2026 veröffentlichte Enzyklika Magnifica Humanitas über die Künstliche Intelligenz betont, dass menschliche Arbeit eine inhärente Quelle für Sinn und Erfüllung ist. Wenn KI Arbeitsplätze ersetzt, müssen Mechanismen der sozialen Gerechtigkeit greifen, um Massenarbeitslosigkeit und neue Abhängigkeiten zu verhindern. Ebenso bedarf es Maßnahmen um der Entstehung neuer ausbeuterischer Arbeitsformen in unseren Partnerländern (meist im Globalen Süden) entgegen zu wirken. Durch das Prinzip der sozialen Gerechtigkeit sollen strukturelle Abhängigkeiten zulasten der „Schwächsten“ in der Gesellschaft verhindert werden.
KI und Nachhaltigkeit
KI wird zugesprochen einen entscheidenden Beitrag in der Energiewende leisten zu können, etwa bei der Berechnung von Wahrscheinlichkeiten in der Wirksamkeit von Nachhaltigkeitsstrategien. Zeitgleich verbraucht breite und rege KI-Nutzung auch hohe Datenmengen und macht ständig leistungsstärkere Rechner und kühlungsabhängige Datenspeicherorte erforderlich, die das Klima belasten...Gewinn und Schaden fallen häufig entlang des Nord-Süd-Gefälles aus. Wir sind daher aufgefordert, Kosten und Nutzen des KI-Einsatzes immer wieder zu überprüfen.
Auswahlhafte Praxisbeispiele aus den diözesanen Caritasorganisationen
Im Folgenden werden zwei Beispiele aus der Vielzahl an Beispielen herausgenommen, um Einsatzfelder von generativer KI und interne Ethikreflexionen herauszustellen.
Praxisbeispiel „CaritasAI in der Caritas St. Pölten“
Die Caritas St. Pölten stellt all ihren Mitarbeiter*innen CaritasAI zur Verfügung. Dabei handelt es sich um eine Plattform mit einem CaritasGPT sowie mehreren Assistenten, die den Arbeitsalltag erleichtern sollen – zum Beispiel einen Lektor, einen Assistenten, der Texte in leichte Sprache oder alle Sprachen übersetzt, ein Tool zur Zusammenfassung von Texten sowie einen Assistenten mit Diktierfunktion. CaritasAI wurde von der eigenen Caritas-IT-Abteilung entwickelt und erfüllt folgende Voraussetzungen:
- Hohe Datensicherheit
- Datenschutzkonform
- Kostenminimierung (Inhouse-Hosting mit Google Cloud Anbindung)
- Keine Verbindung zum Internet
- Integration der Caritaswerte
- Inkludierte Sicherheitsschranken (bestimmte Inhalte sind gesperrt).
Praxisbeispiel „Sozialberatung in der Caritas Oberösterreich“
Es wird davon ausgegangen, dass der Einsatz von KI Prozesse beschleunigen, Fehler reduzieren und Mitarbeitende entlasten kann.
Zu den zentralen Anwendungsfeldern von KI gehören:
- Automatisierte Analyse von Kontoauszügen
- Anspruchsassistent für Sozialleistungen
- Automatisierte Dokumentation von Beratungsgesprächen
- Entscheidungsunterstützung bei Richtlinienprüfungen
Allerdings bedarf es starker ethischer Begleitung von KI-Maßnahmen in der Sozialberatung, und zwar bereits im Vorfeld als auch während des Prozesses sowie in der Evaluation. Entsprechende Schulungen können Gefahren einer freigiebigen Dateneingabe minimieren und Reflexions- und Dialogfähigkeit stärken. Persönliche Beziehungen, Nähe und Empathie sind unhintergehbar für die Sozialberatung bedeutsam. Berufsethik gewinnt an Bedeutung. Leitmotiv ist: unterstützen (lassen) statt bestimmen (lassen).
Zwischenfazit: Generativität und Empathie schließen sich aus
Übereinstimmend halten die beiden Stimmen aus der Caritas-Praxis fest, dass je generativer und klar beschreibbar die Anwendung, desto stärker ist sie für KI-Einsatz geeignet, je persönlicher und empathischer, desto weniger geeignet ist KI. Sie verfügt über keine Empathiefähigkeit, selbst wenn manche Antworten diesen Anschein erwecken können, weil ein Chatbot diese imitiert, um „menschlicher“ zu wirken.
So steht für die Caritas St. Pölten als auch die Caritas Oberösterreich fest, dass persönliche Beratungsleistung in Menschenhand gehört, wenngleich der Weg dahin von KI geebnet sein kann.
Praktische/r Tipps bei/vor Anwendung datenbasierter Systeme vom Beirat
Haltung vor dem Prompt
- Lass dich stets von deiner Empathiefähigkeit und deinem ethischen Urteil mit leiten, wenn du KI nutzt
- Überprüfe sämtliche Ergebnisse auf ihre sachliche Richtigkeit und Ausgewogenheit.
- Nutze jene Frageoptionen und Antwortmöglichkeiten, die Teilhabe fördern und Machtkonzentration verringern.
- Frage dich, ob in dem konkreten Fall der Einsatz der KI tatsächlich erforderlich ist: Stichwort Ressourcenschonung.
Dieser Beitrag entstand durch den Beirat für Spiritualität und Werte der Caritas Österreich.
Mehr Infos finden Sie hier: www.caritas.at/ueber-uns/ueber-die-caritas/spiritualitaet-und-werte/
Bezugsquellen:
Interviews wurden von Beiratsmitgliedern geführt mit:
- der Caritas-St.Pölten-internen Working Group (Christoph Riedl und Ingrid Poiss).
- Mag.a (FH) Michaela Haunold, Abteilungsleitung Beratung und Hilfe Caritas Oberösterreich
Textquellen:
KI-Richtlinie der Caritas Österreich, Stand 1.3.2025.
CÖ Rahmenstrategie 2020-2025 zu Digitalisierung
Ebru Noisternig: Verantwortungsvoller Umgang mit KI, CariNet-Beitrag vom 14.04.2025 zu KI (Caritas der Erzdiözese Wien)
Maxim Nopper-Pflügler: „KI verändert, wie soziale Arbeit und Wohlfahrtspflege funktioniert“, Interview mit Michael Garkisch, Professor für digitale Soziale Arbeit an der OTH Regensburg, neue caritas 8/2025, S. 16-17
Hannes Werther: Digitaler Humanismus. Über Digitalisierung und Künstliche Intelligenz. Picus Verlag: Wien 2025.
Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ des Deutschen Ethikrats. 20.März 2023
Wikipedia-Beitrag zu KI
Bundesministerium für Klimaschutz, Umwelt, Energie, Mobilität, Innovation und Technologie (BMK) (Hg.): Strategie der Bundesregierung für Künstliche Intelligenz Artificial Intelligence Mission Austria 2030 (AIM AT 2030). Wien 2021.
Richtlinie zum Einsatz von Drittanbieter-KI-Anwendungen für die Erstellung und Bearbeitung von Texten, Bildern, Videos und sonstigen Inhalten. Gültig ab 1.3.2025.
Anslinger, Julian, Jaroslava Huber, Michael Haslgrübler, und AnitaThaler, Hrsg. 2022. Verantwortungsvolle Einbindung von KI-Assistenzsystemen am Arbeitsplatz. Ein Handbuch für Arbeitnehmende und ihre Vertretungen. 10.17605/OSF.IO/98B4H
EU-Verordnung zu KI: https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai
https://wirtschaftslexikon.gabler.de/definition/kuenstliche-intelligenz-ki-40285
EWDE (Evangelisches Werk für Diakonie und Entwicklung e.V.): Leitlinien zur Nutzung von Künstlicher Intelligenz im Evangelischen Werk für Diakonie und Entwicklung e. V. Beschlossen durch die Managementrunde am 27.02.2024
cig-online.de/wp-content/uploads/2025/08/CC2_25-HP-Ausgabe.pdf , insbesondere von Stephanie Hecke: „Wenn Algorithmen zuhören: KI IM GESUNDHEITSWESEN UND IN DER SEELSORGE – DIAKONISCHE PERSPEKTIVEN IM DIGITALEN WANDEL“, S. 8-9.
Leo XIV.: Enzyklika Magnifica humanitas über die Künstliche Intelligenz und die Sozialprinzipien im digitalen Zeitalter (25. Mai 2026), online unter: www.vatican.va [Abrufdatum: 8.6.2026]
Verfasser: Beirat für Spiritualität und Werte des Caritas Österreich, Rechtschreibkorrektur mit perplexity.ai (2025), Fragenentwicklung zu den Sozialprinzipien unter Zuhilfenahme von Gemini (2026).
Stand: 09.04.2026