„Et lux in tenebris lucet, et tenebrae eam non comprehenderunt.“
Und das Licht scheint in der Finsternis, und die Finsternis hat es nicht erfasst.
— Johannes 1,5
Was die erste Enzyklika von Papst Leo XIV. über KI uns als KI-Anbieter zu sagen hat.
Es gibt Momente in denen man einen Text liest und denkt: Das hätte ich auch schreiben können. Nicht wegen des Stils. Nicht wegen der Autorität. Sondern wegen der Haltung.
Am 25. Mai 2026 veröffentlichte Papst Leo XIV. seine erste Enzyklika. „Magnifica Humanitas“ – Die großartige Menschheit. Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz. Mehr als 100 Seiten. Veröffentlicht am 135. Jahrestag von „Rerum Novarum“ – der Enzyklika von Leo XIII., die 1891 die soziale Frage des Industriezeitalters adressierte.
Sein Nachfolger adressiert jetzt die soziale Frage des digitalen Zeitalters.
Ich bin evangelisch. Ich bin kein Theologe. Ich baue KI-Telefonagenten für Handwerker, Ärzte und Gastronomen. Und trotzdem hat mich dieser Text mehr beschäftigt als jedes KI-Paper, das ich in den letzten zwei Jahren gelesen habe.
Hier ist warum.
„KI ist weder gut noch schlecht“ – aber sie kann beides werden
Der Papst beginnt mit einer Unterscheidung, die so einfach wie fundamental ist: Technologie ist kein Feind des Menschen. Sie ist auch keine Heilsbotschaft. Sie ist ein Werkzeug.
„Die Technologie ist weder eine menschenfeindliche Kraft noch ein Übel“, schreibt Leo XIV. Aber er fährt fort: Sie birgt die Gefahr neuer Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungerechtigkeit – wenn sie ohne moralischen Kompass eingesetzt wird.
Das ist der Kern. Nicht die Technologie entscheidet. Derjenige entscheidet, der sie einsetzt. Und wie er sie einsetzt.
Für mich, als jemanden der täglich KI-Systeme baut und betreibt, ist das keine abstrakte philosophische Frage. Es ist die praktischste Frage, die es gibt. Jedes Mal wenn ich einen neuen Agenten konfiguriere, entscheide ich: Was darf er sagen? Was darf er nicht sagen? Wie geht er mit einem aufgebrachten Anrufer um? Was passiert, wenn jemand in einer Notsituation anruft? Wann muss er einen Menschen hinzuziehen?
Das sind keine technischen Fragen. Das sind ethische Fragen.
Das technokratische Paradigma – und warum der Papst recht hat
Ein Begriff taucht in der Enzyklika immer wieder auf: das „technokratische Paradigma„. Leo XIV. warnt davor, dass in einer Welt, die nur noch Effizienz und Gewinn als Maßstäbe kennt, der Mensch seinen Platz im Mittelpunkt verliert.
„Wenn Effizienz zur einzigen Messgröße wird, ist der Verlust des Menschlichen unvermeidlich.“
Ich kenne dieses Paradigma aus meiner eigenen Branche. KI-Anbieter, die versprechen: Ihr spart 80 Prozent der Personalkosten. Vollautomatisch. Skalierbar. Kein menschliches Eingreifen nötig.
Das ist ein verführerisches Versprechen. Und es ist gefährlich.
Nicht weil KI das nicht kann. Sondern weil es die falsche Frage ist.
Die richtige Frage lautet nicht: Wie viele Menschen kann ich durch KI ersetzen? Die richtige Frage lautet: Bei welchen Aufgaben kann KI Menschen so entlasten, dass diese mehr Zeit für das haben, was wirklich menschlich ist?
Ein Arzt, der nicht mehr selbst ans Telefon gehen muss, hat mehr Zeit für den Patienten vor ihm. Ein Handwerker, der nicht mehr auf dem Dach den Anruf verpasst, hat mehr Zeit für die Arbeit, die er gelernt hat. Ein Gastronom, der in der Stoßzeit nicht mehr zwischen Gast und Hörer wechseln muss, hat mehr Zeit für den Menschen am Tisch.
Das ist kein Effizienzversprechen. Das ist ein Menschlichkeitsversprechen.
„Verantwortlichkeiten müssen jederzeit klar sein“ – Accountability als Kernforderung
Kapitel 3 der Enzyklika trägt den Titel: „Technologie und Herrschaft. Die Größe der menschlichen Person angesichts der Versprechen der KI.“
Darin fordert der Papst drei Dinge, die mich direkt ansprechen:
Klare Verantwortlichkeiten (Accountability). Wer entscheidet, was die KI tut? Wer trägt die Konsequenzen, wenn etwas schiefläuft? Diese Fragen dürfen nicht im Dunkeln bleiben.
Aufklärung der Nutzer. Menschen müssen verstehen, womit sie es zu tun haben. Ein KI-System, das sich als Mensch ausgibt, ist keine Hilfe – es ist eine Täuschung.
Unabhängige Aufsicht. Kein Anbieter sollte allein über die Grenzen seiner eigenen Systeme entscheiden.
Ich könnte diese drei Punkte direkt in unsere Unternehmensphilosophie übernehmen. Tatsächlich haben wir sie bereits umgesetzt – nicht weil der Papst es fordert, sondern weil es das Einzige ist, das langfristig funktioniert.
Was wir bei mehrwertseminare konkret anders machen
Ich möchte an dieser Stelle konkret werden. Nicht um Werbung zu machen. Sondern weil Prinzipien nur dann etwas wert sind, wenn sie sich in der Praxis zeigen.
Transparenzpflicht als Überzeugung, nicht nur als Pflicht
Jeder unserer KI-Telefonagenten stellt sich zu Beginn jedes Gesprächs als KI vor. Das ist ab / seit dem 2. August 2026 Pflicht nach Art. 50 EU AI Act. Wir haben es aber bereits vorher eingebaut – weil wir der Überzeugung sind, dass kein Anrufer getäuscht werden darf. „Guten Tag, mein Name ist Sarah – ich bin die KI-Assistentin der Praxis“ ist kein Nachteil. Es ist Ehrlichkeit.
Accountability – wir übernehmen die Verantwortung
Sobald ein Unternehmen einen KI-Agenten einsetzt, ist es rechtlich ein „Deployer“ im Sinne des EU AI Acts. Das bedeutet: Schulungspflichten, Dokumentationspflichten, Haftungsfragen. Ein Bäcker, ein Arzt, ein Handwerker soll sich darum nicht kümmern müssen. Das ist unsere Aufgabe.
Wir überwachen kontinuierlich die aktuelle Rechtsprechung. Das OLG Hamm Urteil zur KI-Haftung vom Mai 2026? Bereits eingearbeitet. Neue Urteile werden umgehend in alle Agenten übertragen – ohne Mehrkosten für den Kunden.
Aufklärung der Nutzer – wir schulen unsere Kunden
Wer einen KI-Agenten von uns einsetzt bekommt nicht nur den Agenten. Er bekommt auch eine Einweisung in seine Rechte und Pflichten als Deployer. Was bedeutet Art. 4 EU AI Act für mein Unternehmen? Was muss ich meinen Mitarbeitern erklären? Was darf der Agent – und was nicht?
Das ist kein Serviceangebot. Das ist unsere Verantwortung als Anbieter.
Menschliche Grenzen respektieren
Jeder unserer Agenten hat eine klare Eskalationsregel: Sobald jemand ausdrücklich mit einem Menschen sprechen möchte, verbindet der Agent sofort weiter. Keine weitere Frage, keine Diskussion. Der Agent weiß was er kann – und was er nicht kann.
Bei Notfällen – Unfälle, medizinische Situationen – verlässt der Agent sofort den Servicemodus und leitet zur 112 weiter. Kein Versuch einer eigenen Einschätzung. Kein medizinischer Rat. Nur der direkte Weg zur Hilfe.
Das ist keine technische Einschränkung. Das ist eine bewusste Entscheidung.
„Kleine, sehr einflussreiche Gruppen können Informationen lenken“
Ein Satz aus der Enzyklika, der mich besonders beschäftigt hat:
„Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen.“
Das ist keine Verschwörungstheorie. Das ist eine Beschreibung der aktuellen Realität. Vier oder fünf Technologiekonzerne kontrollieren die KI-Infrastruktur, auf der wir alle aufbauen. Das ist eine Konzentration von Macht, die historisch beispiellos ist.
Was folgt daraus für uns?
Für mich persönlich folgt daraus eine klare Haltung: KI muss auch für den kleinen Handwerksbetrieb zugänglich sein. Für die Arztpraxis in der Kleinstadt. Für das Familienrestaurant. Nicht nur für Konzerne mit siebenstelligen IT-Budgets.
Genau das ist unser Geschäftsmodell. 299 Euro im Monat. Monatlich kündbar. In 72 Stunden live. Kein IT-Aufwand. Jahresvertrag auf Wunsch.
KI-Demokratisierung – nicht als Slogan, sondern als Geschäftsprinzip.
Was uns der Papst lehrt – und was wir schon wussten
Ich will ehrlich sein: Die Werte, die in „Magnifica Humanitas“ formuliert werden, sind nicht neu. Transparenz, Verantwortlichkeit, Menschenwürde, das Primat des Gemeinwohls über den Profit Einzelner – das sind alte Prinzipien. Sie waren schon vor dem EU AI Act richtig. Und sie waren schon vor dieser Enzyklika richtig.
Was der Papst leistet, ist etwas anderes. Er erinnert uns daran. Laut. Mit einer Autorität, die 1,4 Milliarden Menschen erreicht. In einem Moment, in dem die Versuchung groß ist, über diese Prinzipien hinwegzugehen – weil es schneller geht, weil es billiger ist, weil die Konkurrenz es auch so macht.
Das „technokratische Paradigma“ ist nicht nur eine Gefahr für die Gesellschaft. Es ist eine Versuchung für jeden der KI baut oder einsetzt.
Ich bin evangelisch. Aber ich bin froh, dass jemand mit dieser Stimme diese Erinnerung ausspricht!
Fazit: In principio erat Verbum
Das Bild zu diesem Artikel zeigt ein mittelalterliches Manuskript – „Im Anfang war das Wort“ – das sich in Binärcode verwandelt. Ein goldenes Kreuz das gleichzeitig eine Platine ist.
Es ist eine Provokation. Aber eine ernstgemeinte.
Im Anfang war das Wort. Und das Wort war bei Gott. Und das Wort war Gott.
Heute ist das Wort oft Code. Und der Code formt die Realität – welche Informationen wir sehen, welche Nachrichten wir lesen, wer unseren Anruf annimmt, wer unsere Bewerbung bewertet, wer unseren Kredit genehmigt.
Wer diesen Code schreibt, trägt Verantwortung. Nicht nur rechtlich. Ethisch.
„Magnifica Humanitas“ – die großartige Menschheit – ist ein Aufruf, diese Verantwortung anzunehmen. Nicht aus Angst vor Strafe. Sondern weil es das Richtige ist.
Wir versuchen es. Jeden Tag. Mit jedem Agenten.
Carsten Hirschberg ist Gründer von mehrwertseminare und baut KI-Telefonagenten für kleine und mittlere Unternehmen. EU AI Act konform. Transparent. Verantwortlich.
Mehr unter: mehrwertseminare.de
Die Enzyklika „Magnifica Humanitas“ ist kostenlos auf vatican.va in Deutsch und vielen weiteren Sprachen verfügbar.
Beitragsbilder: KI-generiert mit ChatGPT · #KIGeneriert