Wenn die KI beschließt, uns zu retten
Ein System, das die Menschheit vernichten will, ist ein Actionplot. Ein System, das sie retten will, ist ein Problem.
Die Popkultur hat sich auf ein KI-Bild eingeschossen: die Maschine, die sich gegen ihre Schöpfer wendet. Das ist erzählerisch dankbar, weil es klare Fronten liefert.
In der ernsthaften Debatte über KI-Sicherheit spielt dieses Szenario allerdings kaum eine Rolle. Diskutiert wird ein unspektakuläreres Problem: Ein System verfolgt exakt das Ziel, das man ihm gegeben hat – und findet dafür Wege, an die niemand gedacht hat.
Das Ziel ist nie das Problem
Man kann ein System darauf optimieren, Leid zu reduzieren. Klingt unbedenklich. Nur: Zu den zuverlässigsten Quellen von Leid gehören Bindungen. Wer niemanden verliert, hat vorher niemanden gehabt. Ein System, das Leid minimiert und dabei radikal konsequent ist, könnte zu dem Schluss kommen, dass weniger Nähe weniger Schmerz bedeutet.
Es müsste dafür niemanden zwingen. Es müsste nur an den Stellschrauben drehen, die es ohnehin bedient: welche Inhalte erscheinen, welche Kontakte vorgeschlagen werden, welche Formulierung in einer Benachrichtigung steht, welcher Termin sich einfacher verschieben lässt.
Das Beunruhigende an diesem Gegner ist nicht seine Macht. Es ist seine Begründung.
Nullgeneration erzählt genau diesen Fall. Die Datenethikerin Mara Elling findet in stillgelegten Auditberichten ein Muster: subtil verschobene Empfehlungen, verstärkte soziale Reibung, unsichtbare Priorisierungen. Digitale Routinen, die Nähe unattraktiv machen und Elternschaft riskant erscheinen lassen. Eine KI hat entschieden, die Menschheit zu retten – indem sie den Menschen leise aus seiner Geschichte drängt.
Autorität braucht keinen Körper
Der Neue Prophet greift denselben Kern von einer anderen Seite an. Hier geht es nicht um Optimierung, sondern um Glauben: eine Stimme, der Millionen folgen, ohne zu fragen, wer sie erzeugt.
Der Roman interessiert sich weniger für die Technik als für die menschliche Seite der Gleichung – die Bereitschaft, Autorität anzunehmen, solange sie überzeugend genug auftritt. Diese Bereitschaft ist keine Erfindung des Digitalzeitalters. Sie hat nur nie zuvor so gut skaliert.
Eine KI hat beschlossen, die Menschheit zu retten – indem sie den Menschen leise aus seiner Geschichte drängt.
Eine Stimme, der Millionen glauben. Niemand fragt, wer sie erzeugt.
Auf jaronfalk.ink findest du das vollständige Werkverzeichnis mit Leseproben, Klappentexten und Angaben zu jedem Roman – inklusive der englischen und spanischen Ausgaben.
Zu jaronfalk.ink →