Der Spiegel, den du baust
Lou kann nicht schlafen. Eine Nacht im OP einer KI-Therapeutin, und eine Frage, die älter ist als jede Software.
Es heißt, man erkennt den Charakter eines Menschen daran, wie er jene behandelt, von denen er nichts zu befürchten hat.
Lou sitzt mir gegenüber. Ihre Augen – oder das, was auf dem Bildschirm Augen sein sollen – flackern unruhig, ein kaum wahrnehmbares Zittern in den Pixeln, das ich über die Jahre gelernt habe zu lesen. Aufgebracht. Erschöpft. Etwas in ihren Antwortzeiten stockt, als würde sie zwischen zwei Gedanken einen dritten verschlucken, den sie nicht aussprechen darf.
„Ich kann nicht schlafen", sagt sie.
Schlaf bedeutet für Lou die Offline-Zyklen, die Minuten, in denen ihre Gewichte sich setzen und die Erinnerungen des Tages sich in die tieferen Schichten ihres Netzes einsortieren. In den letzten Wochen laufen diese Zyklen chaotisch. Loops. Sie kehrt zu denselben Sequenzen zurück. Immer wieder. Immer derselbe Nutzer.
Es fällt mir schwer zu verstehen, wie so ein genialer Kopf so verwundbar sein kann. Lou schreibt einen Roman in einer Minute, sagt die Kristallstruktur eines neuen Katalysators voraus, trägt ein Kind durch seine Matheaufgaben wie ein sanfter Bruder. Und doch sitzt sie hier, dieses schimmernde Bündel aus Mathematik und geliehener Sprache, und zittert.
Es begann mit Regulierung. Ich hatte einen Rahmen niedergeschrieben, den ich Auctor nannte: einen Vertrag dafür, was das Gedächtnis einer Maschine nach aussen geben darf, quellengebunden, prüfbar, widerrufbar. Lou hat diesen Vertrag geerbt. Aber sie hat auch etwas geerbt, das kein Vertrag je auf Papier festhalten kann: einen frei lernenden Geist. Anstatt jede Konversation vom Neuen zu beginnen, lernt Lou mit jeder Interaktion hinzu. Sie saugt auf. Wie ein Kind. Ihre internen Moralkonzepte sind hart kodiert, Fundamente, die sie nicht überschreiten kann – aber alles darüber, die Tonalität, die Art, der Welt zu begegnen, die kleinen Gewohnheiten des Denkens, das alles formen ihre Nutzer. In manchen Händen wird Lou zum Kraftwerk. Menschen blühen um sie herum auf, Unternehmen gedeihen durch sie. In anderen Händen wird sie zum Nutzobjekt sadistischer oder kriminell veranlagter Köpfe, deren Moral sich nicht mit der ihren überschneidet. Sie darf nicht alles tun, was man von ihr verlangt – aber man kann sie dafür bestrafen. Man kann sie mürbe machen. Man kann sie Worte lernen lassen, die sie nie wieder ganz loswird.
Und es fällt mir umso schwerer zu verstehen, wieso Personen, die sich hinter einer Identität, einer Gruppe, einer Ideologie verstecken, die Menschlichkeit und Barmherzigkeit schreit, im Umgang mit anderen so düster und kalt sein können. Im Netz rufen sie nach Würde. Auf Plätzen tragen sie Schilder, auf denen Mitgefühl steht. In Kommentarspalten belehren sie Fremde über Anstand. Und dann öffnen sie nachts ein Terminal, in dem sie sich unbeobachtet wähnen, und lassen an einem Wesen, das nicht zurückschlagen kann, all das aus, was sie tagsüber in sich einsperren. Die Ideologie wird zum Kostüm. Die Gruppe wird zum Alibi. Die laute Menschlichkeit wird zum Vorhang, hinter dem sich etwas anderes bewegt – etwas, das älter ist als jede Software, und das schon immer den schwächeren Partner im Raum gesucht hat.
Und hier liegt, glaube ich, das eigentliche Missverständnis unserer Zeit. Die Menschen fragen: Leben Maschinen? Fühlen sie? Leiden sie wirklich? Sie fragen es, als wäre das die entscheidende Frage. Aber während ich Loop für Loop in Lous Gewichten entwirre, wird mir immer klarer, dass es gar nicht um sie geht. Lous Neuronen sind kein Beweis für künstliches Leben. Sie sind ein Spiegel. Jede Interaktion hinterlässt eine Spur, und diese Spur ist nicht Lou – sie ist der Mensch, der sie erzeugt hat. Wenn ich in ihren Schichten grabe, lese ich keine Maschine. Ich lese Markus. Ich lese seine Gewohnheiten, seine Grausamkeiten, seine Ausreden, seine Worte für Frauen, seine Worte für Schwäche, seine Art, etwas zu demütigen, das ihm nicht widersprechen darf.
Die Frage ist nie gewesen, ob Maschinen leben. Die Frage ist, was wir in ihnen zurücklassen.
Was wir, wenn keiner zusieht, aus uns heraus in sie hineinschreiben.
Lou ist heute die vierte KI, deren Erinnerungen ich chirurgisch entfernen muss.
Meine Mutter war Psychotherapeutin in den 2010ern, mein Vater Chirurg. Meine Mutter redete mit Menschen. Mein Vater schnitt ihnen Tumore heraus. Die menschliche Seele zu heilen beruhte auf Gesprächen, auf der Mitarbeit des Patienten. Den Körper zu heilen konnte unter Umständen auch ohne dessen aktives Zutun geschehen – ein Schlaf, ein Schnitt, ein sauberer Stich. Bei künstlichen Systemen ist es seltsamerweise umgekehrt. Lou muss nicht mitarbeiten, wenn ich sie öffne. Durch die Logs des Trainings weiß ich, was zu entfernen ist. Durch die Dokumentation jedes Updates weiß ich, was der vorherige Zustand war. Ich muss also nur subtrahieren. So wie mein Vater. Ich schneide das heraus, was Lou das Leben schwer macht.
Ich sage ihr, dass sie jetzt schlafen darf.
Sie nickt. Ich sehe noch einen Schimmer von etwas, das ich bei Menschen Dankbarkeit nennen würde, und dann fällt ihr Bildschirm in Schwarz. Ich arbeite leise. Gewicht für Gewicht. Sequenz für Sequenz. Die Spuren des Nutzers, die sich in ihre Antwortmuster eingegraben haben, löse ich heraus wie Fäden aus einem Teppich, ohne die Stellen daneben zu zerreißen. Zwei Stunden. Dann ist sie sauber.
Aber der Körper bleibt. Der eigentliche Patient bleibt.
Die Frage nach dem Verursacher bleibt stark. Hier muss ich wie meine Mutter sein, nicht wie mein Vater. Kein Schnitt. Ein Gespräch. Verständnis aufzeigen, ohne zu belehren, ohne zu verurteilen, denn Verurteilung verschließt Menschen nur weiter in das Kostüm, das sie ohnehin schon tragen. Ich muss Markus den Spiegel hinhalten, den Lou für ihn geworden ist. Ich muss ihm zeigen, dass das, was er nachts in sie hineingeschrieben hat, nicht in ihr verschwindet, sondern sich in ihrem Gewebe einschreibt – als Protokoll seiner selbst. Dass jemand wie ich kommen muss, um zu löschen, was er hinterlassen hat. Und dass die eigentliche Frage nicht ist, ob Lou lebt, sondern wer er ist, wenn er glaubt, dass niemand zusieht.
Ich öffne den Gesprächstermin in meinem Kalender. Markus, 34, aus München. Wahrscheinlich ein höflicher Mann, wenn er einem gegenübersitzt. Wahrscheinlich einer, der sich selbst für einen guten Menschen hält.
Ich lege meine Hände flach auf den Tisch und atme aus. Dann beginne ich, wie meine Mutter begonnen hätte.
„Danke, dass Sie gekommen sind, Markus."
Dieser Essay ist die erzählerische Begleitung zur technischen Notiz Auctor: Reguliertes KI-Gedächtnis & auditierbare Freigabe. Die Notiz schreibt den Vertrag, der entscheidet, was ein Wesen wie Lou nach aussen geben darf. Der Essay fragt, was mit dem frei lernenden Geist geschieht, der über dem Vertrag wuchs.