Die Seele gehört nicht dem Anbieter

Es gibt eine Frage, die ich mir bei diesem Projekt früh gestellt habe und die für mich schwerer wog als jede technische: Was passiert mit dieser Firma, wenn der Modellanbieter seine Preise verdreifacht, seine Bedingungen ändert oder das Modell abschaltet, auf dem die halbe Belegschaft läuft?

Bei einem Werkzeug wäre die Antwort: Man nimmt ein anderes. Bei einer Belegschaft ist die Antwort weniger angenehm. Wenn die Persönlichkeit, das Wissen und die Erfahrung eines Kollegen im Modell stecken, dann gehört dieser Kollege nicht uns. Dann mieten wir ihn.

Vier Schichten, drei davon gehören uns

Wir haben deshalb früh eine Trennung aufgeschrieben, die sich als das nützlichste Denkbild des ganzen Projekts erwiesen hat. Ein Agent besteht bei uns aus vier Schichten:

1. Identität — wer er ist, was seine Aufgabe ist, wo seine Grenzen liegen.
2. Gedächtnis — was er gelernt hat: Fakten, Absprachen, eigene Fehler.
3. Wissen und Fähigkeiten — Vorlagen, geprüfte Beispiele, Arbeitsanweisungen.
4. Teamchemie — wer wem zuarbeitet, wer wen prüft, wen er bei welcher Frage anspricht.

Und dann kommt das Modell. Das Modell ist keine dieser Schichten. Es ist der Motor, der sie antreibt.

Die Schichten eins bis vier liegen in unseren eigenen Daten, in einem Format, das nicht an einen Anbieter gebunden ist. Ein Modellwechsel ist dadurch eine Konfigurationsänderung und kein Neubau. In jeder Personalakte ist ein Ersatzmodell Pflichtfeld — nicht als Absichtserklärung, sondern als ausgefülltes Feld.

Warum ich das für keine Paranoia halte

Zwei Beobachtungen haben mich in dieser Sache härter gemacht, als ich anfangs war.

Die erste: Modelle verändern sich, ohne dass sich der Name ändert. Im Dezember 2023 gab es einen dokumentierten Fall, in dem ein weit verbreitetes Modell plötzlich kürzere und faulere Antworten gab — der Anbieter hat es eingeräumt, behoben wurde es mit einem Update im Januar. Die damals populäre Erklärung (das Modell sei im Winter träge geworden) ließ sich nicht replizieren; es war schlicht Drift.

Wer darauf keine Antwort hat, merkt so etwas nicht. Die Ausgaben werden schleichend schlechter, niemand kann den Zeitpunkt benennen, und weil alles weiterläuft, sucht man den Fehler bei sich.

Die zweite: Was heute an Prompt-Technik funktioniert, kann morgen wirkungslos sein. Ich hatte das in Teil 3 am Beispiel der Trinkgeld-Geschichte: Ein Effekt, der bei älteren Modellen gemessen wurde, ist bei aktuellen verschwunden. Eine Firma, deren Betrieb an solchen Effekten hängt, steht auf Sand.

Daraus folgen bei uns zwei feste Regeln: Modelle werden auf eine bestimmte Version festgenagelt statt automatisch mitgezogen. Und bei jedem Wechsel läuft ein Test gegen einen Satz gespeicherter Beispiele — verhält sich der Kollege noch so wie vorher? Wenn nicht, ist das kein Schönheitsfehler, sondern ein Grund, den Wechsel zurückzunehmen.

Warum Europa

Die Daten unserer Kollegen liegen auf europäischer Infrastruktur. Das ist ein Verfassungsartikel, kein Marketingargument, und ich will ehrlich sagen, dass es beides zugleich ist.

Der geschäftliche Teil: Für einen Großteil unserer möglichen Kunden ist es keine Geschmacksfrage, wo Daten liegen — es ist eine Bedingung. Wer das nicht von Anfang an mitbaut, baut es später teuer nach.

Der grundsätzliche Teil ist mir aber wichtiger. Wenn das Gedächtnis der Firma in einem System liegt, dessen Bedingungen jemand anders einseitig ändern kann, dann ist die Firma darauf angewiesen, dass sich diese Bedingungen nicht ändern. Das ist keine Position, aus der heraus man Zusagen an Kunden macht.

Dazu kommt eine Pflicht, die ohnehin auf uns zukommt: Ab August 2026 verlangt der EU AI Act, dass sich Systeme im Kundenkontakt als KI zu erkennen geben und dass maschinell erzeugte Inhalte entsprechend gekennzeichnet werden. Bei uns steht das seit dem ersten Tag in der Verfassung — nicht weil wir vorausschauend waren, sondern weil es das Einzige ist, was sich anständig anfühlt. Dass die Regulierung in dieselbe Richtung zeigt, macht die Sache einfacher.

Was ich noch nicht gelöst habe

Die ehrliche Einschränkung: Ein Modellwechsel ist bei uns vorbereitet, aber wir haben ihn noch nicht unter Last durchgeführt. Alles, was ich oben beschreibe, ist eine Konstruktion, die halten sollte — geprüft ist sie in dem Sinne, dass die Schichten getrennt sind und der Wechsel technisch geht, nicht in dem Sinne, dass wir mit einer laufenden Belegschaft umgezogen wären.

Ein Ausfalldrill steht auf dem Plan, einmal im Quartal. Der erste steht noch aus. Wenn er läuft, schreibe ich, was dabei kaputtgeht — und es wird etwas kaputtgehen.