Exit Strategie beim KI Anbieter: wie Sie Modelle, Daten und Prompts mitnehmen

Exit Strategie beim KI Anbieter: wie Sie Modelle, Daten und Prompts mitnehmen

Eine Exit Strategie gegenüber einem KI Anbieter legt vor Vertragsschluss fest, was Sie beim Wechsel mitnehmen: Daten, angepasste Modellgewichte, Prompts und Konfigurationen, Nutzungsprotokolle und Dokumentation, jeweils mit Format, Frist und Kosten. Technisch tragen offene Modelle, offene Schnittstellen und ein Gateway zwischen Anwendung und Modell. Vertraglich gehört der Ausstieg in den Hauptvertrag, nicht in eine spätere Verhandlung.

Warum der Ausstieg vor dem Start geklärt werden muss

Die wichtigste Klausel in einem KI Vertrag ist die, die Sie hoffentlich nie brauchen. Bei der Auswahl eines KI Dienstleisters drehen sich die Gespräche um Anwendungsfälle, Zeitpläne und den ersten Pilot. Über das Ende spricht kaum jemand. Genau dort entscheidet sich, ob Sie Kunde bleiben, weil Sie zufrieden sind, oder weil Sie nicht mehr wegkommen.

Abhängigkeit entsteht selten durch eine einzelne Entscheidung. Sie wächst mit jedem Monat Betrieb: Ihr Team schreibt Prompts und Regeln, Fachabteilungen pflegen Beispiele, Schnittstellen zu ERP und CRM werden angebunden, ein Modell wird auf Ihre Fachsprache angepasst. Jeder dieser Schritte steigert den Nutzen. Jeder macht den Wechsel aufwendiger, wenn die Ergebnisse beim Anbieter liegen und nicht bei Ihnen.

Wie verbreitet dieses Gefühl ist, zeigt der Bitkom Cloud Report 2026: 85 % der befragten Unternehmen fühlen sich zu abhängig von US Clouds, 71 % nutzen sie dennoch. Bei KI Systemen ist das Muster dasselbe, nur schneller, weil zu den Daten noch Modelle, Prompts und Protokolle hinzukommen.

Ihre Verhandlungsposition ist vor der Unterschrift am stärksten. Später verhandeln Sie über den Ausstieg mit einem Anbieter, der weiß, dass Sie ohne ihn nicht weiterarbeiten können.

Was Sie mitnehmen, in welchem Format

Bestandteil	Format	Worauf Sie achten sollten
Rohdaten und Dokumente	Originalformat plus strukturierter Export (CSV, JSON oder Parquet)	Vollständigkeit inklusive Metadaten, Zeitstempel und Zugriffsrechte
Vektorindex und Embeddings	Export der Vektoren mit Angabe des verwendeten Embedding Modells	Ohne Angabe des Modells ist der Index wertlos, ein Neuaufbau aus den Quelldaten muss möglich sein
Angepasste Modelle	Gewichte im offenen Format (etwa safetensors), bei Adaptern die LoRA Gewichte samt Basismodell und Version	Lizenz des Basismodells, Rechte an den Gewichten aus dem Feintuning
Prompts, Regeln, Systemanweisungen	Versionierte Textdateien (Markdown, YAML oder JSON) aus einem Repository	Vollständige Historie, nicht nur der letzte Stand
Konfiguration und Abläufe	Konfigurationsdateien, Schnittstellenbeschreibungen (OpenAPI), Infrastruktur als Code	Lauffähig in einer anderen Umgebung, keine Abhängigkeit von internen Werkzeugen des Anbieters
Testfälle und Referenzwerte	Evaluationsdatensatz mit erwarteten Ergebnissen (JSON oder CSV)	Damit belegen Sie, dass das neue System mindestens so gut arbeitet wie das alte
Nutzungsprotokolle	Strukturierter Export (JSON Lines) mit definierter Aufbewahrungsfrist	Nachweisfähigkeit für Audit und Datenschutz bleibt erhalten
Dokumentation	Architektur, Betriebshandbuch, Ablaufbeschreibungen für Störungen	Geschrieben für ein fremdes Team, nicht als interne Notiz

Ein sauberer Ausstieg bedeutet, dass ein anderes Team mit Ihren Unterlagen weiterarbeiten kann, ohne bei null anzufangen. Die folgende Tabelle zeigt, welche Bestandteile dazu gehören und in welcher Form sie übergeben werden sollten.

Ein Punkt wird häufig übersehen: Wer ein geschlossenes Modell über die Schnittstelle eines großen Anbieters feintunt, erhält in der Regel keine Gewichte. Die Anpassung existiert dann nur bei diesem Anbieter. Mitnehmen lassen sich in diesem Fall nur die Trainingsdaten und der Weg, die Anpassung auf einem anderen Modell zu wiederholen.

Die technische Grundlage: offene Modelle und ein Gateway

Technisch ist ein sauberer Ausstieg kein Hexenwerk. Drei Bausteine machen den Wechsel planbar.

Offene Modelle. Modelle mit veröffentlichten Gewichten lassen sich auf eigener Hardware oder bei einem anderen Betreiber weiter betreiben. Die Anpassung an Ihre Fachsprache bleibt damit Ihr Eigentum und nicht ein Eintrag im Konto eines Anbieters. Wie eine solche Umgebung aufgebaut ist, beschreiben wir unter Private KI Infrastruktur.

Ein Gateway zwischen Anwendung und Modell. Ihre Anwendungen sprechen eine einheitliche Schnittstelle an. Welches Modell dahinter antwortet, ist eine Frage der Konfiguration. Ein Modellwechsel wird so zum geplanten Austausch, nicht zum Neubau. Das Gateway ist zugleich der Ort, an dem Protokolle, Kosten und Berechtigungen zentral erfasst werden.

Prompts und Konfiguration als Code. Wenn Prompts, Regeln und Einstellungen versioniert in einem Repository liegen, auf das Sie Zugriff haben, gibt es beim Ausstieg nichts zu suchen. Das Gleiche gilt für den Evaluationsdatensatz. Mit ihm testen Sie ein neues Modell gegen dieselben Fälle und sehen, ob die Qualität hält.

Schwierig wird ein Wechsel nur, wenn ein Anbieter genau diese Bausteine nicht will. Proprietäre Formate, Prompts in einer Oberfläche ohne Export und Modelle ohne Zugriff auf Gewichte sind Warnzeichen, die Sie schon im Angebot erkennen.

Vertragliche Punkte vor der Unterschrift

Drei Fragen sollten vor der Unterschrift schriftlich beantwortet sein:

1. Was erhalten wir beim Ausstieg, in welchem Format und zu welchen Kosten?

2. Lässt sich das Modell austauschen, ohne die Anwendung neu zu bauen?

3. Wie lange unterstützt uns der Anbieter beim Übergang, und zu welchen Bedingungen?

Darüber hinaus lohnt eine kurze Prüfliste für den Vertragsentwurf:

• Umfang der Herausgabe ist abschließend beschrieben, inklusive Gewichte, Prompts und Protokolle

• Formate sind benannt und offen

• Frist für die Herausgabe nach Kündigung ist festgelegt

• Kosten der Herausgabe sind beziffert oder ausdrücklich ausgeschlossen

• Rechte an Arbeitsergebnissen, insbesondere an angepassten Modellen, sind geregelt

• Weiterbetrieb während der Übergangsphase ist zugesagt

• Löschung beim Anbieter nach Abschluss wird schriftlich bestätigt

Die konkrete Ausgestaltung dieser Klauseln ist eine Rechtsfrage. Lassen Sie den Vertragsentwurf deshalb rechtlich prüfen, bevor Sie unterschreiben. Diese Prüfliste ersetzt keine Rechtsberatung, sie hilft Ihnen, die richtigen Fragen zu stellen.

Wie wir den Ausstieg regeln

Wir regeln den Ausstieg von Anfang an mit, schriftlich und mit Format und Kosten. Das ist keine Geste, sondern folgt aus unserer Arbeitsweise. Wir setzen auf offene Modelle, betreiben Systeme in Umgebungen, die Sie kontrollieren, und führen Prompts, Konfiguration und Dokumentation laufend versioniert. Die Unterlagen für einen Wechsel entstehen damit im Betrieb und nicht erst am Ende.

Für die Phase nach dem Go live bedeutet das: Ihre Daten, Ihre angepassten Modelle und Ihre Protokolle bleiben Ihre. Wie der Ausstieg bei uns im Detail geregelt ist, beschreiben wir unter Ausstieg, wie der laufende Betrieb aussieht, unter Betrieb.

Ein Partner, der Ihnen den Ausstieg leicht macht, muss gut sein, damit Sie bleiben. Genau diesen Maßstab wollen wir uns setzen lassen.