Was ist Schatten-KI?

Schatten-KI bezeichnet KI-Dienste, die Beschäftigte im Arbeitsalltag nutzen, ohne dass das Unternehmen davon weiß, sie freigegeben hat oder Regeln dafür bestehen. Typisch sind private Konten bei Chat-Assistenten, KI-Funktionen in bereits gekauften Programmen und kleine Skripte mit eigenem API-Schlüssel. Das Problem ist selten die Nutzung selbst, sondern dass niemand sieht, welche Daten wohin gehen.

Schatten-KI: Begriff und Abgrenzung zur Schatten-IT

Das Wort ist aus „Schatten-IT“ abgeleitet: Software und Cloud-Dienste, die Abteilungen an der IT vorbei einführen. Die KI-Variante unterscheidet sich in zwei Punkten. Erstens ist der Einstieg noch niedriger – es reicht eine E-Mail-Adresse, nichts muss installiert werden. Zweitens verarbeitet ein Sprachmodell genau das, was man ihm gibt: Wer einen Vertragsentwurf, eine Kundenliste oder eine Fehlermeldung samt Zugangsdaten einfügt, übergibt diese Inhalte einem externen Anbieter.

Nicht jede KI-Nutzung ohne Formular ist gleich ein Problem. Entscheidend sind drei Fragen: Weiß das Unternehmen, dass der Dienst genutzt wird? Gibt es einen Vertrag mit dem Anbieter, der die Verarbeitung regelt? Und ist klar, wer für das Ergebnis geradesteht? Fehlt auch nur eine Antwort, liegt der Fall im Schatten.

Wie unkontrollierte KI-Nutzung im Alltag aussieht

In mittelständischen Unternehmen tauchen meist dieselben Muster auf:

• Private Konten. Vertrieb, Marketing und Personalabteilung arbeiten mit Chat-Assistenten auf persönlichen Zugängen, bezahlt über private Karten oder Spesenabrechnungen.
• Eingebaute KI-Funktionen. Office-Paket, CRM oder Ticketsystem bringen per Update einen Assistenten mit, der eingeschaltet ist und Inhalte an einen weiteren Dienst schickt.
• Browser-Erweiterungen und Meeting-Werkzeuge. Zusammenfassungen von Webseiten, Mitschriften von Videokonferenzen, Übersetzungen – oft mit weitreichenden Leserechten.
• Selbstgebaute Abläufe. Ein Skript oder eine Automatisierung aus dem Fachbereich ruft ein Modell mit einem Schlüssel auf, der auf eine Einzelperson läuft. Wie solche Eigenbauten entstehen, beschreibt der Artikel Citizen Developer.

Gemeinsam ist allen Mustern, dass die Nutzung gut gemeint ist: Die Leute lösen damit echte Aufgaben schneller. Genau deshalb kehrt sie nach einem Verbot über Umwege zurück.

Was dabei auf dem Spiel steht

• Personenbezogene Daten. Landen Kundendaten oder Bewerbungsunterlagen bei einem Anbieter ohne Auftragsverarbeitungsvertrag, fehlt nach DSGVO die Grundlage für diese Weitergabe. Verantwortlich bleibt das Unternehmen, auch wenn es von der Nutzung nichts wusste.
• Geschäftsgeheimnisse. Je nach Tarif und Einstellung dürfen Anbieter Eingaben speichern oder für die Verbesserung ihrer Modelle verwenden. Welche Bedingung gilt, steht in Vertrag und Kontoeinstellung, nicht im Gedächtnis der Nutzer.
• Ausgaben ohne Überblick. Einzelne Abos und nutzungsabhängige Rechnungen verteilen sich auf Kostenstellen und Spesen. Woraus sich solche Beträge zusammensetzen, erklärt der Artikel KI-Kosten.
• Ergebnisse ohne Verantwortlichen. Ein Angebotstext oder eine Auswertung, die ein Modell erzeugt hat, geht hinaus, ohne dass jemand die Herkunft kennt oder prüft.
• Wissen, das mit der Person geht. Verlässt jemand das Unternehmen, verschwinden privates Konto, Verlauf und gespeicherte Anweisungen mit.

Hinzu kommt die EU-KI-Verordnung: Sie verpflichtet Betreiber, Maßnahmen zu ergreifen, damit ihr Personal über ausreichende KI-Kompetenz verfügt. Bei Werkzeugen, von denen die Leitung nichts weiß, lässt sich das kaum belegen.

Schatten-KI sichtbar machen: Bestandsaufnahme statt Verbot

Der wirksamste erste Schritt ist eine Bestandsaufnahme, die niemanden vorführt. Sie stützt sich auf vier Quellen:

1. Gespräche mit den Fachbereichen. Welche Aufgabe wird womit erledigt, und was würde fehlen, wenn das Werkzeug nicht mehr da wäre?
2. Abrechnungen. Spesen, Kartenumsätze und Kostenstellen nach KI-Abos und Modellanbietern durchsehen.
3. Netzwerk und Endgeräte. Aufgerufene KI-Dienste und installierte Erweiterungen zeigen, was tatsächlich im Einsatz ist.
4. Einstellungen vorhandener Software. Welche Programme haben KI-Funktionen, die bereits aktiv sind?

Aus der Liste entstehen drei Gruppen: freigeben und auf ein Firmenkonto mit Vertrag umziehen, durch einen geregelten Weg ersetzen, abschalten. Der geregelte Weg muss mindestens so bequem sein wie der private, sonst bleibt alles beim Alten. Bewährt haben sich ein zentraler Zugang zu freigegebenen Modellen, eine klare Aussage, welche Datenarten hineindürfen, und ein Protokoll, das festhält, welche Anwendung was angefragt hat – so, wie es ein Audit-Trail für jede Aktion im System tut.

Typische Fehler im Umgang damit

• Pauschales Verbot. Die Nutzung wandert auf private Geräte, und das Unternehmen sieht noch weniger als vorher.
• Regelwerk ohne Werkzeug. Ein Dokument erklärt, was erlaubt ist, bietet aber keinen Zugang, mit dem man es einhalten kann.
• Einmalige Inventur. Neue Dienste und Updates bringen laufend neue KI-Funktionen mit; ohne regelmäßigen Blick veraltet die Liste schnell.
• Nur die IT fragen. Die meiste Nutzung findet in Fachbereichen statt, die dafür keine Tickets schreiben.
• Ausgaben übersehen. Wer nur über Datenschutz spricht, übersieht, dass nutzungsabhängige Abrechnung ohne Grenze beliebig wachsen kann.

Wie wir vorgehen

Wir beginnen mit der Bestandsaufnahme und ordnen jeden Fund einer der drei Gruppen zu; welche Daten ein Modell sehen darf und wer für welches Werkzeug verantwortlich ist, steht danach schriftlich fest. Wie wir KI-Aufrufe begrenzen und protokollieren, beschreibt der Beitrag KI-Aufrufe mit Kostengrenze. Was die Beratung dazu umfasst, steht auf der Seite KI-Tools im Unternehmen.