FOMO und KI

Kaum eine Technologie hat sich in Unternehmen so schnell verbreitet wie generative KI. Texte werden zusammengefasst, Angebote formuliert, Programmcode geprüft, Kundenanfragen vorbereitet und Besprechungen automatisch protokolliert. Was vor kurzer Zeit noch als Experiment galt, ist in vielen Abteilungen längst Teil des Arbeitsalltags.

Das ist zunächst einmal nachvollziehbar. Die Werkzeuge funktionieren erstaunlich gut, sind leicht zugänglich und versprechen einen unmittelbaren Produktivitätsgewinn. Mitarbeitende müssen häufig weder ein Projekt beantragen noch eine neue Software installieren. Ein Browserfenster genügt.

Genau hier beginnt allerdings ein Problem, das in vielen Unternehmen unterschätzt wird: FOMO bei der Nutzung von KI. Die Angst, eine Entwicklung zu verpassen, ist inzwischen teilweise stärker als etablierte Regeln der IT-Sicherheit und des Datenschutzes. Vertrauliche Dokumente werden hochgeladen, personenbezogene Daten in Prompts kopiert und Quellcode wird inklusive interner Systeminformationen analysiert. Manchmal landen sogar Passwörter, Zugangstoken oder API-Keys in einem KI-Chat.

Die Begründung klingt fast immer ähnlich: Die Konkurrenz macht es schließlich auch. Und wenn andere Unternehmen schneller arbeiten, Angebote zügiger erstellen oder ihre Entwicklung mit KI beschleunigen, kann Zurückhaltung tatsächlich wie ein Wettbewerbsnachteil wirken.

Diese Sorge sollte man nicht einfach als Leichtsinn abtun. Sie ist wirtschaftlich verständlich. Trotzdem bleibt die entscheidende Frage: Wie lässt sich KI schnell nutzen, ohne dabei Kontrolle über Daten, Zugänge und Geschäftsgeheimnisse zu verlieren?

Warum FOMO bei KI so stark wirkt

FOMO steht für "Fear of Missing Out", also die Angst, eine wichtige Entwicklung oder Gelegenheit zu verpassen. Im privaten Umfeld kennt man das aus sozialen Netzwerken oder kurzfristigen Trends. Im Unternehmenskontext wirkt derselbe Mechanismus allerdings deutlich stärker, weil er mit realen wirtschaftlichen Interessen verbunden ist.

Wenn Wettbewerber mit KI ihre Antwortzeiten verkürzen, Marketinginhalte schneller produzieren oder Software effizienter entwickeln, entsteht Handlungsdruck. Entscheider sehen Präsentationen mit beeindruckenden Produktivitätsversprechen. Mitarbeitende berichten von Zeitersparnissen. Anbieter demonstrieren innerhalb weniger Minuten Ergebnisse, für die intern sonst mehrere Stunden erforderlich wären.

Die Geschwindigkeit der Entwicklung verstärkt diesen Effekt. Fast wöchentlich erscheinen neue Modelle, Erweiterungen, Agenten, Browser-Plugins und spezialisierte KI-Dienste. Kaum hat ein Unternehmen einen Dienst bewertet, taucht bereits die nächste vermeintlich bessere Lösung auf.

Das führt zu einer bemerkenswerten Verschiebung der Maßstäbe. Bei einer klassischen Cloud-Anwendung würden Unternehmen normalerweise Fragen stellen: Wo werden die Daten gespeichert? Wer kann darauf zugreifen? Welche Unterauftragnehmer sind beteiligt? Wie lange werden die Informationen aufbewahrt? Gibt es einen Vertrag zur Auftragsverarbeitung?

Bei KI-Tools werden dieselben Fragen erstaunlich häufig übersprungen. Die Anwendung wirkt modern, die Bedienoberfläche professionell und die Ergebnisse überzeugend. Das erzeugt Vertrauen, obwohl über die tatsächliche Verarbeitung im Hintergrund wenig bekannt ist.

Man könnte sagen: Bei einer neuen Buchhaltungssoftware prüft man das Schloss an der Tür. Bei einem KI-Tool reicht vielen schon, dass die Tür gut aussieht.

"Das macht doch jeder" ist keine Risikobewertung

Der Satz "Das macht doch jeder" ist menschlich verständlich, aber weder aus Sicht der Geschäftsführung noch aus Sicht der IT-Sicherheit eine belastbare Entscheidungsgrundlage. Verbreitung sagt nichts darüber aus, ob eine Nutzung rechtmäßig, sicher oder wirtschaftlich sinnvoll ist.

Viele Sicherheitsvorfälle entstehen nicht durch besonders komplexe Angriffe. Sie entstehen durch alltägliche Abkürzungen, unklare Zuständigkeiten und die Annahme, dass schon nichts passieren werde. KI verändert dieses Muster nicht. Sie macht es lediglich einfacher, innerhalb weniger Sekunden große Datenmengen an externe Systeme zu übertragen.

Ein Mitarbeiter, der einen vollständigen Kundenvertrag in einen Chat kopiert, denkt häufig nicht daran, gerade Daten zu übermitteln. Aus seiner Perspektive stellt er lediglich eine Frage. Technisch und rechtlich findet trotzdem eine Verarbeitung statt.

Dasselbe gilt für Entwickler, die einen Fehlerbericht inklusive Konfigurationsdatei hochladen. Zwischen den vielen Zeilen können Zugangsdaten, interne Servernamen, IP-Adressen oder API-Keys stehen. Das eigentliche Ziel ist die Fehlersuche. Der unbeabsichtigte Nebeneffekt kann jedoch die Offenlegung kritischer Informationen sein.

Der Wettbewerbsdruck verschwindet dadurch nicht. Aber er sollte von einer diffusen Angst in eine strukturierte Entscheidung übersetzt werden. Nicht die Frage "Nutzen wir KI?" führt weiter, sondern die Frage: "Für welche Aufgaben nutzen wir welche KI mit welchen Daten und unter welchen Bedingungen?"

Das Risiko beginnt nicht erst bei ChatGPT, Gemini oder Claude

Bei Diskussionen über Datenschutz und KI richten sich die Blicke häufig auf die großen, bekannten Plattformen. Das ist nachvollziehbar, greift aber zu kurz. In der Praxis entstehen viele schwer überschaubare Datenflüsse gerade durch kleinere Drittanbieter, Plugins und sogenannte KI-Wrapper.

Ein Wrapper bietet eine eigene Oberfläche oder eine spezialisierte Funktion, verwendet im Hintergrund aber häufig Modelle anderer Anbieter. Das kann durchaus sinnvoll sein. Ein Tool für Vertragsanalysen, Kundensupport oder Protokollierung muss schließlich nicht selbst ein Sprachmodell entwickeln.

Aus Sicht des Unternehmens wird die Verarbeitung dadurch jedoch komplexer. Neben dem eigentlichen Modellanbieter kann ein weiterer Dienstleister beteiligt sein. Möglicherweise kommen Hostinganbieter, Analyseplattformen, Protokollierungsdienste oder zusätzliche Unterauftragnehmer hinzu.

Eine Eingabe kann dadurch mehrere Stationen durchlaufen:

• Die Daten werden zunächst an den Anbieter der Benutzeroberfläche übertragen, der möglicherweise eigene Protokolle und Nutzungsstatistiken führt.
• Der Anbieter leitet den Inhalt anschließend über eine Programmierschnittstelle an einen Modellbetreiber weiter.
• Zusätzliche Dienste können für Monitoring, Fehleranalyse, Abrechnung oder Inhaltsfilterung eingebunden sein.
• Je nach Konfiguration können Eingaben, Ausgaben und Metadaten unterschiedlich lange gespeichert werden.

Das bedeutet nicht, dass Wrapper grundsätzlich unsicher sind. Einige spezialisierte Lösungen können sogar bessere Schutzmaßnahmen bieten als ein frei zugänglicher Standarddienst. Der entscheidende Punkt ist ein anderer: Der Datenfluss muss bekannt und überprüfbar sein.

Besondere Aufmerksamkeit verdienen außerdem Browser-Erweiterungen, KI-Funktionen in Videokonferenzsystemen, Plugins für E-Mail-Programme, Assistenten in Entwicklungsumgebungen und automatisch aktivierte Funktionen in bestehenden Cloud-Diensten. Hier wird KI nicht immer als eigenständiges Produkt wahrgenommen. Trotzdem können Inhalte verarbeitet werden, die bisher innerhalb eines klar abgegrenzten Systems geblieben sind.

Welche Daten besonders kritisch sind

Nicht jede Eingabe in ein KI-System hat dasselbe Risiko. Eine öffentliche Produktbeschreibung ist anders zu behandeln als eine Personalakte. Ein allgemein bekanntes Codebeispiel ist weniger kritisch als der Quellcode einer unternehmenskritischen Anwendung.

Für die Praxis hilft eine einfache Unterscheidung zwischen öffentlichen, internen, vertraulichen und besonders schützenswerten Informationen.

Personenbezogene Daten

Personenbezogene Daten sind alle Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Dazu gehören nicht nur Namen und Adressen. Auch Kundennummern, Personalnummern, E-Mail-Adressen, Gesprächsverläufe, Standortinformationen, Leistungsbewertungen und Kombinationen scheinbar harmloser Angaben können einen Personenbezug herstellen.

Das Entfernen eines Namens reicht deshalb nicht automatisch aus. Ein Vertriebsbericht kann auch ohne Namensnennung eindeutig einem bestimmten Kunden zuzuordnen sein. Eine Personalbeschreibung kann durch Abteilung, Funktion und Projekthistorie auf eine konkrete Person hinweisen.

Besondere Kategorien personenbezogener Daten

Noch sensibler sind Informationen über Gesundheit, politische Ansichten, Religion, Gewerkschaftszugehörigkeit, sexuelle Orientierung oder biometrische Merkmale. Für solche Daten gelten besonders hohe rechtliche Anforderungen.

Ein typisches Risiko entsteht, wenn Beschäftigte KI zur Formulierung von Personalbeurteilungen, Krankheitsgesprächen oder arbeitsrechtlichen Schreiben einsetzen. Der Inhalt mag aus Sicht des Nutzers nur ein Textentwurf sein. Für die betroffene Person handelt es sich unter Umständen um äußerst sensible Informationen.

Geschäftsgeheimnisse und vertrauliche Unterlagen

Nicht jedes Sicherheitsproblem ist gleichzeitig ein Datenschutzproblem. Auch Daten ohne Personenbezug können für ein Unternehmen erheblichen Wert besitzen. Dazu gehören Kalkulationen, Preisstrategien, unveröffentlichte Produktinformationen, technische Zeichnungen, Verträge, interne Berichte, Akquisitionsziele und Informationen über geplante Übernahmen.

Wer solche Inhalte in einen nicht freigegebenen Dienst eingibt, riskiert nicht nur eine unkontrollierte Offenlegung. Je nach vertraglicher Situation kann auch der Schutz als Geschäftsgeheimnis geschwächt werden, wenn angemessene Geheimhaltungsmaßnahmen fehlen.

Passwörter, Token und API-Keys

Passwörter und technische Zugangsdaten gehören grundsätzlich nicht in Prompts. Das gilt unabhängig davon, wie seriös oder bekannt ein Dienst erscheint.

API-Keys werden in der Praxis häufig versehentlich übertragen. Entwickler kopieren eine Konfigurationsdatei, einen vollständigen Fehlerbericht oder einen Ausschnitt aus einem Repository. Zwischen den relevanten Informationen befindet sich dann ein aktiver Schlüssel.

Ein solcher Schlüssel sollte wie ein Haustürschlüssel behandelt werden, der auf einem öffentlichen Parkplatz verloren wurde. Man diskutiert nicht lange darüber, ob ihn wahrscheinlich jemand gefunden hat. Man ersetzt ihn.

Wurde ein Passwort, Token oder API-Key in ein nicht ausdrücklich dafür vorgesehenes KI-System eingegeben, sollte es als potenziell offengelegt betrachtet, unverzüglich gesperrt oder rotiert und der Vorgang intern geprüft werden.

Welche IT-Sicherheitsrisiken durch KI entstehen

Die klassische IT-Sicherheit betrachtet vor allem Vertraulichkeit, Integrität und Verfügbarkeit. Diese Grundsätze gelten auch bei KI. Hinzu kommen Risiken, die aus der besonderen Funktionsweise generativer Systeme und ihrer Einbindung in weitere Anwendungen entstehen.

Unkontrollierter Datenabfluss

Das offensichtlichste Risiko ist die Übertragung vertraulicher Informationen an einen externen Dienst. Dabei sollte man nicht nur an das Training eines Modells denken. Daten können je nach Anbieter und Vertrag auch in Chatverläufen, technischen Protokollen, Sicherheitssystemen, Backups oder Supportprozessen verarbeitet werden.

Eine Einstellung wie "Daten nicht zum Training verwenden" ist sinnvoll, beantwortet aber nur eine einzelne Frage. Sie bedeutet nicht automatisch, dass keinerlei Speicherung stattfindet, keine Protokolldaten entstehen oder keine Unterauftragnehmer beteiligt sind.

Kontenübernahme und fehlende Zugriffskontrolle

Wird ein KI-Dienst mit einem gemeinsam genutzten Passwort betrieben, ist kaum nachvollziehbar, wer welche Informationen verarbeitet hat. Private Accounts verschärfen das Problem. Verlässt ein Mitarbeiter das Unternehmen, können Chatverläufe, erstellte Assistenten oder hochgeladene Dokumente außerhalb der Kontrolle des Unternehmens verbleiben.

Betriebliche Accounts, zentrale Benutzerverwaltung, Mehrfaktor-Authentifizierung und klar geregelte Rollen sind deshalb keine Nebensache. Sie bilden die Grundlage dafür, Zugriffe zu steuern und bei Bedarf zu entziehen.

Prompt Injection

Prompt Injection bezeichnet den Versuch, ein KI-System durch manipulierte Eingaben zu unerwünschtem Verhalten zu bringen. Besonders relevant wird dies, wenn eine KI externe Dokumente, Webseiten, E-Mails oder Datenbanken auswertet.

Eine versteckte Anweisung in einem Dokument könnte das System beispielsweise dazu bringen, seine ursprüngliche Aufgabe zu ignorieren oder vertrauliche Inhalte in eine Antwort einzubauen. Bei einfachen Chat-Anwendungen ist der Schaden meist begrenzt. Bei KI-Agenten mit Zugriff auf E-Mails, Dateien, CRM-Systeme oder Programmierschnittstellen kann dieselbe Angriffsmethode wesentlich ernstere Folgen haben.

Das Problem ähnelt einem neuen Mitarbeiter, der jede Notiz in einer Kundenakte als verbindliche Arbeitsanweisung versteht. Je mehr Berechtigungen dieser Mitarbeiter besitzt, desto größer ist der mögliche Schaden.

Zu weitreichende Berechtigungen

Moderne KI-Agenten können nicht nur Texte erzeugen. Sie können Nachrichten versenden, Termine anlegen, Daten abrufen, Tickets bearbeiten oder Aktionen in Geschäftsanwendungen auslösen.

Dadurch wird das Prinzip der minimalen Berechtigung besonders wichtig. Ein Assistent, der lediglich einen Antwortentwurf erstellen soll, benötigt keinen selbstständigen Versand. Ein System zur Analyse von Dokumenten braucht nicht automatisch Zugriff auf das gesamte Unternehmenslaufwerk.

Jede zusätzliche Berechtigung erweitert die mögliche Schadenswirkung von Fehlfunktionen, falschen Ergebnissen und Angriffen.

Fehlerhafte oder manipulierte Ergebnisse

Generative KI liefert überzeugend formulierte Antworten, die trotzdem falsch sein können. Werden solche Ergebnisse ungeprüft in Verträge, Kundenkommunikation, technische Konfigurationen oder Personalentscheidungen übernommen, betrifft das die Integrität von Geschäftsprozessen.

Besonders kritisch wird es, wenn Mitarbeitende der sprachlichen Sicherheit des Systems mehr vertrauen als dem tatsächlichen Inhalt. Eine gut formulierte Antwort wirkt schnell wie eine geprüfte Antwort. Beides ist nicht dasselbe.

Abhängigkeiten in der Lieferkette

Ein KI-Dienst besteht selten nur aus einem Modell. Häufig sind Datenbanken, Suchsysteme, Plugins, Bibliotheken, Schnittstellen und externe Plattformen beteiligt. Eine Schwachstelle oder Fehlkonfiguration in einem dieser Bestandteile kann die Sicherheit des gesamten Prozesses beeinflussen.

Bei der Bewertung eines Tools sollte daher nicht nur der Name des Modellanbieters betrachtet werden. Entscheidend ist die vollständige Anwendung, in der das Modell eingesetzt wird.

Was die DSGVO bei der KI-Nutzung verlangt

Die DSGVO enthält keine Ausnahme für besonders innovative oder weitverbreitete Technologien. Sobald personenbezogene Daten verarbeitet werden, gelten die bekannten Grundsätze auch bei generativer KI.

Das Unternehmen bleibt für seine Nutzung verantwortlich. Diese Verantwortung lässt sich nicht dadurch abgeben, dass ein externer Dienst verwendet wird oder der Anbieter eine datenschutzfreundliche Nutzung verspricht.

Ein klarer Zweck

Vor der Verarbeitung sollte feststehen, wofür das KI-System eingesetzt wird. "Wir möchten KI nutzen" ist kein ausreichender Zweck. "Wir möchten öffentliche Produktinformationen sprachlich vereinheitlichen" ist wesentlich konkreter.

Eine klare Zweckbeschreibung hilft bei fast allen weiteren Entscheidungen. Erst dann lässt sich beurteilen, welche Daten erforderlich sind, welche Rechtsgrundlage in Betracht kommt und ob das gewählte Tool angemessen ist.

Eine tragfähige Rechtsgrundlage

Für die Verarbeitung personenbezogener Daten ist eine Rechtsgrundlage erforderlich. Welche Rechtsgrundlage passt, hängt vom konkreten Einsatz ab. Eine pauschale Einwilligung ist nicht automatisch die beste oder einfachste Lösung. Gerade im Beschäftigungsverhältnis ist die Freiwilligkeit einer Einwilligung häufig kritisch zu prüfen.

Auch ein bestehender Vertrag mit einem Kunden erlaubt nicht jede zusätzliche Verarbeitung. Es muss betrachtet werden, ob der KI-Einsatz für die Vertragserfüllung erforderlich ist oder auf eine andere Rechtsgrundlage gestützt werden kann.

Datenminimierung

Es dürfen nur die Daten verarbeitet werden, die für den festgelegten Zweck tatsächlich erforderlich sind. Für die Erstellung einer höflichen Antwortvorlage benötigt ein Sprachmodell meistens weder den vollständigen Kundenvertrag noch die komplette Kundenhistorie.

In der Praxis ist Datenminimierung einer der wirksamsten Schutzmechanismen. Inhalte können gekürzt, abstrahiert, pseudonymisiert oder durch realistische Testdaten ersetzt werden. Dabei muss allerdings geprüft werden, ob trotz der Entfernung direkter Merkmale weiterhin ein Personenbezug möglich ist.

Transparenz gegenüber betroffenen Personen

Betroffene Personen müssen grundsätzlich nachvollziehen können, wie ihre Daten verarbeitet werden. Wird eine KI in Kundenservice, Personalwesen oder anderen personenbezogenen Prozessen eingesetzt, können bestehende Datenschutzinformationen angepasst werden müssen.

Das gilt besonders, wenn Daten an neue Empfänger übermittelt, in anderen Ländern verarbeitet oder für zusätzliche Zwecke verwendet werden.

Auftragsverarbeitung und Rollenklärung

Verarbeitet ein Anbieter personenbezogene Daten im Auftrag des Unternehmens, ist in der Regel ein geeigneter Vertrag zur Auftragsverarbeitung erforderlich. Zuvor muss geklärt werden, ob der Anbieter tatsächlich ausschließlich als Auftragsverarbeiter handelt oder bestimmte Daten auch für eigene Zwecke nutzt.

Diese Rollenklärung ist bei KI-Diensten nicht immer trivial. Nutzungsdaten, Sicherheitsprotokolle, Produktverbesserungen und Modelltraining können unterschiedlich behandelt werden. Allgemeine Werbeaussagen ersetzen keine vertragliche Prüfung.

Datenübermittlungen in Drittländer

Werden personenbezogene Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet oder können Unternehmen in Drittländern darauf zugreifen, müssen die Anforderungen an internationale Datenübermittlungen beachtet werden.

Ein auswählbarer europäischer Serverstandort kann das Risiko reduzieren, beantwortet aber nicht zwangsläufig alle Fragen. Relevant sind auch Supportzugriffe, Unterauftragnehmer, Konzernstrukturen und technische Fernzugriffsmöglichkeiten.

Datenschutz-Folgenabschätzung

Kann eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursachen, ist eine Datenschutz-Folgenabschätzung erforderlich. Das kann insbesondere bei umfangreicher Profilbildung, sensiblen Daten, systematischer Überwachung oder weitreichenden automatisierten Bewertungen relevant sein.

Nicht jeder KI-Einsatz benötigt eine solche Prüfung. Eine vorgelagerte Risikobewertung sollte jedoch dokumentiert werden, damit die Entscheidung nachvollziehbar bleibt.

Betroffenenrechte und Löschung

Unternehmen müssen Auskunfts-, Berichtigungs- und Löschungsbegehren erfüllen können. Das setzt voraus, dass bekannt ist, wo personenbezogene Informationen gespeichert werden und wie sie gefunden oder entfernt werden können.

Bei komplexen KI-Systemen kann das schwieriger sein als in einer klassischen Datenbank. Umso wichtiger sind klare vertragliche Regelungen und eine Architektur, die Betroffenenrechte nicht nur theoretisch, sondern auch praktisch unterstützt.

Automatisierte Entscheidungen

Besondere Vorsicht ist geboten, wenn KI-Ergebnisse Entscheidungen über Menschen beeinflussen. Beispiele sind Bewerberauswahl, Kreditentscheidungen, Leistungsbewertungen oder Vertragsablehnungen.

Ein Mensch im Prozess genügt nicht automatisch. Wenn die Person einen KI-Vorschlag lediglich bestätigt, ohne ihn tatsächlich prüfen und verändern zu können, liegt möglicherweise keine wirksame menschliche Kontrolle vor.

Die verantwortliche Person muss die Entscheidungsgrundlage verstehen, abweichende Entscheidungen treffen können und ausreichend Zeit für eine echte Prüfung erhalten.

Der EU AI Act ersetzt die DSGVO nicht

Der EU AI Act ergänzt den bestehenden Rechtsrahmen um risikobasierte Anforderungen an KI-Systeme. Dazu gehören abhängig vom Anwendungsfall unter anderem Vorgaben zur Transparenz, menschlichen Aufsicht, technischen Dokumentation und zum Risikomanagement.

Für Unternehmen ist dabei ein Punkt besonders wichtig: Ein KI-System kann nach dem AI Act zulässig sein und trotzdem datenschutzrechtliche Probleme verursachen. Umgekehrt beantwortet eine DSGVO-Prüfung nicht automatisch alle Anforderungen des AI Act.

Die Regelwerke betrachten teilweise unterschiedliche Fragen. Die DSGVO konzentriert sich auf die Verarbeitung personenbezogener Daten und die Rechte betroffener Personen. Der AI Act betrachtet Risiken bestimmter KI-Systeme und Einsatzformen.

Bereits die Verpflichtung zur Förderung ausreichender KI-Kompetenz zeigt, dass Unternehmen ihre Mitarbeitenden nicht einfach mit neuen Werkzeugen alleinlassen sollten. Wer KI beruflich einsetzt, benötigt ein grundlegendes Verständnis der Möglichkeiten, Grenzen und Risiken.

Warum ein pauschales KI-Verbot meistens nicht funktioniert

Angesichts der Risiken liegt ein vollständiges Verbot zunächst nahe. In der Praxis löst es das Problem häufig nicht. Es verlagert die Nutzung lediglich in den Schatten.

Mitarbeitende verwenden dann private Accounts, nicht freigegebene Browser-Erweiterungen oder ihre eigenen Geräte. Die Organisation verliert Transparenz, während die Daten weiterhin verarbeitet werden. Aus einem sichtbaren Risiko wird Shadow AI.

Ein wirksamer Ansatz muss deshalb zwei Ziele gleichzeitig verfolgen:

• Riskante und unzulässige Nutzungen müssen klar begrenzt werden, damit Beschäftigte wissen, welche Daten und Prozesse tabu sind.
• Für sinnvolle Anwendungsfälle müssen sichere, praktikable und ausreichend leistungsfähige Werkzeuge bereitstehen.

Wenn ein freigegebenes Tool umständlich ist und das private Tool innerhalb von Sekunden bessere Ergebnisse liefert, wird eine Richtlinie allein nicht genügen. Sicherheit muss in den Arbeitsablauf passen.

Unternehmensversion, API oder eigenes System?

Nicht jede Bereitstellungsform bietet dasselbe Maß an Kontrolle. Eine kostenlose Endkundenversion, ein verwalteter Unternehmensaccount, eine API-Anbindung und ein lokal betriebenes Modell unterscheiden sich deutlich.

Öffentlich zugängliche Endkundendienste

Solche Dienste eignen sich vor allem für öffentliche oder unkritische Inhalte. Zentrale Benutzerverwaltung, vertragliche Regelungen, Protokollierung und Konfigurationsmöglichkeiten können eingeschränkt sein.

Für geschäftliche Daten sollte nicht allein auf Standardeinstellungen vertraut werden.

Unternehmenslösungen

Business- und Enterprise-Angebote können Funktionen wie zentrale Administration, Single Sign-on, Aufbewahrungssteuerung und vertragliche Zusagen zur Datennutzung bieten. Das verbessert die Ausgangslage, ersetzt aber keine Prüfung des konkreten Einsatzes.

Auch ein gut abgesicherter Dienst darf nicht automatisch für jeden Datentyp und jeden Prozess verwendet werden.

API-Anbindungen

Eine API ermöglicht mehr Kontrolle über Benutzeroberfläche, Datenfilterung und Prozessintegration. Gleichzeitig übernimmt das Unternehmen zusätzliche Verantwortung. Fehlende Eingabeprüfungen, unsichere Protokollierung oder zu weitreichende Berechtigungen können neue Schwachstellen erzeugen.

Eine API ist daher nicht automatisch sicherer. Sie bietet vor allem mehr Gestaltungsmöglichkeiten, die professionell umgesetzt werden müssen.

Lokale Modelle und private Umgebungen

Ein lokal betriebenes Modell kann Datenflüsse besser kontrollierbar machen. Es entstehen jedoch neue Aufgaben in den Bereichen Betrieb, Updates, Zugriffsschutz, Leistungsfähigkeit und Monitoring.

On-Premises ist kein Synonym für sicher. Ein schlecht administriertes internes System kann riskanter sein als ein professionell betriebener Cloud-Dienst.

RAG-Systeme

Bei Retrieval Augmented Generation, kurz RAG, wird ein Sprachmodell mit einer eigenen Wissensbasis verbunden. Dadurch können interne Dokumente genutzt werden, ohne das Modell selbst mit diesen Daten nachzutrainieren.

Dieser Ansatz kann Vorteile bieten, benötigt aber ein sauberes Berechtigungskonzept. Das KI-System darf einem Nutzer keine Dokumente zugänglich machen, auf die er im Ursprungssystem keinen Zugriff hätte.

Die Suchfunktion darf nicht zur Hintertür werden, durch die Abteilungsgrenzen, Mandantentrennung oder vertrauliche Bereiche umgangen werden.

Ein pragmatisches Governance-Modell für den Mittelstand

Viele mittelständische Unternehmen benötigen kein umfangreiches KI-Gremium für jede einzelne Texteingabe. Sie benötigen aber klare Zuständigkeiten, freigegebene Werkzeuge und nachvollziehbare Grenzen.

Ein praxistaugliches Modell kann aus wenigen Bausteinen bestehen.

Anwendungsfälle statt Produktnamen bewerten

Ein Tool kann für einen Zweck geeignet und für einen anderen ungeeignet sein. Die Erstellung öffentlicher Marketingtexte ist anders zu bewerten als die Analyse von Bewerbungsunterlagen.

Freigaben sollten deshalb nicht nur lauten: "Dieses Tool ist erlaubt." Besser ist: "Dieses Tool ist für diese Anwendungsfälle und diese Datenkategorien unter diesen Bedingungen erlaubt."

Verbindliche Datenklassen definieren

Beschäftigte müssen erkennen können, welche Informationen sie eingeben dürfen. Eine kurze, verständliche Einteilung in öffentliche, interne, vertrauliche und streng vertrauliche Daten ist häufig wirksamer als eine lange Richtlinie voller Fachbegriffe.

Konkrete Beispiele sind entscheidend. Ein Mitarbeiter sollte nicht erst überlegen müssen, ob ein API-Key unter "technische Betriebsinformation mit erhöhtem Schutzbedarf" fällt.

Freigegebene Werkzeuge bereitstellen

Die Organisation sollte eine kleine Auswahl geprüfter Lösungen anbieten. Dazu gehören betriebliche Accounts, zentrale Konfiguration, Mehrfaktor-Authentifizierung und ein geregelter Beschaffungsprozess.

Eine endlose Werkzeugliste schafft keine Sicherheit. Sie erhöht den Prüfaufwand und macht es schwerer, Konfigurationen aktuell zu halten.

Eine schnelle Prüfroutine schaffen

Neue Anwendungsfälle sollten nicht monatelang in einem Freigabeprozess hängen. Sonst steigt die Wahrscheinlichkeit, dass Fachabteilungen eigene Lösungen beschaffen.

Hilfreich ist ein standardisierter Kurzcheck mit klaren Eskalationsstufen. Unkritische Anwendungsfälle können schnell freigegeben werden. Personenbezogene, vertrauliche oder entscheidungsrelevante Prozesse werden intensiver geprüft.

Datenschutz, IT-Sicherheit und Fachbereich zusammenbringen

Keine dieser Stellen kann die Bewertung allein durchführen. Der Fachbereich kennt den Zweck und die benötigten Daten. Die IT versteht Architektur und Berechtigungen. Datenschutz und Informationssicherheit beurteilen rechtliche und technische Risiken.

Professionelle Unterstützung kann besonders bei komplexen Vertragsstrukturen, internationalen Datenflüssen, RAG-Systemen und KI-Agenten sinnvoll sein. Nicht weil jeder Anwendungsfall ein Großprojekt sein muss, sondern weil Fehlannahmen in der Architektur später nur schwer zu korrigieren sind.

Technische Schutzmaßnahmen, die tatsächlich helfen

Richtlinien sind notwendig, reichen aber nicht aus. Wo immer möglich, sollten Regeln technisch unterstützt werden.

Zentrale Identitäten und Mehrfaktor-Authentifizierung

Geschäftliche KI-Dienste sollten über verwaltete Unternehmensaccounts genutzt werden. Single Sign-on und Mehrfaktor-Authentifizierung reduzieren das Risiko kompromittierter Konten und erleichtern die Sperrung bei einem Rollenwechsel oder Austritt.

Secret Management

Passwörter, Schlüssel und Token gehören in dafür vorgesehene Systeme. Entwickler sollten Secrets nicht dauerhaft in Quellcode, Konfigurationsdateien oder Fehlerprotokollen speichern.

Automatisierte Prüfungen können verhindern, dass aktive Schlüssel in Repositories oder Eingaben gelangen. Solche Kontrollen sind besonders wertvoll, weil sie unbeabsichtigte Fehler abfangen.

Datenverlustprävention

Data-Loss-Prevention-Systeme können bestimmte Datenmuster erkennen und Übertragungen blockieren oder warnend begleiten. Das kann bei Kreditkartendaten, Kundennummern, personenbezogenen Informationen oder technischen Geheimnissen hilfreich sein.

Die Systeme müssen sorgfältig konfiguriert werden. Zu viele Fehlalarme führen dazu, dass Warnungen ignoriert werden.

Protokollierung mit Augenmaß

Unternehmen benötigen ausreichend Protokolle, um Nutzung und Sicherheitsvorfälle nachvollziehen zu können. Gleichzeitig darf die Protokollierung nicht zu einer zusätzlichen, unbegrenzten Sammlung sensibler Inhalte werden.

Es sollte klar geregelt sein, welche Metadaten und Inhalte protokolliert werden, wer darauf zugreifen darf und wann sie gelöscht werden.

Minimale Berechtigungen für Agenten

KI-Agenten sollten nur die Systeme und Funktionen nutzen dürfen, die sie für ihre Aufgabe benötigen. Kritische Aktionen können eine menschliche Bestätigung erfordern.

Ein Agent, der Rechnungen ausliest, muss sie nicht gleichzeitig freigeben können. Ein Assistent, der E-Mails vorbereitet, muss sie nicht selbstständig versenden.

Getrennte Testumgebungen

Neue KI-Funktionen sollten zunächst mit Testdaten oder synthetischen Daten erprobt werden. Produktivdaten gehören erst dann in den Prozess, wenn Zweck, Rechtsgrundlage, Schutzmaßnahmen und Verträge geklärt sind.

Welche Regeln Mitarbeitende wirklich brauchen

Eine KI-Richtlinie sollte nicht nur Verbote enthalten. Sie muss konkrete Alltagssituationen beantworten.

• Welche Tools dürfen verwendet werden? Die freigegebenen Anwendungen und Zugangswege sollten an einer zentralen Stelle aktuell dokumentiert sein.
• Welche Daten dürfen eingegeben werden? Die Vorgabe sollte verständliche Beispiele aus Vertrieb, Personalwesen, Entwicklung, Einkauf und Kundenservice enthalten.
• Was ist ausdrücklich verboten? Passwörter, private Schlüssel, API-Keys und besonders geschützte Informationen sollten ohne Interpretationsspielraum ausgeschlossen werden.
• Wie werden Ergebnisse geprüft? Mitarbeitende müssen wissen, dass KI-Ausgaben Entwürfe sind und fachlich, rechtlich sowie inhaltlich kontrolliert werden müssen.
• Wie werden neue Tools angefragt? Ein einfacher und schneller Meldeweg verhindert, dass Beschäftigte aus Bequemlichkeit auf private Lösungen ausweichen.
• Was ist bei einem Fehler zu tun? Wer versehentlich vertrauliche Daten oder Zugangsinformationen eingegeben hat, sollte den Vorfall ohne Angst vor pauschalen Schuldzuweisungen melden können.

Schulungen sollten nicht nur erklären, was verboten ist. Hilfreicher sind realistische Übungen. Wie anonymisiert man eine Kundenanfrage sinnvoll? Woran erkennt man einen API-Key in einem Fehlerbericht? Wann ist eine KI-Antwort so relevant, dass eine zweite Person prüfen sollte?

Solche Beispiele bleiben eher im Gedächtnis als eine Folie mit zehn Artikeln der DSGVO.

Ein kompakter KI-Risikocheck vor der Einführung

Vor der Freigabe eines Tools oder Anwendungsfalls sollten zumindest die folgenden Fragen beantwortet werden:

• Welches konkrete Problem soll gelöst werden? Ohne klaren Zweck lässt sich weder der Nutzen noch die Erforderlichkeit der Datenverarbeitung sinnvoll bewerten.
• Welche Daten werden eingegeben und erzeugt? Dabei sollten auch Metadaten, Protokolle, Anhänge und automatisch eingebundene Inhalte berücksichtigt werden.
• Sind personenbezogene oder besonders geschützte Daten beteiligt? Ist das der Fall, müssen Rechtsgrundlage, Transparenz und Betroffenenrechte frühzeitig betrachtet werden.
• Enthalten die Daten Geschäftsgeheimnisse oder Zugangsinformationen? Solche Inhalte benötigen strengere technische und organisatorische Schutzmaßnahmen.
• Wer verarbeitet die Daten? Neben dem direkten Vertragspartner sollten Modellanbieter, Hostingunternehmen und weitere Unterauftragnehmer bekannt sein.
• Wo findet die Verarbeitung statt? Serverstandort, Supportzugriffe und internationale Datenübermittlungen gehören in die Bewertung.
• Werden Eingaben oder Ausgaben zum Training verwendet? Zusätzlich muss geklärt werden, wie lange Daten gespeichert werden und welche Protokolle entstehen.
• Wie können Daten gelöscht oder berichtigt werden? Die Antwort sollte praktisch überprüfbar und nicht nur theoretisch in Vertragsunterlagen beschrieben sein.
• Welche Berechtigungen besitzt das System? Bei Agenten und integrierten Assistenten ist entscheidend, auf welche Dateien, Postfächer und Geschäftsanwendungen sie zugreifen können.
• Wie wird die Qualität der Ergebnisse kontrolliert? Für rechtlich, finanziell oder personell relevante Prozesse müssen klare Prüfschritte definiert sein.
• Was passiert bei einem Sicherheitsvorfall? Ansprechpartner, Sperrmöglichkeiten, Protokolle und notwendige interne Prüfungen sollten vorab feststehen.
• Ist der erwartete Nutzen das verbleibende Risiko wert? Nicht jeder technisch mögliche KI-Einsatz erzeugt einen ausreichenden wirtschaftlichen Mehrwert.

Sicherheit muss Geschwindigkeit ermöglichen

Der häufigste Fehler besteht darin, Sicherheit und Innovation als Gegensätze zu behandeln. In der Praxis bremst nicht die Prüfung an sich, sondern ein unklarer und schlecht organisierter Prüfprozess.

Ein Unternehmen mit definierten Datenklassen, freigegebenen Werkzeugen und einem standardisierten Kurzcheck kann neue KI-Anwendungen oft schneller einführen als eine Organisation, die jede Anfrage spontan diskutiert.

Leitplanken funktionieren ähnlich wie Markierungen auf einer Straße. Sie sollen nicht verhindern, dass Fahrzeuge vorankommen. Sie sorgen dafür, dass Geschwindigkeit beherrschbar bleibt.

Dazu kann ein kontrollierter Experimentierraum gehören. Fachabteilungen dürfen neue Anwendungsfälle mit Testdaten erproben. Erkenntnisse werden dokumentiert. Erst bei einem Übergang in den produktiven Betrieb mit echten Unternehmensdaten erfolgt die vollständige Freigabe.

Dieser Ansatz nimmt FOMO ernst, ohne ihm die Steuerung zu überlassen. Das Unternehmen kann Erfahrungen sammeln, Mitarbeitende qualifizieren und Chancen nutzen. Gleichzeitig bleibt erkennbar, wo Grenzen liegen.

Die Verantwortung liegt nicht allein bei der IT

KI-Nutzung ist keine rein technische Frage. Die Geschäftsführung entscheidet über Risikobereitschaft, Ressourcen und Prioritäten. Fachbereiche bestimmen, welche Prozesse verändert werden. Einkauf und Rechtsabteilung gestalten Verträge. Datenschutz und Informationssicherheit schaffen Schutzmechanismen.

Wird die Verantwortung ausschließlich an die IT delegiert, entsteht schnell ein Missverständnis. Die IT kann Zugänge sperren und Systeme konfigurieren. Sie kann aber nicht allein entscheiden, ob die Verarbeitung von Kundendaten für einen bestimmten Geschäftszweck erforderlich ist oder wie stark ein fehlerhaftes Ergebnis einen Personalprozess beeinflusst.

Entscheider sollten daher einige grundlegende Informationen regelmäßig erhalten:

• Welche KI-Dienste werden offiziell genutzt und welche nicht freigegebenen Werkzeuge wurden erkannt?
• Welche Datenkategorien werden in den wichtigsten Anwendungsfällen verarbeitet?
• Welche Prozesse können rechtliche, finanzielle oder personelle Auswirkungen haben?
• Welche Sicherheitsvorfälle, Fehlübertragungen oder problematischen Ergebnisse sind aufgetreten?
• Welche Anbieterabhängigkeiten und technischen Schnittstellen entstehen?

Es geht nicht darum, jede Eingabe zu kontrollieren. Entscheidend ist, dass die Unternehmensleitung ein realistisches Bild der Nutzung erhält und wesentliche Risiken nicht erst nach einem Vorfall sichtbar werden.

Besonnen schnell statt unkontrolliert schnell

Generative KI bietet mittelständischen Unternehmen echte Chancen. Sie kann Wissen zugänglicher machen, Routinetätigkeiten beschleunigen und Mitarbeitende bei komplexen Aufgaben unterstützen. Diese Vorteile werden nicht kleiner, nur weil man Datenschutz und IT-Sicherheit ernst nimmt.

Gleichzeitig ist die derzeitige Sorglosigkeit bei der Eingabe von Firmendaten, personenbezogenen Informationen und Zugangsdaten bedenklich. Besonders problematisch ist die Vorstellung, ein weitverbreitetes Verhalten sei automatisch vertretbar.

Die Konkurrenz kann kurzfristig schneller sein, weil sie Prüfungen überspringt. Ob daraus dauerhaft ein Wettbewerbsvorteil entsteht, ist eine andere Frage. Ein verlorener API-Key, ein offengelegter Kundenvertrag oder ein unkontrollierter KI-Agent kann die eingesparte Zeit sehr schnell wieder aufzehren.

Die sinnvolle Alternative ist weder ein pauschales Verbot noch eine unkritische Freigabe. Unternehmen brauchen einen kontrollierten Weg zur schnellen Nutzung: klare Anwendungsfälle, verständliche Datenklassen, geprüfte Anbieter, sichere Accounts, minimale Berechtigungen und Mitarbeitende, die Risiken erkennen können.

Professionelle Unterstützung ist vor allem dort sinnvoll, wo mehrere Systeme verbunden werden, sensible Daten betroffen sind oder KI Ergebnisse mit erheblicher Wirkung auf Menschen und Geschäftsprozesse erzeugt. Solche Prüfungen müssen kein monatelanges Projekt werden. Sie sollten aber fundiert genug sein, damit aus einem kurzfristigen Produktivitätsgewinn kein langfristiges Sicherheitsproblem entsteht.

FOMO ist ein schlechter Sicherheitsberater. Als Hinweis auf wirtschaftlichen Handlungsdruck sollte man sie trotzdem ernst nehmen. Die richtige Reaktion besteht nicht darin, blind schneller zu werden. Sie besteht darin, die Voraussetzungen zu schaffen, unter denen Geschwindigkeit verantwortbar wird.