KI und Datenschutz im Unternehmen: Der Praxis-Leitfaden

KI und Datenschutz schließen einander nicht aus: Unternehmen dürfen KI-Werkzeuge einsetzen, wenn sie wissen, welche Daten das Tool verarbeitet, wo diese Daten liegen und auf welcher rechtlichen Grundlage das geschieht. Wer drei Dinge sauber regelt — die Tool-Auswahl, die Verträge mit den Anbietern und die internen Spielregeln — hat den größten Teil der Datenschutz-Anforderungen im Griff. Dieser Leitfaden führt Schritt für Schritt durch die Praxis; er ist eine Orientierungshilfe und keine Rechtsberatung.

In Kürze

• Die DSGVO gilt beim Einsatz von KI uneingeschränkt weiter; der EU AI Act ergänzt sie um KI-spezifische Pflichten, ersetzt sie aber nicht.
• Personenbezogene Daten stecken schneller in einer KI-Eingabe, als viele denken: Kundennamen in E-Mails, Bewerbungsunterlagen, Gesprächsnotizen, Fotos.
• Kostenlose Consumer-Versionen von KI-Tools sind für personenbezogene Firmendaten in der Regel ungeeignet; Business-Varianten mit Auftragsverarbeitungsvertrag, EU-gehostete oder selbst gehostete Lösungen sind der sichere Weg.
• Eine kurze, schriftliche KI-Richtlinie mit klaren Erlaubnissen und Verboten verhindert Schatten-KI — die unkontrollierte Nutzung privater Tools im Betrieb.
• Der Mensch bleibt verantwortlich: KI-Ergebnisse werden geprüft und freigegeben, bevor sie Kunden, Bewerber oder Behörden erreichen.
• Dieser Leitfaden ist eine praxisorientierte Einführung und ersetzt keine Rechtsberatung im Einzelfall.

Warum ist Datenschutz bei KI ein eigenes Thema?

Datenschutz ist bei KI deshalb heikler als bei klassischer Software, weil KI-Werkzeuge Daten nicht nur speichern, sondern verarbeiten, kombinieren und daraus Neues erzeugen — häufig auf Servern außerhalb Ihres Einflussbereichs. Drei Eigenheiten machen den Unterschied.

Erstens die Eingabefreiheit: In ein Buchhaltungsprogramm passt nur, was in die Felder gehört. In ein KI-Chatfenster passt alles — der Vertragsentwurf, die Bewerbung, die Krankmeldung. Die Hürde, sensible Daten preiszugeben, ist so niedrig wie nie.

Zweitens die mögliche Weiterverwendung: Bei manchen Diensten können Eingaben je nach Anbieter und Einstellung zur Verbesserung der Modelle verwendet werden. Was einmal in ein Training eingeflossen ist, lässt sich praktisch nicht mehr zurückholen.

Drittens die Fehleranfälligkeit: KI-Systeme können Inhalte erzeugen, die falsch sind, aber überzeugend klingen — auch über Personen. Wer KI-Ergebnisse ungeprüft weiterverwendet, riskiert nicht nur peinliche Fehler, sondern auch falsche Aussagen über Kunden, Bewerber oder Mitarbeiter. Deshalb gehört die menschliche Endkontrolle fix zu jedem KI-Prozess.

Welche Regeln gelten für KI im Unternehmen?

Für den KI-Einsatz im Unternehmen gelten vor allem zwei Regelwerke: die Datenschutz-Grundverordnung (DSGVO) als Fundament und der EU AI Act als KI-spezifische Ergänzung. Dazu kommen je nach Einsatz Arbeitsrecht, Urheberrecht und branchenspezifische Vorschriften. Was davon im Einzelfall greift, klären Sie im Zweifel mit einer Rechtsberatung — dieser Abschnitt liefert die Landkarte, nicht das Gutachten.

Was regelt die DSGVO beim KI-Einsatz?

Die DSGVO regelt jede Verarbeitung personenbezogener Daten — unabhängig davon, ob ein Mensch, ein Skript oder ein KI-Modell die Daten verarbeitet. Für die Praxis heißt das: Sie brauchen für jede Verarbeitung eine Rechtsgrundlage (etwa Vertragserfüllung, berechtigtes Interesse oder Einwilligung), Sie müssen Betroffene transparent informieren, Datensparsamkeit einhalten, Löschfristen umsetzen und die Verarbeitung in Ihrem Verzeichnis von Verarbeitungstätigkeiten dokumentieren. Neu ist an diesen Pflichten nichts — neu ist nur, dass KI-Tools sie leicht aus dem Blickfeld rücken, weil die Verarbeitung so beiläufig wirkt.

Und was ergänzt der EU AI Act?

Der EU AI Act ist die europäische KI-Verordnung; sie ist seit 2024 in Kraft, ihre Pflichten greifen gestaffelt über mehrere Jahre. Er ordnet KI-Systeme nach Risiko: Verbotene Praktiken sind untersagt, Hochrisiko-Systeme — etwa in Bewerbungsverfahren — unterliegen strengen Auflagen, für viele Alltagsanwendungen gelten vor allem Transparenzpflichten. Dazu kommt die Pflicht, für ausreichende KI-Kompetenz im eigenen Team zu sorgen. Für die meisten KMU, die KI-Werkzeuge lediglich nutzen, ist der AI Act damit ein überschaubarer Baustein neben der DSGVO — kein Grund zur Panik, aber auch nichts, das man ignorieren sollte. Die Details zu Risikoklassen, Fristen und Pflichten behandelt unser Ratgeber in eigenen Beiträgen; hier genügt die Einordnung: DSGVO zuerst, AI Act ergänzend.

Wann verarbeitet ein KI-Tool personenbezogene Daten?

Personenbezogene Daten sind alle Informationen, die sich einer identifizierten oder identifizierbaren Person zuordnen lassen — Namen, E-Mail-Adressen, Fotos, Stimmen, aber auch Kombinationen wie Position plus Firma. Ein KI-Tool verarbeitet solche Daten immer dann, wenn sie in der Eingabe stecken, in verarbeiteten Dokumenten enthalten sind oder im Ergebnis auftauchen.

In der Praxis passiert das ständig und unauffällig: Wer eine Kunden-E-Mail zur Beantwortung in ein KI-Tool kopiert, verarbeitet personenbezogene Daten. Wer Bewerbungen zusammenfassen lässt, ebenso. Wer Besprechungen automatisch transkribiert, verarbeitet sogar Stimmen und Gesprächsinhalte aller Beteiligten. Nichts davon ist automatisch verboten — aber alles davon braucht eine Grundlage, einen passenden Anbieter und einen bewussten Umgang.

Die wirksamste Sofortmaßnahme ist Datensparsamkeit: Geben Sie in KI-Tools nur die Daten ein, die für die Aufgabe nötig sind. Für einen Textentwurf braucht das Modell selten den echten Namen des Kunden — ein neutraler Platzhalter tut es auch. Diese einfache Gewohnheit entschärft einen Großteil der Risiken, bevor Verträge und Technik überhaupt ins Spiel kommen.

Wie sind typische KI-Anwendungen im Betrieb einzuordnen?

Nicht jede KI-Anwendung ist gleich heikel. Eine grobe Landkarte der häufigsten Einsatzfälle hilft, die Aufmerksamkeit richtig zu verteilen.

Text- und E-Mail-Entwürfe sind unkritisch, solange keine personenbezogenen oder vertraulichen Daten in die Eingabe wandern — mit Platzhaltern statt echten Namen bleibt das Risiko klein. Heikler wird es, sobald ganze Kundenmails oder Verträge zur Bearbeitung hochgeladen werden; dann braucht es ein Tool mit Vertragsbasis.

Meeting-Transkription verarbeitet Stimmen und Aussagen aller Beteiligten. Hier gehören die Information der Teilnehmenden, ein Anbieter mit AVV und klare Löschfristen für Aufnahmen und Transkripte fix dazu.

Ein Chatbot auf der Website verarbeitet, was Besucher eingeben — das können auch sensible Anliegen sein. Er sollte sich als KI zu erkennen geben, in der Datenschutzerklärung auftauchen und so gebaut sein, dass Eingaben nicht für fremdes Training verwendet werden.

Eine interne Wissensdatenbank, die Firmendokumente durchsuchbar macht, ist datenschutzrechtlich gut beherrschbar, wenn sie in der EU oder selbst gehostet läuft und die Zugriffsrechte die bestehenden Berechtigungen abbilden.

Am oberen Ende steht die Bewertung von Personen — etwa das Vorsortieren von Bewerbungen. Solche Anwendungen gelten nach dem AI Act in der Regel als Hochrisiko-Systeme und verlangen besondere Sorgfalt; hier sollte vor dem Einsatz fachlicher und rechtlicher Rat eingeholt werden.

Wer trägt die Verantwortung? Rollen, Verträge, Drittland

Datenschutzrechtlich verantwortlich bleibt Ihr Unternehmen — nicht der KI-Anbieter. Sobald ein Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, ist er in der Regel Auftragsverarbeiter, und dafür schreibt die DSGVO einen Auftragsverarbeitungsvertrag (AVV) vor. Der AVV regelt, was der Anbieter mit den Daten tun darf, welche Sicherheitsmaßnahmen er trifft, welche Unterauftragnehmer er einsetzt und was bei Vertragsende mit den Daten geschieht. Seriöse Business-Angebote stellen einen AVV standardmäßig bereit; fehlt er, ist das Tool für personenbezogene Daten tabu.

Ein zweiter Blick gilt dem Verarbeitungsort. Liegen die Server außerhalb der EU beziehungsweise des EWR, handelt es sich um einen Drittlandtransfer, der eine eigene Grundlage braucht. Für Übermittlungen in die USA existiert derzeit ein Angemessenheitsbeschluss für zertifizierte Anbieter; solche Beschlüsse waren in der Vergangenheit allerdings wiederholt rechtlich umstritten. Wer Planungssicherheit will, bevorzugt Anbieter mit Vertrag und Verarbeitung in der EU — oder holt die Verarbeitung gleich ins eigene Haus.

Prüfen Sie außerdem die Trainingsfrage ausdrücklich: Verwendet der Anbieter Ihre Eingaben zur Modellverbesserung, und lässt sich das vertraglich ausschließen? Bei Business-Tarifen ist der Ausschluss üblich, bei kostenlosen Versionen oft nicht. Diese eine Vertragsklausel trennt brauchbare von unbrauchbaren Werkzeugen zuverlässiger als jedes Werbeversprechen.

Consumer-Tool, Business-Version oder eigene Lösung?

Aus Datenschutzsicht unterscheiden sich KI-Werkzeuge weniger durch ihre Fähigkeiten als durch Datenstandort, Vertragsbasis und Kontrolle. Die vier typischen Varianten im Vergleich:

Variante	Wo liegen die Daten?	Nutzung für Training	AVV möglich?	Eignung für personenbezogene Daten
Kostenlose Consumer-KI	Server des Anbieters, oft außerhalb der EU	Je nach Anbieter und Einstellung möglich	Meist nein	Ungeeignet
Business-Tarif eines internationalen Anbieters	Server des Anbieters, teils EU-Region wählbar	Vertraglich meist ausgeschlossen	Ja	Mit AVV und Drittland-Prüfung möglich
EU-gehostete KI-Lösung	Rechenzentren in der EU	Vertraglich geregelt, meist ausgeschlossen	Ja	Gut geeignet
Selbst gehostetes System	Eigene Server oder eigener EU-Cloud-Server	Keine — Daten verlassen das System nicht	Entfällt weitgehend	Sehr gut geeignet, erfordert Betriebs-Know-how

Die Tabelle zeigt das Muster: Je mehr Kontrolle über den Datenstandort, desto einfacher die Datenschutz-Argumentation — und desto mehr Verantwortung für den Betrieb der Lösung. Für viele KMU ist die pragmatische Mitte ein EU-gehostetes Werkzeug mit sauberem AVV; für besonders sensible Daten, etwa Personalunterlagen oder Mandanteninformationen, lohnt sich der Blick auf selbst gehostete Systeme. Wie selbst gehostete Wissensdatenbanken funktionieren, zeigt unsere Seite zu RAG-Wissensdatenbanken.

Für die konkrete Anbieterprüfung genügen anfangs vier Fragen, deren Antworten sich in den Vertragsunterlagen finden lassen sollten: Wo werden die Daten verarbeitet und gespeichert? Gibt es einen Auftragsverarbeitungsvertrag nach DSGVO? Ist die Nutzung der Eingaben für das Modelltraining ausgeschlossen? Und wie lange werden Eingaben und Ergebnisse beim Anbieter aufbewahrt? Ein Anbieter, der eine dieser Fragen nicht klar beantwortet, scheidet für personenbezogene Daten aus — unabhängig davon, wie gut das Werkzeug fachlich ist.

Welche technischen und organisatorischen Maßnahmen brauchen Sie?

Die DSGVO verlangt technische und organisatorische Maßnahmen (TOMs), die dem Risiko angemessen sind. Für den KI-Einsatz im KMU haben sich fünf Maßnahmen als Kern bewährt.

Erstens Zugriffskontrolle: Nicht jede Person im Betrieb braucht Zugang zu jedem KI-Werkzeug und schon gar nicht zu jeder Datenquelle, die daran hängt. Zweitens Datensparsamkeit als Voreinstellung: Prompts und angebundene Datenquellen enthalten nur, was die Aufgabe erfordert. Drittens Anonymisierung oder Pseudonymisierung, wo der Personenbezug für die Aufgabe unnötig ist — aus „Herrn Mustermann aus Feldkirch“ wird „ein Kunde“. Viertens Löschkonzepte: Auch KI-Verläufe, Transkripte und Zwischenergebnisse brauchen ein Ablaufdatum. Fünftens Protokollierung: Bei automatisierten Abläufen muss nachvollziehbar sein, welche Daten wann verarbeitet und wer ein Ergebnis freigegeben hat.

Dazu kommt eine organisatorische Grundregel, die alle technischen Maßnahmen trägt: KI-Ergebnisse mit Außenwirkung — Angebote, Antworten an Kunden, Beurteilungen — werden von einem Menschen geprüft und freigegeben. Das ist nicht nur Datenschutz-Hygiene, sondern schützt auch vor den Fehlern, die jedem KI-System unterlaufen können.

Warum braucht Ihr Betrieb eine KI-Richtlinie?

Ohne klare Regeln entsteht Schatten-KI: Mitarbeitende nutzen private Konten kostenloser Tools für Firmenaufgaben — gut gemeint, aber außerhalb jeder Kontrolle. Verbote allein verschärfen das Problem, weil die Nutzung dann heimlich weiterläuft. Wirksamer ist eine kurze KI-Richtlinie, die erlaubte Wege öffnet und rote Linien zieht.

Hinein gehören fünf Punkte: welche Tools und Konten freigegeben sind; welche Datenarten niemals eingegeben werden dürfen (etwa Gesundheitsdaten, Bewerbungen, Zugangsdaten, Geschäftsgeheimnisse); wie mit Ergebnissen umzugehen ist — prüfen, kennzeichnen, freigeben; an wen Fragen und Verdachtsfälle gemeldet werden; und was bei neuen Tools gilt, nämlich erst prüfen lassen, dann nutzen.

Eine gute Richtlinie passt auf ein bis zwei Seiten und wird einmal im Jahr überprüft. Ergänzen Sie sie durch eine kurze Schulung: Wer verstanden hat, warum die Bewerbung nichts im Consumer-Chatbot verloren hat, hält sich auch daran. Damit erfüllen Sie nebenbei einen Teil der KI-Kompetenz-Pflicht aus dem AI Act — Schulung ist hier keine Kür, sondern eingeplante Pflicht.

Wie führen Sie datenschutzkonforme KI-Nutzung ein?

Der Weg zur sauberen KI-Nutzung ist kein Großprojekt, sondern eine Abfolge überschaubarer Schritte. In dieser Reihenfolge hat sie sich bewährt:

1. Bestandsaufnahme machen. Erheben Sie ehrlich, welche KI-Tools im Betrieb bereits genutzt werden — offiziell und inoffiziell. Eine anonyme Umfrage bringt oft mehr Wahrheit ans Licht als ein Rundmail.
2. Datenflüsse klären. Notieren Sie je Tool, welche Datenarten hineinfließen, wo verarbeitet wird und was mit den Ergebnissen passiert. Schon diese Übersicht zeigt die größten Baustellen.
3. Tools bewerten und konsolidieren. Prüfen Sie je Werkzeug Datenstandort, AVV-Verfügbarkeit und Trainingsausschluss. Ersetzen Sie problematische Consumer-Nutzung durch freigegebene Alternativen — mit EU-Hosting oder Self-Hosting als bevorzugte Optionen.
4. Verträge abschließen. Schließen Sie mit jedem verbleibenden Anbieter einen Auftragsverarbeitungsvertrag und klären Sie Drittlandtransfers. Ohne Vertragsbasis kein personenbezogener Einsatz.
5. Dokumentation ergänzen. Nehmen Sie die KI-Verarbeitungen in Ihr Verzeichnis von Verarbeitungstätigkeiten auf und prüfen Sie dokumentiert, ob eine Datenschutz-Folgenabschätzung nötig ist.
6. Betroffene informieren. Aktualisieren Sie Ihre Datenschutzerklärung und interne Informationen, wo KI-Tools personenbezogene Daten verarbeiten — auch gegenüber Beschäftigten. Wo ein Betriebsrat besteht, gehört er früh eingebunden.
7. Richtlinie einführen und schulen. Setzen Sie die KI-Richtlinie in Kraft und schulen Sie das Team kurz und praxisnah. Benennen Sie eine Ansprechperson für KI-Fragen.
8. Laufend prüfen. Kontrollieren Sie halbjährlich, ob neue Tools dazugekommen sind, ob Anbieter ihre Bedingungen geändert haben und ob gestaffelte AI-Act-Pflichten Ihren Einsatz betreffen.

Wer diese acht Schritte durchläuft, hat kein perfektes, aber ein belastbares Fundament — und kann bei Rückfragen von Kunden, Partnern oder der Datenschutzbehörde nachweisen, dass der KI-Einsatz durchdacht ist.

Was müssen Kunden und Beschäftigte erfahren?

Transparenz ist die günstigste Vertrauensmaßnahme. Kunden sollten erkennen können, wo KI im Spiel ist: Ein Chatbot auf der Website gibt sich als solcher zu erkennen, und die Datenschutzerklärung nennt die eingesetzten Dienste und Zwecke. Wer hier offen kommuniziert, verwandelt eine Pflicht in einen Vertrauensvorteil — gerade gegenüber Kunden, die KI skeptisch sehen.

Bei Beschäftigtendaten gilt erhöhte Vorsicht. Werkzeuge, die Arbeitsleistung auswerten oder Verhalten überwachen könnten, berühren das Arbeitsrecht und die Mitbestimmung; in Betrieben mit Betriebsrat sind hier je nach Ausgestaltung Vereinbarungen nötig. Auch ohne Betriebsrat gilt: Wer sein Team früh informiert und einbindet, verhindert Gerüchte und Widerstände — und bekommt nebenbei die wertvollsten Hinweise, wo KI im Alltag wirklich hilft.

Was gilt, wenn die KI Falsches über Personen behauptet?

KI-Systeme können Aussagen über Menschen erzeugen, die schlicht nicht stimmen — eine erfundene Berufsstation in einer Zusammenfassung, ein falsch transkribierter Satz, eine verwechselte Zuordnung. Datenschutzrechtlich ist das mehr als ein Schönheitsfehler: Die DSGVO verlangt, dass personenbezogene Daten sachlich richtig sind, und gibt Betroffenen das Recht auf Berichtigung und Löschung.

Für die Praxis folgen daraus zwei Regeln. Erstens: KI-generierte Aussagen über Personen werden vor jeder Weiterverwendung geprüft — besonders, bevor sie in Akten, Bewertungen oder Korrespondenz landen. Zweitens: Ihr Betrieb sollte auf Anfragen von Betroffenen vorbereitet sein. Wer wissen will, welche Daten über ihn verarbeitet werden, hat ein Auskunftsrecht — und das umfasst auch Verarbeitungen in KI-gestützten Abläufen. Eine aktuelle Übersicht der eingesetzten Tools und Datenflüsse, wie sie die Schrittliste oben vorsieht, macht solche Anfragen zur Routineaufgabe statt zur Krisensitzung.

Was droht bei Verstößen?

Die DSGVO sieht empfindliche Geldbußen vor, die sich in schweren Fällen an einem Prozentsatz des weltweiten Jahresumsatzes bemessen können; zuständig ist in Österreich die Datenschutzbehörde (dsb.gv.at). Kommt es zu einer Datenpanne — etwa weil vertrauliche Daten über ein KI-Tool abgeflossen sind — besteht grundsätzlich eine Meldepflicht binnen 72 Stunden.

Mindestens so gewichtig wie Bußgelder ist der Vertrauensschaden: Ein KMU lebt von langjährigen Kundenbeziehungen, und der leichtfertige Umgang mit Kundendaten beschädigt genau diese Basis. Der nüchterne Blick lohnt sich aber auch hier: Wer die Schritte aus diesem Leitfaden umgesetzt hat, hat die typischen Verstoßquellen — unkontrollierte Tools, fehlende Verträge, fehlende Information — bereits geschlossen.

Wie hilft Datenhoheit in der Praxis?

Datenhoheit heißt, jederzeit zu wissen und zu bestimmen, wo Ihre Daten liegen und wer darauf zugreifen kann. Sie ist die strukturelle Antwort auf die meisten Datenschutzfragen: Wo Daten den eigenen Einflussbereich gar nicht erst verlassen, schrumpfen Drittlandfragen, Trainingsklauseln und Anbieterrisiken auf ein Minimum.

Praktisch bedeutet das eine Stufenleiter: EU-gehostete Dienste mit sauberem Vertrag für den Alltag, selbst gehostete Systeme für das Sensible — etwa eine interne Wissensdatenbank, ein E-Mail-Assistent oder Automatisierungen, die auf einem eigenen Server in der EU laufen. Genau dieser Ansatz prägt unsere Arbeit: Goma-IT setzt bei Automatisierungs- und KI-Projekten auf EU-Server und selbst gehostete Systeme, damit Firmendaten dort bleiben, wo sie hingehören.

Für Betriebe in Vorarlberg kommt ein regionaler Aspekt dazu: kurze Wege. Datenschutzfragen klären sich leichter im Gespräch am Tisch als in Ticket-Schleifen — von der Tool-Bewertung bis zur Abstimmung mit Ihrer Rechtsberatung. Einen Überblick, wie eine solche Begleitung abläuft, gibt unsere Seite zur KI-Beratung in Vorarlberg.

Was ist der nächste Schritt?

Beginnen Sie mit der Bestandsaufnahme: Welche KI-Tools sind bei Ihnen im Einsatz, und welche Daten fließen hinein? Diese eine Übung zeigt meist sofort, wo Handlungsbedarf besteht. Wenn Sie dabei Unterstützung möchten — von der Tool-Bewertung bis zur datensparsamen Umsetzung mit EU- oder Self-Hosting — nehmen Sie Kontakt mit uns auf. Wir schauen uns Ihre Situation gemeinsam an, ehrlich auch dann, wenn die beste Antwort lautet: weniger KI, dafür die richtige.