Generative KI, DSGVO und EU AI Act 2026: was Analysten und Führungskräfte wissen müssen

Ein KI-Assistent im Analyseprojekt

Ein Assistent schreibt eine Antwort, die richtig klingt, nicht eine, die geprüft wurde; deshalb briefen Sie ihn sorgfältig und hinterfragen dann, was er sagt.

Ein allgemeiner Assistent beruht auf einem Sprachmodell: Er erzeugt den Text, der am besten zu Ihrer Anfrage und zu dem passt, was er im Training gelernt hat. Das macht ihn zu einem guten Verfasser von Entwürfen und zu einem guten Erklärer, aber zu einer unzuverlässigen Quelle überall dort, wo die Antwort exakt sein muss. Der Foliensatz stellt beide Seiten nebeneinander.

Ein Prompt ist ein Briefing, geschrieben wie für einen neuen Analysten

1. Kontext und Datenwörterbuch (data dictionary). Wer Sie sind, welche Entscheidung ansteht, welche Tabellen und Spalten es gibt und wofür eine einzelne Zeile steht.
2. Aufgabe. Eine Aufgabe pro Anfrage; fünf Fragen in einem Prompt kommen meist als fünf dünne Antworten zurück.
3. Format. Etwas, das Sie überprüfen können, etwa eine Abfrage, die Sie selbst ausführen, eine Tabelle oder drei Sätze.
4. Einschränkungen. Was er nicht annehmen oder anfassen darf, und zum Schluss die Bitte, die getroffenen Annahmen aufzulisten.

In den Prompt gehört die Struktur der Tabelle, nie ihre Zeilen: Der Assistent schreibt die Abfrage, und die Gruppe führt sie in DuckDB auf der echten Datei aus. Die erste Antwort wird dann behandelt wie die Arbeit eines schnellen, aber noch unerfahrenen Kollegen. Fragen Sie, welche Bestellungen die Abfrage weggelassen hat und warum, fragen Sie erneut mit einer Korrektur und einer Zeilenzahl, die Sie nachprüfen können, und verlangen Sie das stärkste Argument gegen Ihre eigene Schlussfolgerung, damit der Einwand vor der Besprechung kommt und nicht währenddessen.

Der Workshop läuft auf der obersten Stufe der KI-Skala des Kurses: Die Nutzung eines Assistenten wird erwartet, und jede Gruppe berichtet über ein Ergebnis, das sie behalten hat, eines, das sie verworfen hat, und die Prüfung, die den Unterschied gemacht hat. Jeder Assistent ist geeignet, kostenlose Versionen eingeschlossen. Im Beruf gilt dieselbe Regel wie in Sitzung 1: Beschreiben Sie einem freigegebenen Werkzeug die Struktur der Unternehmensdaten, und fügen Sie niemals personenbezogene oder vertrauliche Datensätze in ein öffentliches Werkzeug ein, denn Verbraucherversionen speichern Gespräche unter Umständen.

Zurück zum Inhalt.

Plausible Fehler und die fünf Prüfungen

Gefährlich sind die Fehler, die ohne Fehlermeldung durchlaufen und eine glaubwürdige Zahl liefern, deshalb muss die Prüfung dem entsprechen, was auf dem Spiel steht.

Der Foliensatz ordnet Fehler danach, wie schwer sie zu erkennen sind. Ein vom Assistenten erfundener Spaltenname fällt sofort auf: Die Abfrage bricht ab. Ein Join, der Zeilen vervielfacht, läuft durch und liefert eine Summe, die stimmig aussieht; das merken Sie nur, wenn Sie sie mit einer Summe vergleichen, der Sie vertrauen. Am schlimmsten ist eine Halluzination (hallucination), eine selbstsichere Behauptung oder der Verweis auf eine Studie, die es nicht gibt, manchmal unter dem Namen eines echten Autors: Nichts in der Ausgabe warnt Sie.

Durchgerechnetes Beispiel: eine Abfrage, die läuft und lügt

Das Beispiel ist die Abfrage der Bestellungen nach Bundesstaat aus SQL für Führungskräfte, von einem Assistenten neu geschrieben, mit einem zusätzlichen Join auf die Artikeltabelle und einem schlichten COUNT(*). Die Bundesstaaten erscheinen in einer plausiblen Reihenfolge, doch jede Bestellung wird so oft gezählt, wie sie Artikel enthält. Summiert man die Spalte und stellt diese Summe der Größe der Bestelltabelle gegenüber, wird die Aufblähung in Sekunden sichtbar; die Korrektur besteht darin, eindeutige Bestellnummern zu zählen oder einen Join zu entfernen, den die Frage nie gebraucht hat.

Nicht jede Ausgabe verdient alle fünf. Eine Zahl, die auf die Empfehlungsfolie soll, braucht mindestens die ersten beiden; jeder Satz, der eine Studie zitiert, braucht die dritte. Jede Prüfung wird in einer Zeile festgehalten (Werkzeug, Aufgabe, was womit verglichen wurde), und diese Zeilen bilden den halbseitigen KI-Nutzungsanhang (AI-use appendix) des Abschlussberichts. Eine vage Aussage, KI sei überall genutzt worden, sagt dem Leser nichts; eine ehrliche Offenlegung wird einer Gruppe nie angelastet.

Zurück zum Inhalt.

Was die DSGVO von einem Analyseprojekt verlangt

Daten sind personenbezogen, sobald jemand identifiziert werden kann, auch indirekt, und dann braucht das Projekt eine Rechtsgrundlage, einen vereinbaren Zweck und keine überflüssigen Daten.

Die Datenschutz-Grundverordnung, Verordnung (EU) 2016/679, schützt Menschen, nicht Dateien. Artikel 4 Nummer 1 definiert personenbezogene Daten (personal data) als alle Informationen über eine Person, die identifiziert ist oder identifiziert werden kann. In der Analyse liegt das Risiko selten in der Namensspalte: Es entsteht aus gewöhnlichen Angaben (einem Datum, einer Postleitzahl, einem Betrag), die zusammengenommen eine einzelne Person erkennbar machen.

Für jede Nutzung gilt genau eine Rechtsgrundlage (lawful basis), und sie wird festgelegt, bevor die Arbeit beginnt, nicht hinterher gesucht. Die Einwilligung ist nicht der Normalfall, für den viele sie halten; interne Analysen stützen sich oft auf den Vertrag oder auf berechtigte Interessen, Letztere nur nach einer echten Interessenabwägung. Zwei Grundsätze aus Artikel 5 begegnen einem jeden Tag. Zweckbindung (purpose limitation): Für einen Zweck erhobene Daten werden nicht für einen unvereinbaren Zweck wiederverwendet, etwa Lieferadressen, aus denen Profile von Wohnvierteln werden. Datenminimierung (data minimisation): Nehmen Sie nur, was die Frage braucht. Um verspätete Lieferungen zu messen, braucht man keine Kundennamen, und weniger Spalten bedeuten auch weniger Fehler.

Die Pseudonymisierung (pseudonymisation) ersetzt direkte Identifikatoren durch Codes, doch wer die Zuordnungstabelle besitzt, kann sie rückgängig machen, deshalb gilt die DSGVO weiter. Nur Daten, die niemand mit vertretbaren Mitteln wieder einer Person zuordnen kann, sind anonym und fallen nicht unter die Verordnung, und diese Hürde ist hoch: Namen und E-Mail-Adressen zu löschen reicht selten, solange Datumsangaben, Orte und Beträge bleiben. Die Olist-Datei wurde als anonymisierter offener Datensatz veröffentlicht, deshalb können die Studierenden frei damit arbeiten.

Vier Fragen an jedes Projekt, in dieser Reihenfolge

1. Personenbezogene Daten? Direkt, indirekt oder durch Kombination. Wenn nicht, ist die DSGVO-Prüfung hier beendet.
2. Welche Rechtsgrundlage? Eine pro Nutzung, vorab entschieden.
3. Derselbe Zweck? Ist die Weiterverwendung mit dem Grund vereinbar, aus dem die Daten erhoben wurden?
4. Nur das Nötige? Muss die Analyse wissen, wer jede einzelne Person ist?

Zurück zum Inhalt.

Die KI-Verordnung: vier Stufen, Anbieter und Betreiber

Die KI-Verordnung regelt, wofür ein KI-System eingesetzt wird, mit Regeln, die strenger werden, je größer das Risiko für Menschen ist.

Die KI-Verordnung ist die Verordnung (EU) 2024/1689. Als Verordnung gilt sie unmittelbar in jedem Mitgliedstaat, ohne Umsetzung in nationales Recht. Sie ist am 1. August 2024 in Kraft getreten, und ihre Pflichten greifen schrittweise. Abgesehen von ihrem Kapitel über KI-Modelle mit allgemeinem Verwendungszweck reguliert sie keine Technologie: Sie reguliert Verwendungen, nach dem Risiko, das sie für Gesundheit, Sicherheit und Grundrechte mit sich bringen. Ein und dasselbe Sprachmodell kann deshalb ein minimales Risiko darstellen, wenn es Marketing-E-Mails entwirft, und ein hohes Risiko, wenn es Bewerbungen in eine Rangfolge bringt.

Unabhängig von der Stufe gelten zwei Dinge immer: die Pflicht zur KI-Kompetenz (AI literacy) aus Artikel 4 sowie die DSGVO und alle übrigen Gesetze. Die Pflichten verteilen sich außerdem entlang der Wertschöpfungskette. Der Anbieter (provider) entwickelt ein System und bringt es in Verkehr, zum Beispiel der Hersteller eines Werkzeugs für das Lebenslauf-Screening. Der Betreiber (deployer) verwendet ein System in eigener Verantwortung, zum Beispiel Olist, wenn es mit diesem Werkzeug die eigenen Bewerbungen sichtet. Eine Führungskraft steht meist auf der Seite des Betreibers; ein Unternehmen, das sein eigenes System baut, selbst auf dem Modell eines anderen, kann zu dessen Anbieter werden.

Was ein Betreiber im Kern tun muss, der ein Hochrisiko-KI-System (high-risk system) einsetzt

1. Die Betriebsanleitung befolgen. Das System so verwenden, wie der Anbieter es vorgibt.
2. Aufsicht zuweisen. Die menschliche Aufsicht Personen übertragen, die über die nötige Kompetenz verfügen, um sie auszuüben.
3. Überwachen und Protokolle aufbewahren. Beobachten, wie sich das System verhält, und die Protokolle aufbewahren, die unter der Kontrolle des Betreibers stehen.
4. Informieren. Beschäftigte und betroffene Personen unterrichten, wo die Verordnung es verlangt.

Keine dieser Pflichten setzt voraus, das Innenleben des Modells zu verstehen; alle setzen voraus, dass jemand die Verantwortung dafür behält, wie es verwendet wird.

Zurück zum Inhalt.

Die Änderung von 2026 und die entscheidenden Fristen

Eine seit Juli 2026 geltende Änderung hat die Hochrisiko-Fristen nach hinten verschoben, deshalb hängt das maßgebliche Datum von der Art der Verwendung ab.

Der Änderungsrechtsakt ist die Verordnung (EU) 2026/1744, auch „Digital-Omnibus zur KI“ (Digital Omnibus on AI) genannt. Sie wurde am 24. Juli 2026 im Amtsblatt der Europäischen Union veröffentlicht und trat drei Tage später, am 27. Juli 2026, in Kraft. Am deutlichsten wirkt sie sich auf den Zeitplan der Hochrisiko-Pflichten aus. Die Zeitleiste des Foliensatzes, im September 2026 geprüft, sieht so aus.

Dezember 2027 ist ungefähr der Zeitpunkt, zu dem die Studierenden dieses Kurses ihre ersten Führungspositionen innehaben werden, deshalb geht der Foliensatz ausführlich darauf ein. Die Änderung hat auch Artikel 4 neu gefasst: Der Text von 2024 verlangte von Anbietern und Betreibern, ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen, der geänderte Text verlangt von ihnen Maßnahmen, die diese fördern. Die Formulierung ist weicher, die Richtung bleibt dieselbe, und die Pflicht erfasst weiterhin jeden Anbieter und jeden Betreiber, unabhängig von der Stufe. Die beiden Fassungen im Foliensatz sind Paraphrasen; zitieren Sie Artikel 4 nur aus dem konsolidierten Text auf EUR-Lex.

Zurück zum Inhalt.

Einen KI-Einsatz in drei Fragen einstufen

Fragen Sie, ob die Verwendung verboten ist, dann, ob sie auf der Hochrisiko-Liste steht, und dann, ob sie mit Menschen kommuniziert oder Inhalte erzeugt.

Die Methode, in dieser Reihenfolge (das erste Ja ergibt das strengste Regime)

1. Ist es eine verbotene Praktik? Wenn ja, wird sie weder entwickelt noch eingesetzt.
2. Steht es auf der Hochrisiko-Liste oder ist es Teil eines regulierten Produkts? Wenn ja, treffen Pflichten sowohl den Anbieter als auch den Betreiber.
3. Kommuniziert es mit Menschen oder erzeugt es Text, Bilder, Audio oder Video? Wenn ja, gelten Transparenzpflichten, unter Umständen zusätzlich zu einer höheren Stufe.

Dreimal Nein ergibt eine Verwendung mit minimalem Risiko, für die die Pflicht zur KI-Kompetenz trotzdem gilt. Und sobald personenbezogene Daten im Spiel sind, stellen sich in jedem Fall die vier DSGVO-Fragen erneut. Der Foliensatz betont, dass dies eine vereinfachte Lesart ist: gut genug, um zu wissen, welche Fragen man stellen muss, aber kein Rechtsgutachten.

Durchgerechnetes Beispiel: das Modell für verspätete Lieferungen

Der Foliensatz wendet die Methode auf das Modell an, das in Prädiktive Analytik für Entscheidungsträger gebaut wird und für das Operations-Team die Bestellungen markiert, die voraussichtlich zu spät ankommen. Es bewertet Bestellungen, keine Menschen, also ist es keine verbotene Praktik. Die Lieferplanung steht nirgends auf der Hochrisiko-Liste, und kein reguliertes Produkt enthält das Modell. Es chattet weder mit Kunden noch erzeugt es Inhalte; es markiert Bestellungen für das Personal. Das Ergebnis ist minimales Risiko, wobei Artikel 4 für Olist weiterhin gilt. Zwei Vorbehalte vervollständigen die Antwort. Die Bestellungen tragen Kundennummern, also gilt die DSGVO. Und würden dieselben Scores genutzt, um Kurieren Arbeit zuzuteilen oder ihre Leistung zu bewerten, fiele die Verwendung unter den Bereich Beschäftigung (Anhang III Nummer 4) und wäre hochriskant: Das Modell ist identisch, die Stufe nicht.

Anschließend stufen die Gruppen drei Verwendungen ein, die Olist erwägt (einen Abwanderungsscore, der Marketingangebote speist, das Lebenslauf-Screening-Werkzeug eines Softwareherstellers, einen Chatbot für den Kundenservice), und geben für jede an, was die Stufe von Olist verlangt und welche DSGVO-Frage sie aufwirft. Personalauswahl und Bonitätsbewertung sind die üblichen Beispiele für erlaubte, aber hochriskante Verwendungen; Social Scoring ist das übliche Beispiel für ein Verbot.

Zurück zum Inhalt.

Verantwortung und Souveränität

Die Verantwortung für eine Entscheidung geht nie auf eine Maschine über, und wer ein KI-Werkzeug wählt, wählt auch, wohin die Daten gehen und welches Recht gilt.

Die zweite KI-Regel des Kurses, „Dafür einstehen“ (Own it), spiegelt wider, wie Verantwortung in einem Unternehmen funktioniert: Zu sagen, die KI habe eine Zahl erzeugt, rechtfertigt nichts. Wer eine mit KI erarbeitete Empfehlung unterschreibt, steht für die Entscheidung und ihre Gründe ein, für die Daten, die dem System übergeben wurden, und für die Prüfungen, die durchgeführt oder ausgelassen wurden.

• Wo werden Prompts und hochgeladene Dateien verarbeitet und gespeichert?
• Welchem Recht unterliegt das Unternehmen, das das Werkzeug anbietet?
• Was geschieht mit Ihren Prozessen, wenn sich seine Bedingungen oder Preise im nächsten Jahr ändern?
• Welche europäischen Alternativen gibt es, welche mit offenen Gewichten, und was kosten sie an Geld, Aufwand und Kompetenzen?

Diese Fragen bilden den Rahmen für eine zehnminütige Diskussion. Europäische Assistenten gibt es (der Foliensatz nennt Le Chat von Mistral AI, ausdrücklich nicht als Empfehlung), ebenso Modelle mit offenen Gewichten (open-weight models), die ein Unternehmen auf Rechnern unter eigener Kontrolle betreiben kann. Jede Option klärt einen Teil der Liste; keine klärt alle Punkte. Der abschließende Fall fragt, was ein Unternehmen von einem einzigen Assistenten für alle Beschäftigten verlangen würde und worauf es zu verzichten bereit wäre; eine gute Antwort benennt den Verzicht und erklärt, warum er für diese Verwendung vertretbar ist.

Zurück zum Inhalt.

Das Wichtigste in Kürze

1. Die Antwort eines KI-Assistenten ist ein Entwurf, bis eine Prüfung, die Sie benennen können, sie bestätigt hat.
2. Briefen Sie den Assistenten mit der Struktur der Daten und einem Datenwörterbuch, niemals mit personenbezogenen oder vertraulichen Zeilen.
3. Namen durch Codes zu ersetzen macht Daten nicht anonym; solange ein Schlüssel existiert, gilt die DSGVO weiter.
4. Jede Verarbeitung personenbezogener Daten stützt sich auf eine einzige, vorab gewählte Rechtsgrundlage, und die Einwilligung ist nur eine von sechs Möglichkeiten.
5. Nach der KI-Verordnung entscheidet der Verwendungszweck eines Systems über seine Stufe, und die Hochrisiko-Pflichten für Personalauswahl und Bonitätsbewertung gelten ab dem 2. Dezember 2027.
6. Die Pflicht zur KI-Kompetenz aus Artikel 4 und die DSGVO gelten unabhängig von der Stufe.
7. Verantwortlich für die Empfehlung ist, wer sie unterschreibt, nicht das Werkzeug.

Glossar

Datenwörterbuch (data dictionary)

Liste der Tabellen, ihrer Spalten und dessen, wofür eine Zeile steht; sie wird einem Assistenten anstelle der Daten gegeben.

Halluzination (hallucination)

Eine falsche Aussage oder Referenz, die ein Sprachmodell mit voller Überzeugung erzeugt.

KI-Nutzungsanhang (AI-use appendix)

Kurzer Anhang zum Bericht, der jedes Werkzeug, die erledigte Aufgabe und die Prüfung der Ausgabe auflistet.

personenbezogene Daten (personal data)

Alle Informationen über eine identifizierte oder identifizierbare Person, direkt, indirekt oder durch Kombination.

Rechtsgrundlage (lawful basis)

Einer der sechs in Artikel 6 DSGVO genannten Gründe, die eine Verwendung personenbezogener Daten rechtmäßig machen.

Zweckbindung (purpose limitation)

Grundsatz der DSGVO: Für einen Zweck erhobene Daten werden nicht für einen unvereinbaren Zweck wiederverwendet.

Datenminimierung (data minimisation)

Grundsatz der DSGVO: nur die Daten verarbeiten, die der Zweck erfordert.

Pseudonymisierung (pseudonymisation)

Ersetzen direkter Identifikatoren durch Codes; die Daten bleiben personenbezogen, weil sich die Codes zurückverfolgen lassen.

Anbieter (provider)

Nach der KI-Verordnung, wer ein KI-System entwickelt und in Verkehr bringt.

Betreiber (deployer)

Nach der KI-Verordnung, wer ein KI-System in eigener Verantwortung verwendet, oft das kaufende Unternehmen.

Hochrisiko-KI-System (high-risk system)

In der Verordnung aufgeführte KI-Verwendung wie Personalauswahl oder Bonitätsbewertung, die strenge Pflichten mit sich bringt.

KI-Kompetenz (AI literacy)

Pflicht aus Artikel 4 für jeden Anbieter und Betreiber, das KI-Verständnis seines Personals zu fördern.

Modelle mit offenen Gewichten (open-weight models)

Modelle, deren Parameter veröffentlicht sind, sodass ein Unternehmen sie auf einer Infrastruktur betreiben kann, die es selbst kontrolliert.

Die anderen Notizen des Kurses

Eine öffentliche Zusammenfassung pro Foliensatz, in der Reihenfolge des Kurses.

Zurück: Prädiktive Analytik für EntscheidungsträgerWeiter: Datenerkenntnisse präsentieren

1. Sitzung 1Von Daten zu Entscheidungen
2. Sitzung 2Datenvisualisierung und Storytelling
3. Sitzung 3SQL-Grundlagen für Führungskräfte
4. Sitzung 4Prädiktive Analytik für Entscheidungsträger
5. Sitzung 5Generative KI, DSGVO und AI Act
6. Sitzung 6Datenerkenntnisse präsentieren

Alle Notizen als Leseliste

Über diese Notizen

Vom Dozenten auf Grundlage der Folien verfasst, als öffentliche Zusammenfassung: die Kernideen, die Formeln und ein durchgerechnetes Beispiel. Die Übungen, ihre Lösungen, die Tests und die Bewertung bleiben im Foliensatz, für die Studierenden des Kurses.

Stand: 16. Oktober 2026.