~/teaching · machine learning · referenz
Offene Daten und Machine-Learning-Projekte nach Branche: Finanzen, Versicherung, Logistik, Tech, Sport
Quellen und Lizenzen, ein Steckbrief in sechs Zeilen, ein Projektblatt pro Branche und wie man beziffert, was ein Modell einbringt.
Zusammenfassung
Dieser Referenz-Foliensatz des Kurses Machine Learning an der Centrale Méditerranée (Schwerpunkt DDEFI, 2026-2027) ist keine Vorlesung. Er ist der Katalog, den ein Team liest, wenn es sein eigenes Projekt auswählen und abgrenzen muss. Er beginnt mit den Daten, denn ein Thema, dessen Daten sich nicht noch diese Woche herunterladen lassen, ist noch kein Thema, und geht dann fünf Branchen ausführlich durch (Finanzen, Versicherung, Logistik, Big Tech, Fußball) sowie sieben weitere in knapper Form, jeweils mit offenen Datensätzen, einem vollständigen Projektblatt, den Python-Bibliotheken und, wenn eine öffentliche Quelle es erlaubt, dem, was ein solches Projekt wert ist.
Jede Datensatzadresse und jede Lizenz im Foliensatz wurde am 12. Oktober 2026 geprüft, und keine Gewinnzahl erscheint ohne benannte Quelle; Größenordnungen ohne Quelle sind als solche gekennzeichnet. Diese Seite fasst die Methode zusammen: wo offene Daten (open data) liegen und was ihre Lizenz erlaubt, den Projektsteckbrief (scope document) in sechs Zeilen, die Ideen Branche für Branche, den Aufbau des Repositorys und die Pakete, die Nutzenrechnung und ein Raster aus vier Fragen für die Themenwahl.
Nach der Lektüre sollten Sie einen Datensatz, seine Lizenz und die Entscheidung, der er dient, benennen, den Steckbrief eines dreimonatigen Projekts schreiben und erklären können, warum Ihr naives Modell das zu schlagende ist. Dieselbe Methode wird von Anfang bis Ende auf einen gemeinsamen Datensatz angewandt, im Projekt zum Kreditausfall-Scoring.
Aufbau des Foliensatzes
- Wo man offene Daten findet. Rund zwanzig Quellen in fünf Familien, ihre Lizenzen und was das Datenschutzrecht weiterhin verbietet.
- Der Steckbrief in sechs Zeilen. Die Vorlage, ein ausgefülltes Beispiel zu Lieferverspätungen und drei Fehler, die jedes Jahr vorkommen.
- Finanzen. Kredit-Scoring, Kartenbetrug, Geldwäschebekämpfung, Marktrisiko und was Zahlungsbetrug kostet.
- Versicherung. Tarifierung nach Schadenhäufigkeit und Schadenhöhe auf einem französischen Kfz-Bestand und das Duell zwischen GLM und Boosting.
- Logistik und Lieferkette. Nachfrageprognose, Tourenplanung, Lieferverspätungen und vorausschauende Wartung.
- Big Tech. Empfehlungssysteme, Ranking von Suchergebnissen, Werbung, Inhaltsmoderation und der A/B-Test.
- Fußball und Sport. Expected Goals, Spielergebnisse im Vergleich mit den Quoten der Buchmacher und die Grenzen kleiner Stichproben.
- Sieben weitere Branchen. Energie, Immobilien, Gesundheit, Personalwesen, öffentlicher Sektor, Marketing und Industrie.
- Aufbau, Pakete und Erträge. Das Repository, die Bibliotheken, die Wahl der drei Modelle und die Nutzenrechnung.
- Das Teamprojekt wählen. Ein Auswahlraster, zehn in drei Monaten machbare Ideen und woran ein Projekt meistens scheitert.
Wo man offene Daten findet, Familie für Familie
Offene Daten gibt es in fünf Familien, von bereinigten Tabellen mit fertiger Zielvariable bis zu rohen öffentlichen Zeitreihen, die man selbst bereinigen und verknüpfen muss.
Der Foliensatz ordnet seine Quellen von den gebrauchsfertigsten bis zu den rohesten. Machine-Learning-Plattformen liefern bereinigte Tabellen mit einer Zielvariable: bequem, aber Tausende haben schon damit gearbeitet. Die amtliche Statistik liefert saubere offizielle Zeitreihen, selten mit Zielvariable. Makro- und Finanz-APIs liefern Zinssätze, Indizes und Preise. Quellen aus der realen Welt (Nachrichten, Wetter, Karten, enzyklopädisches Wissen) ergeben selten für sich allein ein Projekt, bereichern aber jedes. Der Sport liefert sehr detaillierte Spielereignisse.
| Familie | Beispiele | Übliche Bedingungen |
|---|---|---|
| ML-Plattformen | Kaggle, UCI ML Repository, OpenML, Hugging Face | Je nach Datensatz; auf Kaggle gibt die hochladende Person die Lizenz an, und jeder Wettbewerb hat eigene Regeln; UCI meist CC BY 4.0 |
| Amtliche Statistik | data.gouv.fr, data.public.lu, INSEE, Eurostat über seine SDMX-API | Licence Ouverte 2.0 oder ODbL in Frankreich, CC0 in Luxemburg empfohlen, Eurostat mit Quellenangabe weiterverwendbar |
| Makro und Finanzen | Weltbank, FRED, EZB, Kenneth French Data Library, EDGAR | Weltbank CC BY 4.0; FRED verlangt einen kostenlosen Schlüssel, und manche Zeitreihen gehören Dritten; EZB frei bei Quellenangabe und ohne Veränderung |
| Reale Welt | GDELT, Open-Meteo, OpenStreetMap, Wikidata | GDELT frei mit Quellenangabe; Open-Meteo-Daten CC BY 4.0, kostenlose API für nichtkommerzielle Nutzung; OpenStreetMap ODbL; Wikidata CC0 |
| Sport | StatsBomb open data, football-data.co.uk, Metrica, SkillCorner | Nichtkommerzielle Vereinbarungen oder nur private Nutzung; siehe die Fußballideen weiter unten |
Man wägt Bequemlichkeit gegen Originalität ab. Eine Kaggle-Tabelle lädt man mit einer Zeile, und Ihr Projekt wird tausend anderen gleichen; zwei öffentliche Quellen zu verknüpfen kostet eine Woche Bereinigung und ergibt etwas, das noch niemand gemacht hat. Der Foliensatz empfiehlt den Mittelweg, der bisher die besten Projekte hervorgebracht hat: einen sauberen Ausgangsdatensatz, angereichert um eine externe Quelle, etwa das Tageswetter zu den Verkäufen eines Geschäfts.
Bemerkung (Drei Fallen). Auf Kaggle ist die angezeigte Lizenz die Wahl der hochladenden Person, die diese Wahl womöglich gar nicht treffen durfte (Daten von Lending Club oder Transfermarkt, als CC0 erneut veröffentlicht): Halten Sie die tatsächliche Herkunft in data/README.md fest. Makroökonomische Zeitreihen werden nach der Veröffentlichung revidiert, sodass ein Prognosemodell, das mit den heutigen BIP-Zahlen trainiert wird, Werte verwendet, die damals niemand hatte; ALFRED von FRED bewahrt die alten Datenstände auf. Yahoo Finance, die Lieblingsquelle der Studierenden, behält seine Daten der persönlichen Nutzung vor: Veröffentlichen Sie das Skript, das die Kurse herunterlädt, niemals die Kursdateien.
Eine Datenlizenz lesen und was die DSGVO weiterhin verbietet
Zwei Fragen klären fast jede Lizenz: Darf ich etwas veröffentlichen, das aus den Daten abgeleitet ist, und darf ich es kommerziell nutzen?
Ein abgeleitetes Werk ist alles, was aus den Daten gebaut wird: eine bereinigte Datei, ein Diagramm, ein trainiertes Modell. Der Foliensatz reduziert die Lizenzen des Katalogs auf diese beiden Fragen, was für Kursarbeiten genügt. Eine dritte Frage zählt in der Produktion und ist bei nichtkommerziellen Lizenzen und bei im Web gesammelten Korpora rechtlich weiterhin offen: Deckt die Lizenz auch das mit den Daten trainierte Modell ab? Im Zweifel ist es am ehrlichsten, beim Herausgeber der Daten nachzufragen.
| Lizenz | Abgeleitetes Werk veröffentlichen | Kommerzielle Nutzung | Pflicht |
|---|---|---|---|
| CC0, gemeinfrei | ja | ja | keine, eine Quellenangabe ist aber trotzdem höflich |
| CC BY 4.0, Licence Ouverte 2.0 | ja | ja | Quelle nennen und angeben, was geändert wurde |
| CC BY-SA, ODbL | ja, unter derselben Lizenz | ja | Weitergabe unter gleichen Bedingungen (share-alike) für abgeleitete Datenbanken |
| CC BY-NC, CC BY-NC-SA | ja | nein | gut für ein Hochschulprojekt, ein Ausschlusskriterium für ein Start-up |
| Persönliche Nutzung (Yahoo Finance, football-data.co.uk) | nein | nein | das Download-Skript weitergeben, nicht die Daten |
| Kaggle-Wettbewerbsregeln | wie es die Regeln vorsehen | meist nein | zuerst die Seiten Data und Rules lesen |
Eine freizügige Lizenz hebt die Datenschutz-Grundverordnung (Verordnung (EU) 2016/679) niemals auf. Daten, die sich einer Person zuordnen lassen, direkt oder durch Abgleich, sind personenbezogen; Namen durch Codes zu ersetzen (Pseudonymisierung) ändert daran nichts; Gesundheit, Meinungen oder Herkunft sind besondere Kategorien im Sinne von Artikel 9. Die französische DVF-Datei der Immobilienverkäufe ist offen, und doch verbieten ihre Nutzungsbedingungen, die Verkäufer zu reidentifizieren oder die Verkäufe von Suchmaschinen indexieren zu lassen.
- Arbeiten Sie mit aggregierten Daten, mit vom Herausgeber anonymisierten Daten oder mit synthetischen Daten (Synthea für Patienten, PaySim für mobile Zahlungen, die simulierten Geldwäschetransaktionen von IBM).
- Sammeln Sie keine Profile aus sozialen Netzwerken oder von Bewertungsplattformen per Scraping: Ein Hochschulprojekt hat weder die Rechtsgrundlage noch die Mittel, die betroffenen Personen zu informieren.
- Laden Sie keine personenbezogenen Einzeldaten in ein öffentliches Repository hoch, auch nicht pseudonymisiert, und bewahren Sie API-Schlüssel in einer
.env-Datei auf, die Git ignoriert.
Der Steckbrief eines Machine-Learning-Projekts in sechs Zeilen
Vor jeder Codezeile beantwortet ein Team sechs Fragen mit je einem Satz; lässt sich eine Zeile diese Woche nicht füllen, muss das Thema wechseln, nicht das Modell.
Die Vorlage
- Entscheidung. Wer auf Grundlage der Vorhersage handelt und was jede Fehlerart kostet.
- Zielvariable. Was vorhergesagt wird, mit welchem Horizont und an welchem Datum es bekannt wird.
- Metrik. Diejenige, die die Entscheidung misst, mit dem Niveau, ab dem das Modell nützlich wird.
- Schutzvorkehrungen. Verbotene Variablen, geschützte Gruppen, mögliche Leaks aus der Zukunft.
- Daten. Adresse, Lizenz, abgedeckter Zeitraum und was die Daten nicht enthalten.
- Plan. Drei Modelle (naiv, bestes vernünftiges, aufwendig), die Meilensteine und wer was macht.
Die Entscheidung steht am Anfang, weil sie den Rest festlegt: die nützliche Zielvariable, die relevante Metrik, die Fehler, die wehtun. Ein Projekt ohne erkennbaren Entscheider endet als Demo, bei der nichts auf dem Spiel steht. Der Steckbrief ist eine Datei im Repository, die per Pull Request freigegeben und geändert wird, wie in der Notiz zu den Werkzeugen eingerichtet; die erste Hausaufgabe baut darauf das Referenzmodell (baseline).
Ein ausgefülltes Beispiel: Lieferverspätungen bei Olist
| Zeile | Inhalt |
|---|---|
| Entscheidung | Der Kundenservice warnt den Käufer vor einem verspäteten Paket; eine unnötige Warnung kostet eine Nachricht, eine unangekündigte Verspätung eine schlechte Bewertung |
| Zielvariable | Nach dem zugesagten Datum geliefert, ja oder nein: bekannt bei der Lieferung, vorhergesagt beim Versand des Pakets |
| Metrik | Precision (Anteil berechtigter Alarme) und Recall (Anteil erkannter Verspätungen) beim gewählten Schwellenwert, PR-AUC, erwartete Kosten pro Bestellung |
| Schutzvorkehrungen | Nichts, was nach dem Versand beobachtet wird; Aufteilung nach Datum; keine namentlichen personenbezogenen Daten |
| Daten | Olist-Bestellungen mit Kaufdatum, Versanddatum, tatsächlichem und zugesagtem Lieferdatum |
| Plan | Historische Verspätungsquote des Zielbundesstaats; logistische Regression; LightGBM mit Entfernungen und Wetter |
Die Zeile zur Zielvariable leistet die meiste Arbeit: Sie sagt, wann das Ergebnis bekannt ist und wann die Vorhersage getroffen wird, sodass alles, was dazwischen geschieht, als Merkmal verboten ist. Auch die Lizenzzeile zählt: Nichtkommerziell und unter gleichen Bedingungen passt zu einer Kursarbeit, nicht zum Weiterverkauf.
Drei Fehler, die jedes Jahr vorkommen
- Eine vage Zielvariable. „Zufriedenheit“ ist keine Spalte. Eine Zielvariable ist eine Regel, die sich auf jede Zeile anwenden lässt, mit einem Datum, zum Beispiel eine schlechte Bewertung innerhalb eines Monats nach der Lieferung.
- Die falsche Metrik. In den ULB-Daten zum Kartenbetrug kommen 492 Betrugsfälle auf 284.807 Transaktionen (, etwa einer von 579); ein Modell, das immer „kein Betrug“ sagt, erreicht eine Accuracy (Anteil richtiger Vorhersagen) von 99,83 % und stoppt nichts. Messen Sie, was die Analysten mit so vielen Alarmen abfangen, wie sie prüfen können.
- Daten aus der Zukunft. Die Zahl der Zahlungserinnerungen sagt den Ausfall sehr gut voraus, weil die Erinnerungen auf den Ausfall folgen. Das ist die häufigste Form von Data Leakage; das Gegenmittel besteht darin, für jede Variable zu fragen, an welchem Datum sie bekannt ist.
Machine-Learning-Projektideen nach Branche
Jede Branche hat eine typische Entscheidung, einen offenen Datensatz für den Einstieg und eine eigene Falle; der Foliensatz schreibt für jede Hauptbranche ein vollständiges Projektblatt.
Ein Projektblatt übernimmt das Raster des Steckbriefs und ergänzt drei Felder: was das Team liefert, mit welchen Paketen und warum jemand dafür bezahlen würde. Die folgende Tabelle versammelt die zehn Ideen, die der Foliensatz in drei Monaten für machbar hält; zusammen decken sie die Problemtypen des Kurses ab (Klassifikation, Regression von Anzahlen und Beträgen, Zeitreihen, Ranking).
| Thema | Ausgangsdaten | Unterstützte Entscheidung | Lizenz |
|---|---|---|---|
| Kreditausfall-Score | Home Credit Default Risk (Kaggle) oder UCI-Datensatz 350 | annehmen, an einen Analysten weitergeben oder ablehnen | Wettbewerbsregeln; CC BY 4.0 |
| Kartenbetrug | ULB Credit Card Fraud (Kaggle) | welche Transaktionen ein festes tägliches Alarmbudget füllen | ODbL, Inhalte DbCL |
| Kfz-Tarifierung | freMTPL2, Häufigkeit und Höhe (OpenML) | die Nettorisikoprämie jedes Profils | GPL für CASdatasets; OpenML zeigt CC0 |
| Nachfrage eines Geschäfts | M5 Forecasting (Kaggle), ein einzelnes Geschäft | die wöchentliche Bestellung jedes Artikels | Wettbewerbsregeln |
| Lieferverspätungen | Olist Brazilian E-Commerce (Kaggle) | den Käufer im Voraus warnen | CC BY-NC-SA 4.0 |
| Triebwerkswartung | NASA C-MAPSS, Teilmenge FD001 | wann ein Triebwerk überholt werden soll | nicht angegeben; NASA zitieren |
| Filmempfehlung | MovieLens (GroupLens) | die zehn Titel, die jedem Nutzer angezeigt werden | Forschung, nichtkommerziell |
| Expected Goals | StatsBomb open data | einen Stürmer über die erzielten Tore hinaus beurteilen | StatsBomb-Nutzungsvereinbarung |
| Immobilienpreise | DVF, data.gouv.fr | eine Immobilie bewerten | Licence Ouverte plus besondere Bedingungen |
| Strombedarf | éCO2mix (RTE) mit Open-Meteo | die Lastspitze des nächsten Tages vorhersehen | Licence Ouverte; CC BY 4.0 |
Finanzen: Kredit, Betrug, Marktrisiko
Ein Kreditprojekt folgt einem Kreislauf: Merkmale, die am Tag des Antrags bekannt sind, eine Ausfallwahrscheinlichkeit auf zwölf Monate, zwei kostenbasierte Schwellenwerte, die Annahme, Prüfung und Ablehnung trennen, dann ein erneutes Training, sobald die Ergebnisse bekannt sind. Sein eingebauter Mangel ist eine Selektionsverzerrung: Ausfälle werden nur bei angenommenen Antragstellern beobachtet, und jeder öffentliche Datensatz enthält nur gewährte Kredite. Alter und Geschlecht werden nicht als Merkmale verwendet, aber separat aufbewahrt, um Fairness zu messen, und das Kredit-Scoring natürlicher Personen ist nach Anhang III der KI-Verordnung der EU (AI Act, Verordnung (EU) 2024/1689) ein Hochrisiko-System. Beim Kartenbetrug decken die ULB-Daten zwei Tage ab: Man trainiert auf dem ersten, testet auf dem zweiten, bewertet mit der Precision-Recall-Kurve (precision-recall curve) und mit dem Recall bei einer festen Zahl von Alarmen, gewichtet die Klassen neu, bevor man Resampling versucht, und kalibriert danach neu. Am Kapitalmarkt sind Renditen schwer vorherzusagen (die Notiz zu Vermögenspreisen zeigt, warum), die Volatilität viel weniger, weil sie in Clustern auftritt, und ein Value at Risk (VaR) zum Niveau 99 % wird geprüft, indem man die Tage zählt, an denen er überschritten wird: In 250 Tagen erwartet man etwa 2,5, und der Kupiec-Test (1995) sagt, ob die Abweichung Zufall ist.
Versicherung: Häufigkeit mal Höhe
Die Tarifierung in der Nichtlebensversicherung multipliziert zwei Modelle. Die Häufigkeit, also die Zahl der Schäden pro Jahr, wird mit einem Poisson-GLM mit Log-Link modelliert, in das die Exposition (exposure) (der versicherte Zeitraum in Jahren) als Offset eingeht, sodass sechs Monate als halbes Jahr zählen; die Höhe, also die Kosten eines Schadens, modelliert man mit einem Gamma-GLM, das auf den Verträgen mit Schäden geschätzt wird. Das Produkt beider Modelle ergibt die Nettorisikoprämie (pure premium). Der Referenzdatensatz freMTPL2 ist ein französischer Kfz-Bestand mit 678.013 Verträgen und 26.639 Schadenbeträgen (Größen laut OpenML). Seit dem Test-Achats-Urteil (EuGH, 2011) darf das Geschlecht in der EU die Prämie nicht mehr beeinflussen. Die Studie der Deutschen Aktuarvereinigung (DAV, 2024) und Henckaerts et al. (2021) sehen Boosting vor dem GLM; verbreitet ist es, das Boosting die Wechselwirkungen aufdecken zu lassen und sie dann in ein GLM aufzunehmen, das ein Tarifausschuss vertreten kann, was die Antiselektion (adverse selection) begrenzt, ohne die Lesbarkeit zu opfern.
Logistik: Das Modell sagt voraus, der Solver entscheidet
Machine Learning prognostiziert Mengen und Zeiten; das Operations Research macht daraus Bestellungen und Routen. Im M5-Wettbewerb (Walmart-Verkäufe, 42.840 hierarchische Zeitreihen) dominierten erstmals Lernverfahren, angeführt von LightGBM, und der Sieger übertraf laut Makridakis, Spiliotis und Assimakopoulos (International Journal of Forecasting, 2022) den besten statistischen Vergleichsmaßstab um 22,4 %. Der skalierte Fehler RMSSE ist einfach zu lesen: Unter 1 schlägt man die naive Prognose. Eine Prognose des 90-%-Quantils legt direkt einen Sicherheitsbestand fest. Das Tourenplanungsproblem (vehicle routing problem, VRP) ist ein Optimierungsproblem, das man mit OR-Tools löst, kein Lernproblem, und das zu sagen zeigt, dass man das Handwerk versteht. Bei den Triebwerken des NASA-Datensatzes C-MAPSS sagt man die verbleibende Nutzungsdauer voraus und teilt nach Triebwerk auf, nie nach Zeile.
Big Tech: Empfehlung, Ranking, Experimente
Ein Empfehlungssystem füllt eine fast leere Matrix aus Nutzern und Artikeln, indem es jedem Nutzer und jedem Artikel einen kurzen Vektor gelernter Vorlieben gibt: Das ist die Matrixfaktorisierung (matrix factorisation). Reale Systeme sehen Klicks statt Bewertungen, daher alternierende kleinste Quadrate auf implizitem Feedback (die Bibliothek implicit). Auf MovieLens teilt man zeitlich auf und muss damit rechnen, dass „am beliebtesten“ bei der Precision der ersten zehn Empfehlungen schwer zu schlagen ist; geben Sie auch die Katalogabdeckung an. Das Ranking von Suchergebnissen wird mit NDCG@10 auf Amazons ESCI-Anfragen bewertet, die Klickvorhersage für Werbung mit dem Log-Loss, weil das Gebot die Wahrscheinlichkeit selbst verwendet. Moderationsmodelle auf den Jigsaw-Kommentaren bewerten Identitätsbegriffe zu hoch, daher misst man den Fehler pro Gruppe. In jedem Fall ist die Offline-Metrik ein Versprechen, das nur ein A/B-Test einlösen kann.
Fußball: Expected Goals und Ergebnisse
Ein Expected-Goals-Modell gibt jedem Schuss seine Torwahrscheinlichkeit aus Entfernung, Winkel und Spielkontext; aufsummiert ergeben die Wahrscheinlichkeiten den xG-Wert einer Mannschaft oder eines Spielers. Weil sie summiert werden, zählt die Kalibrierung mehr als das Ranking: Verwenden Sie also Log-Loss, Brier-Score und eine Kalibrierungskurve, teilen Sie nach Spiel auf und behandeln Sie Elfmeter gesondert. Für die Vorhersage von Ergebnissen ist das Poisson-Modell mit Angriffs- und Abwehrstärke von Maher (1982) sowie von Dixon und Coles (1997) der Klassiker; der eigentliche Vergleichsmaßstab sind die Quoten der Buchmacher, umgerechnet in Wahrscheinlichkeiten und neu skaliert, um die Marge herauszurechnen. Das Projekt misst Wahrscheinlichkeiten und empfiehlt keine Wette; die Bedingungen von Transfermarkt verbieten das Training von Modellen, und football-data.co.uk behält seine Dateien der privaten Nutzung vor.
Sieben weitere Branchen in je einer Zeile
- Energie. Landesweiter Verbrauch des nächsten Tages aus éCO2mix von RTE (Licence Ouverte) und den Temperaturen von Open-Meteo; verwenden Sie die Wettervorhersage, nicht das nachträglich beobachtete Wetter.
- Immobilien. Preis pro Quadratmeter aus DVF; auf 2021 bis 2024 trainieren, auf 2025 testen, nur Aggregate veröffentlichen.
- Gesundheit. Synthetische Synthea-Patientenakten, da echte Daten wie MIMIC-IV akkreditierten Forschenden vorbehalten sind; ein Risikoscore sagt nicht, welche Behandlung wirkt.
- Personalwesen. Fluktuation auf dem fiktiven HR-Datensatz von IBM; die Personalauswahl gilt nach Anhang III als hochriskant, und Reuters (2018) berichtete, dass Amazon ein Werkzeug zur Sichtung von Lebensläufen aufgab, das das Wort „women's“ abwertete.
- Öffentlicher Sektor. Schwere von Verkehrsunfällen aus den französischen Dateien zu Unfällen mit Personenschaden; Systeme zur Auswahl von Prüfzielen wurden vor Gericht gekippt, wie SyRI 2020 in den Niederlanden.
- Marketing. Kundenabwanderung (Churn) auf den Telco-Daten von IBM, dann Uplift: wen ein Angebot tatsächlich hält, wofür randomisierte Daten wie Hillstroms E-Mail-Test von 2008 nötig sind und was mit einer Qini-Kurve beurteilt wird.
- Industrie. MVTec-AD-Bilder und SECOM-Sensoren: Die Anomalieerkennung (anomaly detection) lernt, wie ein normales Teil aussieht, und meldet Abweichungen bei einer festen Falschausschussrate.
Aufbau des Repositorys und Python-Pakete für ein ML-Projekt
Jedes Projekt verwendet denselben Aufbau des Repositorys; nur das README der Daten und der Steckbrief ändern sich von Branche zu Branche.
README.mdim Hauptverzeichnis: was das Projekt tut, für wen und wie man es ausführt.docs/enthält den Steckbrief in sechs Zeilen und ein Protokoll datierter Entscheidungen.data/README.mdhält Herausgeber, Adresse, Lizenz, Download-Datum, Größe und das fest, was den Daten fehlt. Die Daten selbst lädt ein Vorbereitungsskript erneut herunter, was bei Wettbewerbsdaten und Daten zur persönlichen Nutzung Pflicht und überall sonst klug ist.notebooks/für die Exploration,src/für Daten, Merkmale und Modelle,batch/für die Skripte zum Vorbereiten, Trainieren und Evaluieren.app/für eine Streamlit-Oberfläche,tests/für Prüfungen auf Data Leakage, Zielvariable und Aufteilung, eine Konfigurationsdatei für Seeds, Schwellenwerte und Datumsangaben sowie fixierte Versionen inrequirements.txt.
| Paket | Rolle | Wann man es hinzufügt |
|---|---|---|
| pandas, numpy | Tabellen und Berechnungen | immer |
| scikit-learn | Aufteilung, Pipeline, Modelle, Metriken, Kalibrierung | immer |
| xgboost, lightgbm | Boosting auf Tabellen, Poisson- und Tweedie-Zielfunktionen | als aufwendiges Modell in den meisten Branchen |
| statsmodels, arch | GLM, ARIMA, GARCH mit Standardfehlern | wenn ein Koeffizient gelesen werden muss (Versicherung, Risiko) |
| imbalanced-learn | Resampling innerhalb der Pipeline | seltene Klassen, wenn Neugewichtung nicht mehr reicht |
| shap | Erklärungen Fall für Fall | wenn eine Entscheidung begründet werden muss (Kredit, Tarifierung, Personal) |
| statsforecast, prophet | schnelle Referenzmodelle für viele Zeitreihen | Nachfrage- und Energieprognose |
| ortools | Tourenplanung und Zuordnung | Logistik, nach der Prognose; es ist ein Solver, kein lernendes Modell |
| implicit, scikit-surprise | Matrixfaktorisierung | Empfehlung |
| streamlit, pytest | Oberfläche und Tests auf Data Leakage | immer |
Bemerkung (Prüfen, ob ein Paket noch lebt). Ein Repository muss auch Monate später noch laufen. Sehen Sie sich das Datum des letzten Releases auf PyPI an, bevor Sie eine Bibliothek übernehmen, und fixieren Sie die Versionen. Das Beispiel des Foliensatzes: LightFM hatte zum Zeitpunkt der Prüfung seit März 2023 kein Release mehr veröffentlicht, also meiden Sie es oder fixieren Sie es bewusst.
| Projekt | Naiv | Bestes vernünftiges | Aufwendig |
|---|---|---|---|
| Kredit-Score | mittlere Ausfallrate | logistische Regression oder Punkte-Scorecard | LightGBM, erklärt mit SHAP |
| Kartenbetrug | eine Regel auf Basis des Betrags | gewichtete logistische Regression | XGBoost mit kostenbasiertem Schwellenwert |
| Kfz-Tarifierung | mittlere Häufigkeit | Poisson-GLM mit Exposition | Poisson-Boosting |
| Nachfrage eines Geschäfts | derselbe Tag der Vorwoche | ETS | globales LightGBM auf verzögerten Werten (Lags) |
| Empfehlung | am beliebtesten | ALS | Two-Tower-Netz |
| Expected Goals | Torquote nach Spielfeldzone | logistische Regression auf Distanz und Winkel | Boosting mit Schusskontext |
Das naive Modell ist keine Formalität: Es ist die Referenz, die jeder anderen Zahl ihre Bedeutung gibt, und es sollte dem ähneln, was das Unternehmen heute tut. Der Überblick über die Modelle beschreibt jede Familie und ihre Fallstricke.
Was ein Machine-Learning-Projekt einbringt und im Vergleich wozu
Ein Gewinn wird an dem gemessen, was das Unternehmen bereits tut, nie am völligen Fehlen eines Modells, und jede Annahme ist entweder belegt oder gekennzeichnet.
Der Foliensatz nennt zwei Wege, einen Gewinn zu beziffern. Der erste zählt vermiedene Fehler: Entscheidungen, die Veränderung bei den falsch-negativen und den falsch-positiven Fällen und die Stückkosten jedes Fehlers. Im Kreditgeschäft ist ein falsch-negativer Fall ein angenommener Ausfall, ein falsch-positiver ein abgewiesener guter Kunde; beim Betrug ist ein falsch-positiver Fall verlorene Analystenzeit oder eine irrtümlich gesperrte Karte. Der zweite zählt Zeit: Fälle pro Jahr, eingesparte Stunden pro Fall, die Vollkosten einer Arbeitsstunde. Anschließend werden die Kosten abgezogen.
Ein durchgerechnetes Beispiel für eine fiktive Bank (alle Annahmen vom Foliensatz erfunden)
- Betrugsfälle. Eine Million Kartentransaktionen pro Monat bei einer Betrugsquote von 0,2 % ergeben 2.000 Betrugsfälle pro Monat.
- Zusätzlich gestoppte Betrugsfälle. Die Regeln stoppen 40 % davon, das Modell 60 % bei gleicher Zahl von Alarmen: 2.000 × 0,2 = 400 mehr pro Monat.
- Bruttogewinn. Bei einem durchschnittlichen Verlust von 80 € pro Betrugsfall ergibt das 400 × 80 = 32.000 € pro Monat oder 384.000 € pro Jahr.
- Nettogewinn. Eine Wartung für 3.000 € pro Monat kostet 36.000 € pro Jahr, es bleiben also 348.000 € netto.
In einem echten Projekt stammen Betrugs- und Erkennungsquote aus dem Testdatensatz, mit einem Konfidenzintervall, der durchschnittliche Verlust aus einer öffentlichen Quelle oder aus den Daten (die ULB-Datei enthält jeden Betrag) und die Wartungskosten aus einer Schätzung, die Sie begründen. Ein Intervall für den Gewinn ist besser als eine einzelne Zahl.
| Branche | Zahl | Quelle |
|---|---|---|
| Zahlungsverkehr, Europa | Betrug von 3,4 Mrd. € (2022), 3,5 Mrd. € (2023), 4,2 Mrd. € (2024); Kartenbetrug 1,3 Mrd. € im Jahr 2024 | gemeinsamer Bericht von EBA und EZB, Dezember 2025 |
| Zahlungsverkehr, Frankreich | 1,241 Mrd. € Betrug im Jahr 2025, davon 475 Mio. € bei Karten; Betrug durch Manipulation 516 Mio. €, ein Plus von 34 % | Observatoire de la sécurité des moyens de paiement, Banque de France, September 2026 |
| Versicherung, Frankreich | 946 Mio. € aufgedeckter Betrug im Jahr 2025, davon etwa 627 Mio. € in der Schaden- und Unfallversicherung | ALFA, französische Agentur zur Bekämpfung von Versicherungsbetrug |
| Lieferkette | frühe KI-Anwender verbessern die Logistikkosten um 15 %, die Lagerbestände um 35 % und den Servicegrad um 65 % | McKinsey, April 2021: Zahl einer Unternehmensberatung ohne veröffentlichte Daten |
| Streaming | über 1 Mrd. US-Dollar pro Jahr durch Personalisierung eingespart; etwa 80 % der angesehenen Stunden stammen aus Empfehlungen | Gomez-Uribe und Hunt, ACM TMIS, 2015: das Unternehmen bewertet sich selbst |
| Suchmaschinenwerbung | eine geänderte Anzeigenüberschrift steigerte die Werbeeinnahmen von Bing um 12 %, über 100 Mio. US-Dollar pro Jahr in den Vereinigten Staaten | Kohavi und Thomke, Harvard Business Review, 2017 |
| Fußball | etwa 2,6 Mio. £ leistungsabhängige Prämien pro Tabellenplatz in der Premier League 2024/25 | Premier League, Mai 2026 |
| Öffentlicher Sektor | ein Programm zur Erkennung von Schwimmbecken kostete 27,3 Mio. € und brachte 2022 10,1 Mio. € ein, bei einem Ziel von 130 Mio. € | Cour des comptes, Oktober 2024 |
Bemerkung (Die Marktgröße ist nicht Ihr Gewinn). Was ein Modell einbringt, ist der Anteil, den es über die bereits bestehenden Regeln hinaus beiträgt, bei konstantem Alarmbudget, und der Betrug verlagert sich immer weiter hin zur Manipulation, die Transaktionsmodelle schlecht erkennen. Der Foliensatz warnt auch vor Zahlen, die ohne Primärquelle kursieren, etwa einem Anteil von 35 % der Amazon-Umsätze, der den Empfehlungen zugeschrieben wird. Auf der Kostenseite zeigten Sculley et al. (NeurIPS 2015), dass der Lerncode nur ein kleiner Teil eines Produktivsystems ist; Daten, Rechenleistung, Personal, Überwachung und Compliance (KI-Verordnung, DSGVO, DORA im Finanzsektor) tragen die laufenden Kosten.
Wie man ein Machine-Learning-Projekt auswählt
Ein gutes Thema bekommt viermal ein Ja: Die Daten lassen sich diese Woche herunterladen, die Entscheidung ist klar, drei Modelle lassen sich vergleichen, und eine einfache Seite kann einen Fall zeigen.
Das Auswahlraster
- Daten noch diese Woche. Eine Adresse, eine Lizenz und ein Download, der jetzt funktioniert. Dieser Punkt ist ein Ausschlusskriterium: Ein Download, der heute scheitert, wird in zwei Monaten nicht besser funktionieren.
- Eine klare Entscheidung. Jemand könnte aufgrund der Vorhersage etwas anders machen.
- Drei vergleichbare Modelle. Ein naives, ein bestes vernünftiges und ein aufwendiges, auf derselben Aufteilung und mit derselben Metrik.
- Eine machbare Oberfläche. Eine Seite, zum Beispiel mit Streamlit oder Gradio, auf der man einen Fall eingibt und die Antwort liest, ohne einen Server betreiben zu müssen.
Das Rezept hinter den stärksten Projekten früherer Jahrgänge ist kurz: ein sauberer Datensatz aus dem Katalog, dazu eine externe Quelle, die eine Idee beisteuert (das Wetter bei der Nachfrageprognose, der Kontext jedes Schusses bei Expected Goals, die Straßenentfernungen bei verspäteten Paketen), dazu eine Entscheidung, die man einem Laien erklären kann.
Woran ein Projekt scheitert, vom Modell abgesehen
- Fehlende Daten: für nächste Woche versprochen, nie geliefert oder ohne die Zielvariable geliefert. Der Kurs zitiert Gartner (Februar 2025) mit der Prognose, dass bis 2026 60 % der KI-Projekte ohne KI-taugliche Daten aufgegeben werden.
- Eine unscharfe Zielvariable: Niemand kann sagen, welche Zeilen als Erfolg zählen.
- Kein Verantwortlicher: Für die Vorhersage gibt es kein Fachteam, das bereit ist, danach zu handeln.
- Die Beschaffung: Sicherheitsprüfungen, Verträge und Einkauf, die länger dauern als das Projekt selbst; der Kurs umgeht das, indem er mit offenen Daten arbeitet, und die Einführung in den Kurs kommt darauf zurück.
Das Teamprojekt ist in der Themenwahl frei, folgt aber der Methode des roten Fadens: ein Steckbrief, ein reproduzierbares Repository, drei ehrlich verglichene Modelle, eine Modellkarte (Model Card), Folien und eine Oberfläche. Die Notizen zu den Hausaufgaben beschreiben die Schritte, von der Abgrenzung des Projekts über ein erstes einfaches Modell bis zur Abschlussabgabe.
Das Wichtigste in Kürze
- Wählen Sie die Daten vor dem Modell: Wenn Sie diese Woche keine Adresse und keine Lizenz aufschreiben können, wechseln Sie das Thema.
- Zwei Fragen erschließen die meisten Lizenzen (Veröffentlichung eines abgeleiteten Werks, kommerzielle Nutzung), und keine Lizenz befreit von der DSGVO.
- Der Steckbrief in sechs Zeilen beginnt mit der Entscheidung; die Zeile zur Zielvariable muss sagen, wann das Ergebnis bekannt ist und wann die Vorhersage getroffen wird.
- Jede Branche hat ihre Falle: die Selektionsverzerrung beim Kredit, die seltene Klasse beim Betrug, die Exposition in der Versicherung, der Solver in der Logistik, der A/B-Test in der Tech-Branche, winzige Stichproben im Fußball.
- Jedes Mal drei Modelle, darunter ein naives, das der heutigen Praxis ähnelt; das aufwendige Modell bleibt nur, wenn es eine Entscheidung ändert.
- Ein Gewinn wird am Zuwachs gegenüber dem Bestehenden gemessen, mit belegten oder gekennzeichneten Annahmen und abzüglich der Kosten für Daten, Rechenleistung, Personal und Wartung.
Glossar
- offene Daten (open data)
- Daten, die veröffentlicht werden, damit jeder sie unter einer angegebenen Lizenz weiterverwenden kann, etwa CC BY 4.0, CC0, die französische Licence Ouverte oder ODbL.
- Projektsteckbrief (scope document)
- Die sechs Zeilen, die ein Team vor dem Programmieren schreibt: Entscheidung, Zielvariable, Metrik, Schutzvorkehrungen, Daten und Plan.
- Data Leakage
- Information in einem Merkmal, die zum Zeitpunkt der Entscheidung nicht verfügbar wäre; sie schönt das Testergebnis und versagt in der Produktion.
- Referenzmodell (baseline)
- Das naive Modell, das ein Projekt schlagen muss, idealerweise nah an dem, was das Unternehmen heute tut.
- Weitergabe unter gleichen Bedingungen (share-alike)
- Lizenzklausel (CC BY-SA, ODbL), nach der abgeleitete Datenbanken unter derselben Lizenz veröffentlicht werden müssen.
- Nettorisikoprämie (pure premium)
- Erwartete Schadenhäufigkeit mal erwartete Schadenkosten eines Profils, vor Kosten und Marge.
- Exposition (exposure)
- Die Zeit, in der ein Vertrag versichert war, in Jahren; sie geht als Offset in ein Häufigkeitsmodell ein.
- Precision-Recall-Kurve (precision-recall curve)
- Precision gegen Recall über alle Schwellenwerte; aussagekräftiger als die ROC-Kurve, wenn Positive selten sind.
- Value at Risk (VaR)
- Der Verlust, der über einen Horizont mit einer gegebenen kleinen Wahrscheinlichkeit überschritten wird, zum Beispiel an einem von hundert Tagen bei 99 %.
- Tourenplanungsproblem (vehicle routing problem, VRP)
- Haltepunkte Fahrzeugen zuordnen und unter Kapazitäten und Zeitfenstern in eine Reihenfolge bringen; ein Optimierungsproblem, das mit Heuristiken gelöst wird.
- Matrixfaktorisierung (matrix factorisation)
- Die Näherung einer dünn besetzten Matrix aus Nutzern und Artikeln durch das Produkt zweier kleiner Matrizen latenter Vorlieben.
- Antiselektion (adverse selection)
- Gute Risiken wandern zu einem günstigeren Wettbewerber ab und schlechte Risiken bleiben: die Kosten eines ungenauen Tarifs.
- Anomalieerkennung (anomaly detection)
- Lernen, wie normale Daten aussehen, und Abweichungen melden; eingesetzt, wenn Defekte zu selten sind, um sie direkt zu lernen.
Die anderen Notizen des Kurses
Eine öffentliche Zusammenfassung pro Foliensatz, in der Reihenfolge des Kurses.
Zurück: Deep Learning, das WesentlicheWeiter: Handbuch für Daten- und KI-Fachleute
- EinführungKI-Winter, Arbeitsmarkt und Methode
- WerkzeugeKaggle, GitHub, Python: die Werkzeuge
- Sitzung 1Projektrahmen und kleinste Quadrate
- Sitzung 2Maximum Likelihood und logistische Regression
- Sitzung 3Gradientenabstieg, Ridge und Lasso
- Sitzung 4Entscheidungsschwelle und reproduzierbares ML
- HausaufgabeML-Projekt abstecken: der Projektsteckbrief
- Sitzung 5Kernel, SVM und Entscheidungsbäume
- Sitzung 6Random Forests, Boosting, ehrlicher Vergleich
- Sitzung 7SHAP, Fairness, PCA und Clustering
- HausaufgabeEin einfaches Modell mit vollständiger Methode
- Sitzung 8Neuronale Netze, Drift, konforme Vorhersage
- HausaufgabeEin ausgeliefertes Machine-Learning-Projekt
- Sitzung 9Ein Machine-Learning-Projekt verteidigen
- ReferenzProjekt zum Kreditausfallscore
- ReferenzAktienrenditen: XGBoost und Sentiment
- ReferenzPython-Code für jedes ML-Modell
- ReferenzDeep Learning, das Wesentliche
- ReferenzML-Projekte mit offenen Daten nach Branche
- ReferenzHandbuch für Daten- und KI-Fachleute
- ReferenzData Engineering, SRE und Cloud
- ReferenzPanorama der Machine-Learning-Modelle
Über diese Notizen
Vom Dozenten auf Grundlage der Folien verfasst, als öffentliche Zusammenfassung: die Kernideen, die Formeln und ein durchgerechnetes Beispiel. Die Übungen, ihre Lösungen, die Tests und die Bewertung bleiben im Foliensatz, für die Studierenden des Kurses.
Stand: .