Zum Inhalt springen

~/teaching · machine learning · referenz

Offene Daten und Machine-Learning-Projekte nach Branche: Finanzen, Versicherung, Logistik, Tech, Sport

Quellen und Lizenzen, ein Steckbrief in sechs Zeilen, ein Projektblatt pro Branche und wie man beziffert, was ein Modell einbringt.

Zusammenfassung

Dieser Referenz-Foliensatz des Kurses Machine Learning an der Centrale Méditerranée (Schwerpunkt DDEFI, 2026-2027) ist keine Vorlesung. Er ist der Katalog, den ein Team liest, wenn es sein eigenes Projekt auswählen und abgrenzen muss. Er beginnt mit den Daten, denn ein Thema, dessen Daten sich nicht noch diese Woche herunterladen lassen, ist noch kein Thema, und geht dann fünf Branchen ausführlich durch (Finanzen, Versicherung, Logistik, Big Tech, Fußball) sowie sieben weitere in knapper Form, jeweils mit offenen Datensätzen, einem vollständigen Projektblatt, den Python-Bibliotheken und, wenn eine öffentliche Quelle es erlaubt, dem, was ein solches Projekt wert ist.

Jede Datensatzadresse und jede Lizenz im Foliensatz wurde am 12. Oktober 2026 geprüft, und keine Gewinnzahl erscheint ohne benannte Quelle; Größenordnungen ohne Quelle sind als solche gekennzeichnet. Diese Seite fasst die Methode zusammen: wo offene Daten (open data) liegen und was ihre Lizenz erlaubt, den Projektsteckbrief (scope document) in sechs Zeilen, die Ideen Branche für Branche, den Aufbau des Repositorys und die Pakete, die Nutzenrechnung und ein Raster aus vier Fragen für die Themenwahl.

Nach der Lektüre sollten Sie einen Datensatz, seine Lizenz und die Entscheidung, der er dient, benennen, den Steckbrief eines dreimonatigen Projekts schreiben und erklären können, warum Ihr naives Modell das zu schlagende ist. Dieselbe Methode wird von Anfang bis Ende auf einen gemeinsamen Datensatz angewandt, im Projekt zum Kreditausfall-Scoring.

Die Folien

Offene Daten und Machine-Learning-Projekte nach Branche: Finanzen, Versicherung, Logistik, Tech, Sport

Referenz. Machine Learning, Centrale Méditerranée, Schwerpunkt DDEFI, 2026-2027. Die Folien gibt es auf Französisch und Englisch; der Link öffnet die englische Fassung.

Folien öffnen (Passwort vom Dozenten)

Der Foliensatz selbst ist für die Studierenden des Kurses verschlüsselt; diese Seite fasst ihn für alle zusammen.

Die Kursseite · Aufmerksamkeit und Transformer, Schritt für Schritt

Aufbau des Foliensatzes

  1. Wo man offene Daten findet. Rund zwanzig Quellen in fünf Familien, ihre Lizenzen und was das Datenschutzrecht weiterhin verbietet.
  2. Der Steckbrief in sechs Zeilen. Die Vorlage, ein ausgefülltes Beispiel zu Lieferverspätungen und drei Fehler, die jedes Jahr vorkommen.
  3. Finanzen. Kredit-Scoring, Kartenbetrug, Geldwäschebekämpfung, Marktrisiko und was Zahlungsbetrug kostet.
  4. Versicherung. Tarifierung nach Schadenhäufigkeit und Schadenhöhe auf einem französischen Kfz-Bestand und das Duell zwischen GLM und Boosting.
  5. Logistik und Lieferkette. Nachfrageprognose, Tourenplanung, Lieferverspätungen und vorausschauende Wartung.
  6. Big Tech. Empfehlungssysteme, Ranking von Suchergebnissen, Werbung, Inhaltsmoderation und der A/B-Test.
  7. Fußball und Sport. Expected Goals, Spielergebnisse im Vergleich mit den Quoten der Buchmacher und die Grenzen kleiner Stichproben.
  8. Sieben weitere Branchen. Energie, Immobilien, Gesundheit, Personalwesen, öffentlicher Sektor, Marketing und Industrie.
  9. Aufbau, Pakete und Erträge. Das Repository, die Bibliotheken, die Wahl der drei Modelle und die Nutzenrechnung.
  10. Das Teamprojekt wählen. Ein Auswahlraster, zehn in drei Monaten machbare Ideen und woran ein Projekt meistens scheitert.

Wo man offene Daten findet, Familie für Familie

Offene Daten gibt es in fünf Familien, von bereinigten Tabellen mit fertiger Zielvariable bis zu rohen öffentlichen Zeitreihen, die man selbst bereinigen und verknüpfen muss.

Der Foliensatz ordnet seine Quellen von den gebrauchsfertigsten bis zu den rohesten. Machine-Learning-Plattformen liefern bereinigte Tabellen mit einer Zielvariable: bequem, aber Tausende haben schon damit gearbeitet. Die amtliche Statistik liefert saubere offizielle Zeitreihen, selten mit Zielvariable. Makro- und Finanz-APIs liefern Zinssätze, Indizes und Preise. Quellen aus der realen Welt (Nachrichten, Wetter, Karten, enzyklopädisches Wissen) ergeben selten für sich allein ein Projekt, bereichern aber jedes. Der Sport liefert sehr detaillierte Spielereignisse.

Tabelle 1: Die fünf Quellenfamilien mit Beispielen und ihren üblichen Bedingungen, Stand 12. Oktober 2026. Bedingungen ändern sich: Lesen Sie sie bei Ihrer Wahl noch einmal nach.
FamilieBeispieleÜbliche Bedingungen
ML-PlattformenKaggle, UCI ML Repository, OpenML, Hugging FaceJe nach Datensatz; auf Kaggle gibt die hochladende Person die Lizenz an, und jeder Wettbewerb hat eigene Regeln; UCI meist CC BY 4.0
Amtliche Statistikdata.gouv.fr, data.public.lu, INSEE, Eurostat über seine SDMX-APILicence Ouverte 2.0 oder ODbL in Frankreich, CC0 in Luxemburg empfohlen, Eurostat mit Quellenangabe weiterverwendbar
Makro und FinanzenWeltbank, FRED, EZB, Kenneth French Data Library, EDGARWeltbank CC BY 4.0; FRED verlangt einen kostenlosen Schlüssel, und manche Zeitreihen gehören Dritten; EZB frei bei Quellenangabe und ohne Veränderung
Reale WeltGDELT, Open-Meteo, OpenStreetMap, WikidataGDELT frei mit Quellenangabe; Open-Meteo-Daten CC BY 4.0, kostenlose API für nichtkommerzielle Nutzung; OpenStreetMap ODbL; Wikidata CC0
SportStatsBomb open data, football-data.co.uk, Metrica, SkillCornerNichtkommerzielle Vereinbarungen oder nur private Nutzung; siehe die Fußballideen weiter unten

Man wägt Bequemlichkeit gegen Originalität ab. Eine Kaggle-Tabelle lädt man mit einer Zeile, und Ihr Projekt wird tausend anderen gleichen; zwei öffentliche Quellen zu verknüpfen kostet eine Woche Bereinigung und ergibt etwas, das noch niemand gemacht hat. Der Foliensatz empfiehlt den Mittelweg, der bisher die besten Projekte hervorgebracht hat: einen sauberen Ausgangsdatensatz, angereichert um eine externe Quelle, etwa das Tageswetter zu den Verkäufen eines Geschäfts.

Bemerkung (Drei Fallen). Auf Kaggle ist die angezeigte Lizenz die Wahl der hochladenden Person, die diese Wahl womöglich gar nicht treffen durfte (Daten von Lending Club oder Transfermarkt, als CC0 erneut veröffentlicht): Halten Sie die tatsächliche Herkunft in data/README.md fest. Makroökonomische Zeitreihen werden nach der Veröffentlichung revidiert, sodass ein Prognosemodell, das mit den heutigen BIP-Zahlen trainiert wird, Werte verwendet, die damals niemand hatte; ALFRED von FRED bewahrt die alten Datenstände auf. Yahoo Finance, die Lieblingsquelle der Studierenden, behält seine Daten der persönlichen Nutzung vor: Veröffentlichen Sie das Skript, das die Kurse herunterlädt, niemals die Kursdateien.

Zurück zum Inhalt.

Eine Datenlizenz lesen und was die DSGVO weiterhin verbietet

Zwei Fragen klären fast jede Lizenz: Darf ich etwas veröffentlichen, das aus den Daten abgeleitet ist, und darf ich es kommerziell nutzen?

Ein abgeleitetes Werk ist alles, was aus den Daten gebaut wird: eine bereinigte Datei, ein Diagramm, ein trainiertes Modell. Der Foliensatz reduziert die Lizenzen des Katalogs auf diese beiden Fragen, was für Kursarbeiten genügt. Eine dritte Frage zählt in der Produktion und ist bei nichtkommerziellen Lizenzen und bei im Web gesammelten Korpora rechtlich weiterhin offen: Deckt die Lizenz auch das mit den Daten trainierte Modell ab? Im Zweifel ist es am ehrlichsten, beim Herausgeber der Daten nachzufragen.

Tabelle 2: Die Lizenzen des Katalogs, reduziert auf zwei Fragen.
LizenzAbgeleitetes Werk veröffentlichenKommerzielle NutzungPflicht
CC0, gemeinfreijajakeine, eine Quellenangabe ist aber trotzdem höflich
CC BY 4.0, Licence Ouverte 2.0jajaQuelle nennen und angeben, was geändert wurde
CC BY-SA, ODbLja, unter derselben LizenzjaWeitergabe unter gleichen Bedingungen (share-alike) für abgeleitete Datenbanken
CC BY-NC, CC BY-NC-SAjaneingut für ein Hochschulprojekt, ein Ausschlusskriterium für ein Start-up
Persönliche Nutzung (Yahoo Finance, football-data.co.uk)neinneindas Download-Skript weitergeben, nicht die Daten
Kaggle-Wettbewerbsregelnwie es die Regeln vorsehenmeist neinzuerst die Seiten Data und Rules lesen

Eine freizügige Lizenz hebt die Datenschutz-Grundverordnung (Verordnung (EU) 2016/679) niemals auf. Daten, die sich einer Person zuordnen lassen, direkt oder durch Abgleich, sind personenbezogen; Namen durch Codes zu ersetzen (Pseudonymisierung) ändert daran nichts; Gesundheit, Meinungen oder Herkunft sind besondere Kategorien im Sinne von Artikel 9. Die französische DVF-Datei der Immobilienverkäufe ist offen, und doch verbieten ihre Nutzungsbedingungen, die Verkäufer zu reidentifizieren oder die Verkäufe von Suchmaschinen indexieren zu lassen.

  • Arbeiten Sie mit aggregierten Daten, mit vom Herausgeber anonymisierten Daten oder mit synthetischen Daten (Synthea für Patienten, PaySim für mobile Zahlungen, die simulierten Geldwäschetransaktionen von IBM).
  • Sammeln Sie keine Profile aus sozialen Netzwerken oder von Bewertungsplattformen per Scraping: Ein Hochschulprojekt hat weder die Rechtsgrundlage noch die Mittel, die betroffenen Personen zu informieren.
  • Laden Sie keine personenbezogenen Einzeldaten in ein öffentliches Repository hoch, auch nicht pseudonymisiert, und bewahren Sie API-Schlüssel in einer .env-Datei auf, die Git ignoriert.

Zurück zum Inhalt.

Der Steckbrief eines Machine-Learning-Projekts in sechs Zeilen

Vor jeder Codezeile beantwortet ein Team sechs Fragen mit je einem Satz; lässt sich eine Zeile diese Woche nicht füllen, muss das Thema wechseln, nicht das Modell.

Die Vorlage

  1. Entscheidung. Wer auf Grundlage der Vorhersage handelt und was jede Fehlerart kostet.
  2. Zielvariable. Was vorhergesagt wird, mit welchem Horizont und an welchem Datum es bekannt wird.
  3. Metrik. Diejenige, die die Entscheidung misst, mit dem Niveau, ab dem das Modell nützlich wird.
  4. Schutzvorkehrungen. Verbotene Variablen, geschützte Gruppen, mögliche Leaks aus der Zukunft.
  5. Daten. Adresse, Lizenz, abgedeckter Zeitraum und was die Daten nicht enthalten.
  6. Plan. Drei Modelle (naiv, bestes vernünftiges, aufwendig), die Meilensteine und wer was macht.

Die Entscheidung steht am Anfang, weil sie den Rest festlegt: die nützliche Zielvariable, die relevante Metrik, die Fehler, die wehtun. Ein Projekt ohne erkennbaren Entscheider endet als Demo, bei der nichts auf dem Spiel steht. Der Steckbrief ist eine Datei im Repository, die per Pull Request freigegeben und geändert wird, wie in der Notiz zu den Werkzeugen eingerichtet; die erste Hausaufgabe baut darauf das Referenzmodell (baseline).

Ein ausgefülltes Beispiel: Lieferverspätungen bei Olist

Tabelle 3: Die sechs Zeilen für ein Projekt zu Lieferverspätungen anhand der Bestellungen der brasilianischen E-Commerce-Plattform Olist (Kaggle, CC BY-NC-SA 4.0, rund 100.000 Bestellungen von 2016 bis 2018).
ZeileInhalt
EntscheidungDer Kundenservice warnt den Käufer vor einem verspäteten Paket; eine unnötige Warnung kostet eine Nachricht, eine unangekündigte Verspätung eine schlechte Bewertung
ZielvariableNach dem zugesagten Datum geliefert, ja oder nein: bekannt bei der Lieferung, vorhergesagt beim Versand des Pakets
MetrikPrecision (Anteil berechtigter Alarme) und Recall (Anteil erkannter Verspätungen) beim gewählten Schwellenwert, PR-AUC, erwartete Kosten pro Bestellung
SchutzvorkehrungenNichts, was nach dem Versand beobachtet wird; Aufteilung nach Datum; keine namentlichen personenbezogenen Daten
DatenOlist-Bestellungen mit Kaufdatum, Versanddatum, tatsächlichem und zugesagtem Lieferdatum
PlanHistorische Verspätungsquote des Zielbundesstaats; logistische Regression; LightGBM mit Entfernungen und Wetter

Die Zeile zur Zielvariable leistet die meiste Arbeit: Sie sagt, wann das Ergebnis bekannt ist und wann die Vorhersage getroffen wird, sodass alles, was dazwischen geschieht, als Merkmal verboten ist. Auch die Lizenzzeile zählt: Nichtkommerziell und unter gleichen Bedingungen passt zu einer Kursarbeit, nicht zum Weiterverkauf.

Drei Fehler, die jedes Jahr vorkommen

  • Eine vage Zielvariable. „Zufriedenheit“ ist keine Spalte. Eine Zielvariable ist eine Regel, die sich auf jede Zeile anwenden lässt, mit einem Datum, zum Beispiel eine schlechte Bewertung innerhalb eines Monats nach der Lieferung.
  • Die falsche Metrik. In den ULB-Daten zum Kartenbetrug kommen 492 Betrugsfälle auf 284.807 Transaktionen (492/284 807≈0.173%492/284\,807 \approx 0.173\%, etwa einer von 579); ein Modell, das immer „kein Betrug“ sagt, erreicht eine Accuracy (Anteil richtiger Vorhersagen) von 99,83 % und stoppt nichts. Messen Sie, was die Analysten mit so vielen Alarmen abfangen, wie sie prüfen können.
  • Daten aus der Zukunft. Die Zahl der Zahlungserinnerungen sagt den Ausfall sehr gut voraus, weil die Erinnerungen auf den Ausfall folgen. Das ist die häufigste Form von Data Leakage; das Gegenmittel besteht darin, für jede Variable zu fragen, an welchem Datum sie bekannt ist.

Zurück zum Inhalt.

Machine-Learning-Projektideen nach Branche

Jede Branche hat eine typische Entscheidung, einen offenen Datensatz für den Einstieg und eine eigene Falle; der Foliensatz schreibt für jede Hauptbranche ein vollständiges Projektblatt.

Ein Projektblatt übernimmt das Raster des Steckbriefs und ergänzt drei Felder: was das Team liefert, mit welchen Paketen und warum jemand dafür bezahlen würde. Die folgende Tabelle versammelt die zehn Ideen, die der Foliensatz in drei Monaten für machbar hält; zusammen decken sie die Problemtypen des Kurses ab (Klassifikation, Regression von Anzahlen und Beträgen, Zeitreihen, Ranking).

Tabelle 4: Zehn Projektideen mit ihren Ausgangsdaten und ihrer Lizenz (Adressen am 12. Oktober 2026 geprüft).
ThemaAusgangsdatenUnterstützte EntscheidungLizenz
Kreditausfall-ScoreHome Credit Default Risk (Kaggle) oder UCI-Datensatz 350annehmen, an einen Analysten weitergeben oder ablehnenWettbewerbsregeln; CC BY 4.0
KartenbetrugULB Credit Card Fraud (Kaggle)welche Transaktionen ein festes tägliches Alarmbudget füllenODbL, Inhalte DbCL
Kfz-TarifierungfreMTPL2, Häufigkeit und Höhe (OpenML)die Nettorisikoprämie jedes ProfilsGPL für CASdatasets; OpenML zeigt CC0
Nachfrage eines GeschäftsM5 Forecasting (Kaggle), ein einzelnes Geschäftdie wöchentliche Bestellung jedes ArtikelsWettbewerbsregeln
LieferverspätungenOlist Brazilian E-Commerce (Kaggle)den Käufer im Voraus warnenCC BY-NC-SA 4.0
TriebwerkswartungNASA C-MAPSS, Teilmenge FD001wann ein Triebwerk überholt werden sollnicht angegeben; NASA zitieren
FilmempfehlungMovieLens (GroupLens)die zehn Titel, die jedem Nutzer angezeigt werdenForschung, nichtkommerziell
Expected GoalsStatsBomb open dataeinen Stürmer über die erzielten Tore hinaus beurteilenStatsBomb-Nutzungsvereinbarung
ImmobilienpreiseDVF, data.gouv.freine Immobilie bewertenLicence Ouverte plus besondere Bedingungen
StrombedarféCO2mix (RTE) mit Open-Meteodie Lastspitze des nächsten Tages vorhersehenLicence Ouverte; CC BY 4.0

Finanzen: Kredit, Betrug, Marktrisiko

Ein Kreditprojekt folgt einem Kreislauf: Merkmale, die am Tag des Antrags bekannt sind, eine Ausfallwahrscheinlichkeit auf zwölf Monate, zwei kostenbasierte Schwellenwerte, die Annahme, Prüfung und Ablehnung trennen, dann ein erneutes Training, sobald die Ergebnisse bekannt sind. Sein eingebauter Mangel ist eine Selektionsverzerrung: Ausfälle werden nur bei angenommenen Antragstellern beobachtet, und jeder öffentliche Datensatz enthält nur gewährte Kredite. Alter und Geschlecht werden nicht als Merkmale verwendet, aber separat aufbewahrt, um Fairness zu messen, und das Kredit-Scoring natürlicher Personen ist nach Anhang III der KI-Verordnung der EU (AI Act, Verordnung (EU) 2024/1689) ein Hochrisiko-System. Beim Kartenbetrug decken die ULB-Daten zwei Tage ab: Man trainiert auf dem ersten, testet auf dem zweiten, bewertet mit der Precision-Recall-Kurve (precision-recall curve) und mit dem Recall bei einer festen Zahl von Alarmen, gewichtet die Klassen neu, bevor man Resampling versucht, und kalibriert danach neu. Am Kapitalmarkt sind Renditen schwer vorherzusagen (die Notiz zu Vermögenspreisen zeigt, warum), die Volatilität viel weniger, weil sie in Clustern auftritt, und ein Value at Risk (VaR) zum Niveau 99 % wird geprüft, indem man die Tage zählt, an denen er überschritten wird: In 250 Tagen erwartet man etwa 2,5, und der Kupiec-Test (1995) sagt, ob die Abweichung Zufall ist.

P(rt+1<−VaR99%)=0.01P\big(r_{t+1} < -\mathrm{VaR}_{99\%}\big) = 0.01
(1)

Versicherung: Häufigkeit mal Höhe

Die Tarifierung in der Nichtlebensversicherung multipliziert zwei Modelle. Die Häufigkeit, also die Zahl der Schäden pro Jahr, wird mit einem Poisson-GLM mit Log-Link modelliert, in das die Exposition (exposure) eie_i (der versicherte Zeitraum in Jahren) als Offset eingeht, sodass sechs Monate als halbes Jahr zählen; die Höhe, also die Kosten eines Schadens, modelliert man mit einem Gamma-GLM, das auf den Verträgen mit Schäden geschätzt wird. Das Produkt beider Modelle ergibt die Nettorisikoprämie (pure premium). Der Referenzdatensatz freMTPL2 ist ein französischer Kfz-Bestand mit 678.013 Verträgen und 26.639 Schadenbeträgen (Größen laut OpenML). Seit dem Test-Achats-Urteil (EuGH, 2011) darf das Geschlecht in der EU die Prämie nicht mehr beeinflussen. Die Studie der Deutschen Aktuarvereinigung (DAV, 2024) und Henckaerts et al. (2021) sehen Boosting vor dem GLM; verbreitet ist es, das Boosting die Wechselwirkungen aufdecken zu lassen und sie dann in ein GLM aufzunehmen, das ein Tarifausschuss vertreten kann, was die Antiselektion (adverse selection) begrenzt, ohne die Lesbarkeit zu opfern.

log⁡E[Ni]=log⁡ei+xi⊤β\log \mathbb{E}[N_i] = \log e_i + x_i^{\top}\beta
(2)
πi=E[Ni]⋅E[S∣xi]\pi_i = \mathbb{E}[N_i]\cdot\mathbb{E}[S \mid x_i]
(3)

Logistik: Das Modell sagt voraus, der Solver entscheidet

Machine Learning prognostiziert Mengen und Zeiten; das Operations Research macht daraus Bestellungen und Routen. Im M5-Wettbewerb (Walmart-Verkäufe, 42.840 hierarchische Zeitreihen) dominierten erstmals Lernverfahren, angeführt von LightGBM, und der Sieger übertraf laut Makridakis, Spiliotis und Assimakopoulos (International Journal of Forecasting, 2022) den besten statistischen Vergleichsmaßstab um 22,4 %. Der skalierte Fehler RMSSE ist einfach zu lesen: Unter 1 schlägt man die naive Prognose. Eine Prognose des 90-%-Quantils legt direkt einen Sicherheitsbestand fest. Das Tourenplanungsproblem (vehicle routing problem, VRP) ist ein Optimierungsproblem, das man mit OR-Tools löst, kein Lernproblem, und das zu sagen zeigt, dass man das Handwerk versteht. Bei den Triebwerken des NASA-Datensatzes C-MAPSS sagt man die verbleibende Nutzungsdauer voraus und teilt nach Triebwerk auf, nie nach Zeile.

Big Tech: Empfehlung, Ranking, Experimente

Ein Empfehlungssystem füllt eine fast leere Matrix aus Nutzern und Artikeln, indem es jedem Nutzer und jedem Artikel einen kurzen Vektor gelernter Vorlieben gibt: Das ist die Matrixfaktorisierung (matrix factorisation). Reale Systeme sehen Klicks statt Bewertungen, daher alternierende kleinste Quadrate auf implizitem Feedback (die Bibliothek implicit). Auf MovieLens teilt man zeitlich auf und muss damit rechnen, dass „am beliebtesten“ bei der Precision der ersten zehn Empfehlungen schwer zu schlagen ist; geben Sie auch die Katalogabdeckung an. Das Ranking von Suchergebnissen wird mit NDCG@10 auf Amazons ESCI-Anfragen bewertet, die Klickvorhersage für Werbung mit dem Log-Loss, weil das Gebot die Wahrscheinlichkeit selbst verwendet. Moderationsmodelle auf den Jigsaw-Kommentaren bewerten Identitätsbegriffe zu hoch, daher misst man den Fehler pro Gruppe. In jedem Fall ist die Offline-Metrik ein Versprechen, das nur ein A/B-Test einlösen kann.

r^ui=pu⊤qi\hat r_{ui} = p_u^{\top} q_i
(4)

Fußball: Expected Goals und Ergebnisse

Ein Expected-Goals-Modell gibt jedem Schuss seine Torwahrscheinlichkeit aus Entfernung, Winkel und Spielkontext; aufsummiert ergeben die Wahrscheinlichkeiten den xG-Wert einer Mannschaft oder eines Spielers. Weil sie summiert werden, zählt die Kalibrierung mehr als das Ranking: Verwenden Sie also Log-Loss, Brier-Score und eine Kalibrierungskurve, teilen Sie nach Spiel auf und behandeln Sie Elfmeter gesondert. Für die Vorhersage von Ergebnissen ist das Poisson-Modell mit Angriffs- und Abwehrstärke von Maher (1982) sowie von Dixon und Coles (1997) der Klassiker; der eigentliche Vergleichsmaßstab sind die Quoten der Buchmacher, umgerechnet in Wahrscheinlichkeiten 1/c1/c und neu skaliert, um die Marge herauszurechnen. Das Projekt misst Wahrscheinlichkeiten und empfiehlt keine Wette; die Bedingungen von Transfermarkt verbieten das Training von Modellen, und football-data.co.uk behält seine Dateien der privaten Nutzung vor.

xG=P(Tor∣Distanz, Winkel, Kontext)xG = P(\text{Tor} \mid \text{Distanz, Winkel, Kontext})
(5)

Sieben weitere Branchen in je einer Zeile

  • Energie. Landesweiter Verbrauch des nächsten Tages aus éCO2mix von RTE (Licence Ouverte) und den Temperaturen von Open-Meteo; verwenden Sie die Wettervorhersage, nicht das nachträglich beobachtete Wetter.
  • Immobilien. Preis pro Quadratmeter aus DVF; auf 2021 bis 2024 trainieren, auf 2025 testen, nur Aggregate veröffentlichen.
  • Gesundheit. Synthetische Synthea-Patientenakten, da echte Daten wie MIMIC-IV akkreditierten Forschenden vorbehalten sind; ein Risikoscore sagt nicht, welche Behandlung wirkt.
  • Personalwesen. Fluktuation auf dem fiktiven HR-Datensatz von IBM; die Personalauswahl gilt nach Anhang III als hochriskant, und Reuters (2018) berichtete, dass Amazon ein Werkzeug zur Sichtung von Lebensläufen aufgab, das das Wort „women's“ abwertete.
  • Öffentlicher Sektor. Schwere von Verkehrsunfällen aus den französischen Dateien zu Unfällen mit Personenschaden; Systeme zur Auswahl von Prüfzielen wurden vor Gericht gekippt, wie SyRI 2020 in den Niederlanden.
  • Marketing. Kundenabwanderung (Churn) auf den Telco-Daten von IBM, dann Uplift: wen ein Angebot tatsächlich hält, wofür randomisierte Daten wie Hillstroms E-Mail-Test von 2008 nötig sind und was mit einer Qini-Kurve beurteilt wird.
  • Industrie. MVTec-AD-Bilder und SECOM-Sensoren: Die Anomalieerkennung (anomaly detection) lernt, wie ein normales Teil aussieht, und meldet Abweichungen bei einer festen Falschausschussrate.

Zurück zum Inhalt.

Aufbau des Repositorys und Python-Pakete für ein ML-Projekt

Jedes Projekt verwendet denselben Aufbau des Repositorys; nur das README der Daten und der Steckbrief ändern sich von Branche zu Branche.

  • README.md im Hauptverzeichnis: was das Projekt tut, für wen und wie man es ausführt.
  • docs/ enthält den Steckbrief in sechs Zeilen und ein Protokoll datierter Entscheidungen.
  • data/README.md hält Herausgeber, Adresse, Lizenz, Download-Datum, Größe und das fest, was den Daten fehlt. Die Daten selbst lädt ein Vorbereitungsskript erneut herunter, was bei Wettbewerbsdaten und Daten zur persönlichen Nutzung Pflicht und überall sonst klug ist.
  • notebooks/ für die Exploration, src/ für Daten, Merkmale und Modelle, batch/ für die Skripte zum Vorbereiten, Trainieren und Evaluieren.
  • app/ für eine Streamlit-Oberfläche, tests/ für Prüfungen auf Data Leakage, Zielvariable und Aufteilung, eine Konfigurationsdatei für Seeds, Schwellenwerte und Datumsangaben sowie fixierte Versionen in requirements.txt.
Tabelle 5: Die Bibliotheken des Foliensatzes und wann jede ihren Platz verdient.
PaketRolleWann man es hinzufügt
pandas, numpyTabellen und Berechnungenimmer
scikit-learnAufteilung, Pipeline, Modelle, Metriken, Kalibrierungimmer
xgboost, lightgbmBoosting auf Tabellen, Poisson- und Tweedie-Zielfunktionenals aufwendiges Modell in den meisten Branchen
statsmodels, archGLM, ARIMA, GARCH mit Standardfehlernwenn ein Koeffizient gelesen werden muss (Versicherung, Risiko)
imbalanced-learnResampling innerhalb der Pipelineseltene Klassen, wenn Neugewichtung nicht mehr reicht
shapErklärungen Fall für Fallwenn eine Entscheidung begründet werden muss (Kredit, Tarifierung, Personal)
statsforecast, prophetschnelle Referenzmodelle für viele ZeitreihenNachfrage- und Energieprognose
ortoolsTourenplanung und ZuordnungLogistik, nach der Prognose; es ist ein Solver, kein lernendes Modell
implicit, scikit-surpriseMatrixfaktorisierungEmpfehlung
streamlit, pytestOberfläche und Tests auf Data Leakageimmer

Bemerkung (Prüfen, ob ein Paket noch lebt). Ein Repository muss auch Monate später noch laufen. Sehen Sie sich das Datum des letzten Releases auf PyPI an, bevor Sie eine Bibliothek übernehmen, und fixieren Sie die Versionen. Das Beispiel des Foliensatzes: LightFM hatte zum Zeitpunkt der Prüfung seit März 2023 kein Release mehr veröffentlicht, also meiden Sie es oder fixieren Sie es bewusst.

Tabelle 6: Die drei Modelle jedes Projektblatts. Behalten Sie das aufwendige nur, wenn es das beste vernünftige Modell mit einem Abstand schlägt, der eine Entscheidung ändert.
ProjektNaivBestes vernünftigesAufwendig
Kredit-Scoremittlere Ausfallratelogistische Regression oder Punkte-ScorecardLightGBM, erklärt mit SHAP
Kartenbetrugeine Regel auf Basis des Betragsgewichtete logistische RegressionXGBoost mit kostenbasiertem Schwellenwert
Kfz-Tarifierungmittlere HäufigkeitPoisson-GLM mit ExpositionPoisson-Boosting
Nachfrage eines Geschäftsderselbe Tag der VorwocheETSglobales LightGBM auf verzögerten Werten (Lags)
Empfehlungam beliebtestenALSTwo-Tower-Netz
Expected GoalsTorquote nach Spielfeldzonelogistische Regression auf Distanz und WinkelBoosting mit Schusskontext

Das naive Modell ist keine Formalität: Es ist die Referenz, die jeder anderen Zahl ihre Bedeutung gibt, und es sollte dem ähneln, was das Unternehmen heute tut. Der Überblick über die Modelle beschreibt jede Familie und ihre Fallstricke.

Zurück zum Inhalt.

Was ein Machine-Learning-Projekt einbringt und im Vergleich wozu

Ein Gewinn wird an dem gemessen, was das Unternehmen bereits tut, nie am völligen Fehlen eines Modells, und jede Annahme ist entweder belegt oder gekennzeichnet.

Der Foliensatz nennt zwei Wege, einen Gewinn zu beziffern. Der erste zählt vermiedene Fehler: VV Entscheidungen, die Veränderung Δ\Delta bei den falsch-negativen und den falsch-positiven Fällen und die Stückkosten cc jedes Fehlers. Im Kreditgeschäft ist ein falsch-negativer Fall ein angenommener Ausfall, ein falsch-positiver ein abgewiesener guter Kunde; beim Betrug ist ein falsch-positiver Fall verlorene Analystenzeit oder eine irrtümlich gesperrte Karte. Der zweite zählt Zeit: NN Fälle pro Jahr, Δt\Delta t eingesparte Stunden pro Fall, ww die Vollkosten einer Arbeitsstunde. Anschließend werden die Kosten abgezogen.

G=V×(cFN ΔFN+cFP ΔFP)G = V \times \big(c_{FN}\,\Delta FN + c_{FP}\,\Delta FP\big)
(6)
G=N×Δt×wG = N \times \Delta t \times w
(7)
Nettowert=G−(Daten+Rechenleistung+Personal+Wartung)\text{Nettowert} = G - (\text{Daten} + \text{Rechenleistung} + \text{Personal} + \text{Wartung})
(8)

Ein durchgerechnetes Beispiel für eine fiktive Bank (alle Annahmen vom Foliensatz erfunden)

  1. Betrugsfälle. Eine Million Kartentransaktionen pro Monat bei einer Betrugsquote von 0,2 % ergeben 2.000 Betrugsfälle pro Monat.
  2. Zusätzlich gestoppte Betrugsfälle. Die Regeln stoppen 40 % davon, das Modell 60 % bei gleicher Zahl von Alarmen: 2.000 × 0,2 = 400 mehr pro Monat.
  3. Bruttogewinn. Bei einem durchschnittlichen Verlust von 80 € pro Betrugsfall ergibt das 400 × 80 = 32.000 € pro Monat oder 384.000 € pro Jahr.
  4. Nettogewinn. Eine Wartung für 3.000 € pro Monat kostet 36.000 € pro Jahr, es bleiben also 348.000 € netto.

In einem echten Projekt stammen Betrugs- und Erkennungsquote aus dem Testdatensatz, mit einem Konfidenzintervall, der durchschnittliche Verlust aus einer öffentlichen Quelle oder aus den Daten (die ULB-Datei enthält jeden Betrag) und die Wartungskosten aus einer Schätzung, die Sie begründen. Ein Intervall für den Gewinn ist besser als eine einzelne Zahl.

Tabelle 7: Öffentliche Zahlen, die der Foliensatz mit ihrer Quelle zitiert. Sie beziffern einen Markt; keine davon ist das, was ein studentisches Modell einbringt.
BrancheZahlQuelle
Zahlungsverkehr, EuropaBetrug von 3,4 Mrd. € (2022), 3,5 Mrd. € (2023), 4,2 Mrd. € (2024); Kartenbetrug 1,3 Mrd. € im Jahr 2024gemeinsamer Bericht von EBA und EZB, Dezember 2025
Zahlungsverkehr, Frankreich1,241 Mrd. € Betrug im Jahr 2025, davon 475 Mio. € bei Karten; Betrug durch Manipulation 516 Mio. €, ein Plus von 34 %Observatoire de la sécurité des moyens de paiement, Banque de France, September 2026
Versicherung, Frankreich946 Mio. € aufgedeckter Betrug im Jahr 2025, davon etwa 627 Mio. € in der Schaden- und UnfallversicherungALFA, französische Agentur zur Bekämpfung von Versicherungsbetrug
Lieferkettefrühe KI-Anwender verbessern die Logistikkosten um 15 %, die Lagerbestände um 35 % und den Servicegrad um 65 %McKinsey, April 2021: Zahl einer Unternehmensberatung ohne veröffentlichte Daten
Streamingüber 1 Mrd. US-Dollar pro Jahr durch Personalisierung eingespart; etwa 80 % der angesehenen Stunden stammen aus EmpfehlungenGomez-Uribe und Hunt, ACM TMIS, 2015: das Unternehmen bewertet sich selbst
Suchmaschinenwerbungeine geänderte Anzeigenüberschrift steigerte die Werbeeinnahmen von Bing um 12 %, über 100 Mio. US-Dollar pro Jahr in den Vereinigten StaatenKohavi und Thomke, Harvard Business Review, 2017
Fußballetwa 2,6 Mio. £ leistungsabhängige Prämien pro Tabellenplatz in der Premier League 2024/25Premier League, Mai 2026
Öffentlicher Sektorein Programm zur Erkennung von Schwimmbecken kostete 27,3 Mio. € und brachte 2022 10,1 Mio. € ein, bei einem Ziel von 130 Mio. €Cour des comptes, Oktober 2024

Bemerkung (Die Marktgröße ist nicht Ihr Gewinn). Was ein Modell einbringt, ist der Anteil, den es über die bereits bestehenden Regeln hinaus beiträgt, bei konstantem Alarmbudget, und der Betrug verlagert sich immer weiter hin zur Manipulation, die Transaktionsmodelle schlecht erkennen. Der Foliensatz warnt auch vor Zahlen, die ohne Primärquelle kursieren, etwa einem Anteil von 35 % der Amazon-Umsätze, der den Empfehlungen zugeschrieben wird. Auf der Kostenseite zeigten Sculley et al. (NeurIPS 2015), dass der Lerncode nur ein kleiner Teil eines Produktivsystems ist; Daten, Rechenleistung, Personal, Überwachung und Compliance (KI-Verordnung, DSGVO, DORA im Finanzsektor) tragen die laufenden Kosten.

Zurück zum Inhalt.

Wie man ein Machine-Learning-Projekt auswählt

Ein gutes Thema bekommt viermal ein Ja: Die Daten lassen sich diese Woche herunterladen, die Entscheidung ist klar, drei Modelle lassen sich vergleichen, und eine einfache Seite kann einen Fall zeigen.

Das Auswahlraster

  1. Daten noch diese Woche. Eine Adresse, eine Lizenz und ein Download, der jetzt funktioniert. Dieser Punkt ist ein Ausschlusskriterium: Ein Download, der heute scheitert, wird in zwei Monaten nicht besser funktionieren.
  2. Eine klare Entscheidung. Jemand könnte aufgrund der Vorhersage etwas anders machen.
  3. Drei vergleichbare Modelle. Ein naives, ein bestes vernünftiges und ein aufwendiges, auf derselben Aufteilung und mit derselben Metrik.
  4. Eine machbare Oberfläche. Eine Seite, zum Beispiel mit Streamlit oder Gradio, auf der man einen Fall eingibt und die Antwort liest, ohne einen Server betreiben zu müssen.

Das Rezept hinter den stärksten Projekten früherer Jahrgänge ist kurz: ein sauberer Datensatz aus dem Katalog, dazu eine externe Quelle, die eine Idee beisteuert (das Wetter bei der Nachfrageprognose, der Kontext jedes Schusses bei Expected Goals, die Straßenentfernungen bei verspäteten Paketen), dazu eine Entscheidung, die man einem Laien erklären kann.

Woran ein Projekt scheitert, vom Modell abgesehen

  • Fehlende Daten: für nächste Woche versprochen, nie geliefert oder ohne die Zielvariable geliefert. Der Kurs zitiert Gartner (Februar 2025) mit der Prognose, dass bis 2026 60 % der KI-Projekte ohne KI-taugliche Daten aufgegeben werden.
  • Eine unscharfe Zielvariable: Niemand kann sagen, welche Zeilen als Erfolg zählen.
  • Kein Verantwortlicher: Für die Vorhersage gibt es kein Fachteam, das bereit ist, danach zu handeln.
  • Die Beschaffung: Sicherheitsprüfungen, Verträge und Einkauf, die länger dauern als das Projekt selbst; der Kurs umgeht das, indem er mit offenen Daten arbeitet, und die Einführung in den Kurs kommt darauf zurück.

Das Teamprojekt ist in der Themenwahl frei, folgt aber der Methode des roten Fadens: ein Steckbrief, ein reproduzierbares Repository, drei ehrlich verglichene Modelle, eine Modellkarte (Model Card), Folien und eine Oberfläche. Die Notizen zu den Hausaufgaben beschreiben die Schritte, von der Abgrenzung des Projekts über ein erstes einfaches Modell bis zur Abschlussabgabe.

Zurück zum Inhalt.

Das Wichtigste in Kürze

  1. Wählen Sie die Daten vor dem Modell: Wenn Sie diese Woche keine Adresse und keine Lizenz aufschreiben können, wechseln Sie das Thema.
  2. Zwei Fragen erschließen die meisten Lizenzen (Veröffentlichung eines abgeleiteten Werks, kommerzielle Nutzung), und keine Lizenz befreit von der DSGVO.
  3. Der Steckbrief in sechs Zeilen beginnt mit der Entscheidung; die Zeile zur Zielvariable muss sagen, wann das Ergebnis bekannt ist und wann die Vorhersage getroffen wird.
  4. Jede Branche hat ihre Falle: die Selektionsverzerrung beim Kredit, die seltene Klasse beim Betrug, die Exposition in der Versicherung, der Solver in der Logistik, der A/B-Test in der Tech-Branche, winzige Stichproben im Fußball.
  5. Jedes Mal drei Modelle, darunter ein naives, das der heutigen Praxis ähnelt; das aufwendige Modell bleibt nur, wenn es eine Entscheidung ändert.
  6. Ein Gewinn wird am Zuwachs gegenüber dem Bestehenden gemessen, mit belegten oder gekennzeichneten Annahmen und abzüglich der Kosten für Daten, Rechenleistung, Personal und Wartung.

Glossar

offene Daten (open data)
Daten, die veröffentlicht werden, damit jeder sie unter einer angegebenen Lizenz weiterverwenden kann, etwa CC BY 4.0, CC0, die französische Licence Ouverte oder ODbL.
Projektsteckbrief (scope document)
Die sechs Zeilen, die ein Team vor dem Programmieren schreibt: Entscheidung, Zielvariable, Metrik, Schutzvorkehrungen, Daten und Plan.
Data Leakage
Information in einem Merkmal, die zum Zeitpunkt der Entscheidung nicht verfügbar wäre; sie schönt das Testergebnis und versagt in der Produktion.
Referenzmodell (baseline)
Das naive Modell, das ein Projekt schlagen muss, idealerweise nah an dem, was das Unternehmen heute tut.
Weitergabe unter gleichen Bedingungen (share-alike)
Lizenzklausel (CC BY-SA, ODbL), nach der abgeleitete Datenbanken unter derselben Lizenz veröffentlicht werden müssen.
Nettorisikoprämie (pure premium)
Erwartete Schadenhäufigkeit mal erwartete Schadenkosten eines Profils, vor Kosten und Marge.
Exposition (exposure)
Die Zeit, in der ein Vertrag versichert war, in Jahren; sie geht als Offset in ein Häufigkeitsmodell ein.
Precision-Recall-Kurve (precision-recall curve)
Precision gegen Recall über alle Schwellenwerte; aussagekräftiger als die ROC-Kurve, wenn Positive selten sind.
Value at Risk (VaR)
Der Verlust, der über einen Horizont mit einer gegebenen kleinen Wahrscheinlichkeit überschritten wird, zum Beispiel an einem von hundert Tagen bei 99 %.
Tourenplanungsproblem (vehicle routing problem, VRP)
Haltepunkte Fahrzeugen zuordnen und unter Kapazitäten und Zeitfenstern in eine Reihenfolge bringen; ein Optimierungsproblem, das mit Heuristiken gelöst wird.
Matrixfaktorisierung (matrix factorisation)
Die Näherung einer dünn besetzten Matrix aus Nutzern und Artikeln durch das Produkt zweier kleiner Matrizen latenter Vorlieben.
Antiselektion (adverse selection)
Gute Risiken wandern zu einem günstigeren Wettbewerber ab und schlechte Risiken bleiben: die Kosten eines ungenauen Tarifs.
Anomalieerkennung (anomaly detection)
Lernen, wie normale Daten aussehen, und Abweichungen melden; eingesetzt, wenn Defekte zu selten sind, um sie direkt zu lernen.

Die anderen Notizen des Kurses

Eine öffentliche Zusammenfassung pro Foliensatz, in der Reihenfolge des Kurses.

  1. EinführungKI-Winter, Arbeitsmarkt und Methode
  2. WerkzeugeKaggle, GitHub, Python: die Werkzeuge
  3. Sitzung 1Projektrahmen und kleinste Quadrate
  4. Sitzung 2Maximum Likelihood und logistische Regression
  5. Sitzung 3Gradientenabstieg, Ridge und Lasso
  6. Sitzung 4Entscheidungsschwelle und reproduzierbares ML
  7. HausaufgabeML-Projekt abstecken: der Projektsteckbrief
  8. Sitzung 5Kernel, SVM und Entscheidungsbäume
  9. Sitzung 6Random Forests, Boosting, ehrlicher Vergleich
  10. Sitzung 7SHAP, Fairness, PCA und Clustering
  11. HausaufgabeEin einfaches Modell mit vollständiger Methode
  12. Sitzung 8Neuronale Netze, Drift, konforme Vorhersage
  13. HausaufgabeEin ausgeliefertes Machine-Learning-Projekt
  14. Sitzung 9Ein Machine-Learning-Projekt verteidigen
  15. ReferenzProjekt zum Kreditausfallscore
  16. ReferenzAktienrenditen: XGBoost und Sentiment
  17. ReferenzPython-Code für jedes ML-Modell
  18. ReferenzDeep Learning, das Wesentliche
  19. ReferenzML-Projekte mit offenen Daten nach Branche
  20. ReferenzHandbuch für Daten- und KI-Fachleute
  21. ReferenzData Engineering, SRE und Cloud
  22. ReferenzPanorama der Machine-Learning-Modelle

Alle Notizen als Leseliste

Aufmerksamkeit und Transformer, Schritt für Schritt

Über diese Notizen

Vom Dozenten auf Grundlage der Folien verfasst, als öffentliche Zusammenfassung: die Kernideen, die Formeln und ein durchgerechnetes Beispiel. Die Übungen, ihre Lösungen, die Tests und die Bewertung bleiben im Foliensatz, für die Studierenden des Kurses.

Stand: .