Ein Forschungs-Praktikant bei Jane Street entwickelte ein ereignisbasiertes generatives Modell für Marktdaten unter Verwendung autoregressiver Diffusion und Flow-Matching. Da Marktdaten sowohl diskrete Aktionsräume (Orderbuch-Änderungen) als auch hochkardinale kontinuierliche Parameter (Preise, Timings) aufweisen, scheiterten klassische kontinuierliche Diffusionsmodelle an plötzlichen Diskontinuitäten. Während DDPM instabile, explodierende Denoising-Trajektorien zeigte, erwies sich Flow-Matching in Kombination mit „Atom-Smoothing“ als erfolgreich zur Erfassung der realistischen Verteilungsstruktur.
Wichtigste Punkte
Hybride Marktstruktur: Marktdaten kombinieren diskrete Ereignisse (z. B. Stornierungen, Trades) mit kontinuierlichen Parametern (Preise, exakte Ankunftszeiten), deren Verteilungen spitz und ungleichmäßig sind.
Encoder-Diffuser-Architektur: Einsatz eines kausal maskierten Transformer-Encoders, eines 20-Klassen-Kategorienkopfes zur Bestimmung des Ereignistyps und eines Diffusionskopfes mit AdaLN-Konditionierung für kontinuierliche Werte.
Instabilität von DDPM: Standard-DDPM zeigte divergierende Denoising-Trajektorien (88–95 % der Werte wichen über 8 Standardabweichungen ab), weshalb auf Flow-Matching (Rectified Flows) gewechselt wurde.
Atom-Smoothing: Glättung spitzer Wahrscheinlichkeitsverteilungen (wie Null-Zeit-Gaps oder exakte Preissprünge) zur Erfassung von Wahrscheinlichkeitsmassen ohne harte mathematische Diskontinuitäten.
Modell-Evaluierung: Quantifizierung der Abweichungen mittels Total-Variation-Divergenz (TV) der Randverteilungen sowie Einsatz eines Diskriminator-Klassifikators zur Unterscheidung echter Marktereignisse von KI-generierten Rollouts.
Diskussions-Highlights
Einsatz von Diffusion: Kommentatoren lobten die kreative Übertragung von Diffusionsmodellen auf hybride Zeitreihen, wiesen jedoch darauf hin, dass Order-Ankunftszeiten eher einem Hawkes-Prozess (selbsterregend) statt einer Normalverteilung ähneln.
Effizienzmarkthypothese: Genaue Prognosemodelle zerstören sich langfristig selbst, da der Markt profitable Muster sofort einpreist und so jegliches Alpha absorbiert.
Selbsterfüllende Technische Analyse: Quantitative Trader nutzen statistische Wahrscheinlichkeiten (Odds-Ratios) statt reiner Bauchgefühle, wodurch Chart-Muster (wie Bull-Flags) durch gemeinschaftliches algorithmisches Trading real werden.
Indexfonds und Arithmetik: Diskussionen über Sharpe’s Arithmetic of Active Management, die politische Absicherung von Rentenportfolios und die Kritik, dass passive Index-Investments blind auf historische Performance wetten.
Glossar
Autoregressive Diffusion: Eine Klasse generativer KI-Modelle, die Daten sequenziell erzeugen, indem sie in jedem Schritt auf vorherigen Ausgaben aufbauen und Rauschen schrittweise entfernen (Denoising).
Flow-Matching (Rectified Flows): Eine generative Modellierungsmethode, die linear zwischen Rauschen und echten Daten interpoliert, um die Geschwindigkeit (Velocity) entlang direkter Trajektorien vorherzusagen; stabiler als klassisches DDPM.
DDPM (Denoising Diffusion Probabilistic Model): Ein klassischer Diffusionsmodell-Typ, der künstlich hinzugefügtes Rauschen in mehreren Schritten vorhersagt und subtrahiert, um Zielwerte zu rekonstruieren.
AdaLN (Adaptive Layer Normalization): Eine Normalisierungsmethode in neuronalen Netzen, bei der Skalierungs- und Verschiebungsparameter adaptiv aus einer übergeordneten Konditionierung (wie dem Ereignistyp) berechnet werden.
Total-Variation-Divergenz (TV): Ein statistisches Maß für den Abstand zwischen zwei Wahrscheinlichkeitsverteilungen, das quantifiziert, wie stark sich generierte Daten von realen Daten unterscheiden.
Hawkes-Prozess: Ein selbsterregender stochastischer Prozess, bei dem das Auftreten eines Ereignisses (z. B. einer Order) die Wahrscheinlichkeit weiterer kurzfristiger Ereignisse erhöht.
Orderbuch (Order Book): Eine elektronische Echtzeit-Liste aller offenen Kauf- und Verkaufsaufträge für ein Finanzinstrument, sortiert nach Preisniveau.