Dieses Transkript dokumentiert einen Live-Stream zur Analyse des am 24. September 2026 veröffentlichten Forschungspapiers „Self-Play Pre-Training with Zero Data“ (verfasst von Forschern der Tel Aviv University, der Stanford University und einem unabhängigen Forscher). Die Arbeit demonstriert, dass Sprachmodelle (wie Llama-basierte Transformer) rein durch Self-Play (Selbst-Aktion) und synthetische Daten – gänzlich ohne die Verwendung natürlicher Daten – universelle prädiktive Strukturen und fundamentale Intelligenz erlangen können. Das System basiert auf zwei unabhängig initialisierten, decorder-only Llama-Modellen: einem Generator und einem Lernenden. Der Generator schlägt Programme in der minimalistischen, Turing-vollständigen Sprache Brainfuck vor, die auf einer universellen Turing-Maschine ausgeführt werden, um Bytestreams für das Training des Lernenden zu erzeugen. Die Belohnung des Generators erfolgt über einen vorkonditionierten Gradienten-Ausrichtungs-Score (Preconditioned Gradient Alignment Score), der den Lernfortschritt maximiert. Die empirischen Ergebnisse zeigen Zero-Shot-Transferfähigkeiten auf natürliche Datensätze (Bilder, DNA, Mathematik, Audio), die eigenständige Entdeckung mathematischer Sequenzen wie der Fibonacci-Folge sowie das Aufkommen von In-Context-Lernen (ICL) und Skalierungsgesetzen (Scaling Laws).
Wichtigste Punkte & Zeitstempel
0:07 Veröffentlichung des Papiers: Das Paper mit dem Titel „Self-Play Pre-Training with Zero Data“ wurde am 24. September 2026 von Wissenschaftlern der Tel Aviv University, der Stanford University und einem unabhängigen Forscher publiziert.
0:12 Modellarchitektur: Das System verwendet zwei getrennte, von Grund auf zufällig initialisierte, decorder-only Llama-Transformer mit identischer Architektur: ein Generator-Modell ($G_\phi$) und ein Lernenden-Modell ($\pi_\theta$).
0:21 Einsatz von Brainfuck: Der Generator nutzt die esoterische, Turing-vollständige Programmiersprache Brainfuck, um Programme mit minimalem menschlichen Bias zu erstellen, die auf einer universellen Turing-Maschine ausgeführt werden.
0:26 Programm-Pool-Quellen: Der Trainings-Pool setzt sich aus drei Quellen zusammen: frischen Abtastungen (globale Exploration), lokalen Mutationen (Verfeinerung erfolgreicher Regionen) und Replays aus früheren Runden (zur Vermeidung von katastrophalem Vergessen).
0:31 Training des Lernenden: Der Lernende wird mit einem standardmäßigen Kreuzentropie-Loss für die autoregressive Vorhersage des nächsten Tokens (Next-Token Prediction) optimiert.
0:36 Generator-Belohnung: Der Generator wird mittels Reinforcement Learning belohnt – basierend auf einem vorkonditionierten Gradienten-Ausrichtungs-Score, der misst, wie konsistent die Lernenden-Gradienten mit dessen jüngster Lernbahn übereinstimmen.
0:39 Algorithmus GRPO: Als Optimierungs-Framework wird GRPO (Group Relative Policy Optimization) mit KL-Regularisierung verwendet, um den Generator zu steuern, ohne zu stark von einem einheitlichen Programm-Prior abzuweichen.
1:06 Entdeckung mathematischer Muster: Der Generator entdeckt eigenständig fundamentale mathematische Sequenzen wie geometrische Folgen (nach 256 Runden) und die Fibonacci-Folge (nach 512 Runden) deutlich schneller als ein universeller Solomonoff-Prior.
1:10 Emergenz von In-Context-Lernen: Das System beweist, dass In-Context-Lernen (ICL) als emergentes Verhalten rein aus dem Self-Play-Loop hervorgeht, im Gegensatz zu starren, von Menschen entworfenen Grammatiken wie PCFGs.
1:20 Universeller Daten-Ansatz (Universal Data Ansatz): Die Skalierungsgesetze werden durch eine Trennung von kontingenten Informationen (Weltwissen) und universeller prädiktiver Struktur modelliert, wodurch Zero-Data-Modelle erfolgreich auf reale Aufgaben übertragen werden können.
Glossar
Transformer: Eine fortschrittliche Deep-Learning-Architektur, die auf Selbst-Aufmerksamkeitsmechanismen (Self-Attention) basiert und die Grundlage moderner Sprachmodelle bildet.
Decoder-only: Eine spezifische Unterart der Transformer-Architektur, die darauf ausgelegt ist, Text sequenziell (Token für Token) autoregressiv zu generieren.
Autoregressiv: Ein Prozess, bei dem ein Modell den jeweils nächsten Datenpunkt (z. B. ein Byte oder Wort) auf Basis aller zuvor generierten Datenpunkte vorhersagt.
Turing-Maschine: Ein theoretisches mathematisches Rechenmodell, das Symbole auf einem unendlichen Band liest, verarbeitet und schreibt; die abstrakte Basis moderner Computer.
Brainfuck: Eine extrem minimalistische, esoterische Programmiersprache mit nur acht Befehlen, die dennoch Turing-vollständig ist (jeder berechenbare Algorithmus kann darin dargestellt werden).
Kreuzentropie-Loss (Cross-Entropy Loss): Eine fundamentale mathematische Verlustfunktion in der Statistik und dem maschinellen Lernen, die die Diskrepanz zwischen vorhergesagten Wahrscheinlichkeiten und echten Zielwerten misst.
Gradient: Ein Vektor, der die Richtung des stärksten Anstiegs oder Abfalls einer mathematischen Funktion anzeigt; essenziell für die Gewichtsoptimierung beim neuronalen Training.
GRPO (Group Relative Policy Optimization): Ein vereinfachter Reinforcement-Learning-Algorithmus (entwickelt u. a. von DeepSeek), bei dem Belohnungen relativ zum Durchschnitt innerhalb einer Gruppe von Ausgaben bewertet werden.
KL-Regularisierung (Kullback-Leibler-Regularisierung): Ein mathematisches Maß zur Quantifizierung des Unterschieds zwischen zwei Wahrscheinlichkeitsverteilungen, um zu verhindern, dass ein Modell zu stark von seinem Ausgangszustand abweicht.
Solomonoff-Prior: Eine universelle Wahrscheinlichkeitsverteilung der induktiven Inferenz, nach der kürzere Programme (mit geringerer Komplexität) eine höhere mathematische Wahrscheinlichkeit besitzen.
In-Context-Lernen (ICL): Die Fähigkeit eines Modells, eine neue Aufgabe allein durch Beispiele innerhalb der Eingabe (Kontext) zu lösen, ohne dass die Modellgewichte durch Training angepasst werden.
Skalierungsgesetze (Scaling Laws): Empirische mathematische Gesetzmäßigkeiten, die beschreiben, wie sich die Modellleistung verbessert, wenn Rechenleistung, Datenmenge oder Parameter skaliert werden.