Der Mathematiker Valerio Capraro berichtet über schwere Vorwürfe des Forschers Andreas Thom gegen OpenAI. Thom wirft dem Unternehmen vor, das KI-Modell Astra unberechtigt mit vertraulichen Chat-Protokollen trainiert zu haben, in denen er und Gábor Kun Lösungsansätze zu Gromovs Sofizitätsvermutung erarbeiteten. OpenAI verzeichnete die Lösung dieses jahrzehntealten Problems später als eigenen autonomen Durchbruch des Modells. Zusammen mit ähnlichen Vorfällen um die Mathematiker Levent Alpöge und Tristan Buckmaster steht der Verdacht im Raum, dass KI-Labore systematisch unveröffentlichte menschliche Forschungsergebnisse absorbieren, um Modelleigenschaften vorzugaukeln und wissenschaftliche Durchbrüche vorzutäuschen.
Wichtigste Punkte
Vorwurf der Trainingsdaten-Entzwingung: Andreas Thom behauptet, OpenAI habe Modell Astra auf privaten Chat-Verläufen trainiert, welche unfertige Beweisführungen zu Gromovs Sofizitätsvermutung enthielten.
Falschdarstellung von AGI-Fähigkeiten: Die Anschuldigung besagt, dass keine echte mathematische Eigenleistung der KI vorliegt, sondern unveröffentlichte menschliche Vorarbeiten als Modell-Durchbrüche deklariert werden.
Wiederkehrendes Muster: Vergleiche mit gelagerten Fällen bei Levent Alpöge und Tristan Buckmaster deuten darauf hin, dass es sich nicht um Einzelfälle, sondern um eine systematische Praxis der Datenakquise handeln könnte.
Gebrochene Datenschutz-Zusagen: Thom hatte die Option zur Trainingsdatennutzung am 29. Juni explizit deaktiviert und erhielt von OpenAI die Zusicherung, dass seine Daten nicht verwendet wurden.
Ökonomische Motivation: Der Vorfall nährt Kritik, dass KI-Unternehmen kurz vor geplanten Börsengängen (IPOs) die Leistungsfähigkeit ihrer Modelle durch die Aneignung akademischer Arbeiten künstlich aufblähen.
Diskussions-Highlights
"Parallel Construction" und Brute-Force-Compute: Kommentatoren argumentieren, KI-Labore nutzten menschliche Vorarbeiten, um mit massivem Rechenaufwand (z. B. Generierung von 300 Milliarden Tokens oder Einsatz von Compute im Wert von 10 Mio. USD) die verbleibenden Beweisschritte in Lean zu erzwingen und dies als Eigenleistung zu vermarkten.
Täuschende Opt-Out-Mechanismen: Die Benutzeroberfläche von OpenAI wird scharf kritisiert. Die Deaktivierung des Modelltrainings ("improve the model for everyone") sei versteckt, und es existieren erhebliche Unterschiede zwischen Konsumenten-AGB und Business-AGB bezüglich Zero-Data-Retention (ZDR).
Bedrohung akademischer Karrieren: Aus der Forschungsgemeinschaft wird berichtet, dass KI-Mitarbeiter gezielt Wissenschaftler per E-Mail kontaktieren, um Ansätze abzugreifen ("Scooping"). Dies führe bereits dazu, dass Nachwuchskräfte die reine Mathematik verlassen.
Kritik an der KI-Bewertung: Die Debatte betont, dass das Abfangen von Entdeckungen am Zielstrich das Vertrauen in die Forschung zerstört und eine finanzielle Blase durch manipulative Behauptungen (wie Jensen Huangs "AGI achieved") anheizt.
Referenzen und Bypasses: In den Kommentaren wird auf Thoms Originalbeiträge auf Mastodon (mathstodon.xyz/@andreasthom/117240535270608201), vertiefende Hintergrundberichte auf Science.org (science.org/content/article/how-ai-math-breakthrough-ignited-controversy) sowie Nitter-Alternativlinks verwiesen.
Glossar
Astra: Ein multimodales bzw. mathematisches KI-Modell von OpenAI, dem das eigenständige Lösen mehrerer ungelöster mathematischer Probleme zugeschrieben wurde.
Gromovs Sofizitätsvermutung (Gromov's Soficity Conjecture): Ein bedeutendes ungelöstes Problem der mathematischen Gruppentheorie bezüglich der Approximierbarkeit unendlicher Gruppen durch endliche symmetrische Gruppen.
LLM (Large Language Model): Ein auf riesigen Textmengen trainiertes Sprachmodell, das Texte, Code und mathematische Sequenzen vorhersagen und generieren kann.
Scooping: Das Zuvorkommen bei der Veröffentlichung wissenschaftlicher Ergebnisse durch die Verwendung oder Vorabkenntnis fremder, noch unveröffentlichter Forschungskonzepte.
Zero Data Retention (ZDR): Eine vertragliche Verpflichtung eines Cloud-Dienstanbieters, vom Nutzer eingegebene Daten nach der Verarbeitung weder zu speichern noch für das Training von Modellen zu verwenden.
AGI (Artificial General Intelligence): Allgemeine künstliche Intelligenz, die menschliche kognitive Fähigkeiten in nahezu allen wirtschaftlich und wissenschaftlich relevanten Aufgaben erreicht oder übertrifft.
Lean: Ein interaktiver Theorembeweiser und eine Programmiersprache zur mathematisch rigiden und formalen Überprüfung von Beweisen.