Dieses Transkript stellt Jev vor, ein neuartiges „Judgment Model“ (Urteilsmodell) des Start-ups Type-Safe, das von Diogo (einem ehemaligen OpenAI-Entwickler) mitentwickelt wurde. Im Gegensatz zu traditionellen Large Language Models (LLMs), die Text generieren, liefert Jev ausschließlich strukturierte numerische Wahrscheinlichkeiten, Kategorien oder Scores für unstrukturierte Eingaben. Das Modell fungiert als „System-1“-KI für schnelle, kostengünstige und konsistente Klassifikationen im großen Maßstab und arbeitet als deterministische Infrastruktur-Schicht im Hintergrund von LLMs wie Claude.
Wichtigste Punkte & Zeitstempel
0:00 Definition von Jev: Ein von Type-Safe entwickeltes „Judgment Model“, das keine Sätze generiert oder chattet, sondern unstrukturierte Texte in präzise numerische Wahrscheinlichkeiten umwandelt.
3:08 System-1-Architektur: Fungiert als „System-1“-Modell für schnelle, intuitive Gut-Entscheidungen im Sinne der Verhaltensökonomie („Thinking, Fast and Slow“), während Claude und ChatGPT als rechenintensive „System-2“-Schlussfolgerungsmodelle dienen.
3:35 Extreme Performance & Kosteneffizienz: Arbeitet 20- bis 400-mal schneller und ist bis zu 42.000-mal kostengünstiger als traditionelle LLMs (ca. 4 Cent pro Million Input-Token; der numerische Output ist nahezu kostenlos).
6:32 Drei fundamentale Fragetypen: Unterstützt Null (binäre Ja/Nein-Abfragen), Choice (Kategorisierung mit Konfidenzwert) und Score (geordnete Skalen wie Stimmungen oder Schweregrade).
12:14 Integration in Claude Code: Lässt sich über ein Type-Safe-Agent-Skill mittels einfacher Terminal-Befehle in Entwicklungsumgebungen wie Claude Code einbinden, um als automatisierte Logik-Schicht zu dienen.
18:41 Bulk-Verarbeitung von Support-Mails: Demonstriert die parallele Auswertung von 50 Support-E-Mails in 4,2 Sekunden über acht parallele Worker für Gesamtkosten von gerade einmal 0,0026 US-Dollar.
32:16 Vier Architektur-Muster: Umfasst Speculative Fan-Out (alle Fragen gleichzeitig in einer Anfrage stellen), aktionsspezifische Konfidenz-Gating-Mechanismen, multidimensionale Faktorenbeschreibung (Aufteilung komplexer Urteile in Teilscores) und Intent Routing.
Glossar
Judgment Model (Urteilsmodell): Ein spezialisiertes KI-Modell, das keine kreativen Texte generiert, sondern strukturierte Entscheidungen, Wahrscheinlichkeiten und numerische Klassifikationen aus unstrukturierten Daten berechnet.
System 1 / System 2: Psychologische Konzepte (populär gemacht von Daniel Kahneman in „Thinking, Fast and Slow“), die hier auf KI übertragen wurden: System 1 steht für schnelles, automatisches Reagieren (wie Jev), System 2 für langsames, logisches Nachdenken (wie Claude oder ChatGPT).
Token: Die kleinste von Sprachmodellen verarbeitete Texteinheit (einzelne Wörter oder Wortbestandteile), die als Grundlage für Abrechnung und Verarbeitungskapazität dient.
Null (Fragetyp): Eine binäre Ja/Nein-Abfrage (True/False), die von Jev mit einer exakten Eintrittswahrscheinlichkeit zwischen 0 und 1 beantwortet wird.
Choice (Fragetyp): Eine klassifizierende Fragestellung, bei der Jev eine Wahrscheinlichkeitsverteilung über mehrere vorgegebene Kategorien (z. B. Billing, Technical, Sales) ausgibt.
Score (Fragetyp): Eine Abfrage über geordnete Skalen (z. B. von „ruhig“ bis „wütend“), bei der das Modell einen kontinuierlichen Wert innerhalb dieser Skala festlegt.
Konfidenz (Confidence): Ein statistischer Messwert, der angibt, wie sicher das Modell bei einer Klassifikation ist, abgeleitet aus der Spreizung der errechneten Wahrscheinlichkeiten.
Speculative Fan-Out: Ein Software-Entwurfsmuster, bei dem alle potenziell relevanten Fragen gleichzeitig in einer einzigen Anfrage parallel an das Modell übermittelt werden, um Wartezeiten zu eliminieren.
Intent Routing: Das automatische Erkennen der Absicht (Intent) einer Anfrage, um diese direkt an den optimalen Bearbeiter (Datenbank, spezialisiertes LLM oder Mensch) weiterzuleiten.