Google DeepMind hat die Gemini Decisions API vorgestellt, angetrieben durch das neue Modell Gemini Decision 1, das geschlossene Entscheidungen über multimodale Eingaben hinweg ermöglicht. Die Schnittstelle verarbeitet bis zu 1.000 Fragen (Ja/Nein, Mehrfachauswahl, Rubrik-Scoring) in einem einzigen Vorwärtsdurchlauf bei einer Latenz von 150 bis 250 ms. Mit Kosten von 0,10 US-Dollar pro 1 Million Eingabetoken bei kostenlosen Ausgabetoken zielt das System auf effizientes Modell-Routing, Inhaltsbewertung und automatisierte Richtlinienprüfungen ab.
Wichtigste Punkte
Modellarchitektur: Das Modell Gemini Decision 1 (gemini-decision-1) verzichtet auf tokenweises Generieren und berechnet direkte Konfidenzwerte und Wahrscheinlichkeiten in einem einzigen Forward-Pass.
Multimodale Kapazität: Verarbeitet gemeinsame Eingaben aus Text, Bildern, Audio, Video und PDFs (bis zu 256K Token Kontext) und beantwortet bis zu 1.000 unabhängige Fragen pro Anfrage.
Entscheidungstypen: Unterstützt drei primitive Typen: noul (Ja/Nein-Bedingungen mit Wahrscheinlichkeitsabschätzung), choice (2 bis 255 Optionen mit normalisierten Wahrscheinlichkeiten) und score (geordnetes Rubrik-Rating mit kontinuierlichem Score).
Latenz und Kosten: Erreicht eine End-to-End-Latenz von 150 bis 250 ms (50 bis 100 ms Modellrechenzeit) bei fixen Kosten von 0,10 USD pro 1 Mio. Eingabetoken; Ausgabetoken werden nicht berechnet.
Ökosystem-Integrationen: Direkt verfügbar in Google AI Studio sowie über SDK- und Framework-Anbindungen wie OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit und OpenCode.
Diskussions-Highlights
Wettbewerbsumfeld: Kommentatoren merken an, dass Google mit diesem Release auf den durch den Pionier Jev und OpenAIs analoge Endpoints gestarteten Trend reagiert, um Enterprise-Kunden anzusprechen.
Modellkalibrierung & Wahrscheinlichkeiten: Technische Debatten betonen, dass Standard-LLMs oft unzureichend für Wahrscheinlichkeiten kalibriert sind; dezidierte Entscheidungsmodelle nutzen optimierte Cross-Entropy-Loss-Funktionen, um präzise Unsicherheitsmetriken für nachgelagerte Logiken bereitzustellen.
Alternative Tools: Als private oder lokale Alternativen werden Tools wie jeffyclassify.com (lokale Klassifikatoren mit CPU-Training und n8n-Integration) sowie respan/span-02 (finetuned aus Gemma 4 26A4) genannt.
Anwendungsfälle: Entwickler setzen Entscheidungsmodelle primär für dynamisches Modell-Routing, automatisiertes Labeln von Trainingsdaten und visuelle Datei-Indizierung ein.
Produktpflege-Skepsis: Mehrere Nutzer äußern Skepsis bezüglich Googles langfristiger Produktunterstützung (unter Verweis auf kurzlebige Experimente wie Jules), während andere die API als robustes Enterprise-Kernprodukt einordnen.