DeepSeek hat das Sprachmodell DeepSeek-V4.1-Flash veröffentlicht, das auf einer neuartigen Causal Encoder-Decoder (CED)-Architektur basiert und native multimodale Sehfähigkeiten integriert. Das Modell verwendet ein Mixture-of-Experts (MoE)-Backbone mit 552 Milliarden Parametern sowie 196 Milliarden Engram-Parametern, wovon pro Token lediglich 8 Milliarden Parameter im Prefill und 16 Milliarden im Decode aktiviert werden. Durch eine optimierte Projektion der Enkoder-Zustände reduziert sich der globale KV-Cache auf 890 Bytes pro Token, was die Inferenzkosten für inputintensive Agenten-Workloads signifikant senkt. Das Modell setzt neue Leistungsmaßstäbe im Open-Weights-Bereich, erfordert für die lokale Ausführung jedoch massive Speicherressourcen.
Wichtigste Punkte
Causal Encoder-Decoder (CED) Architektur: Ein 40-schichtiger Transformer, aufgeteilt in einen 20-schichtigen kausalen Enkoder und einen 20-schichtigen Dekoder; der KV-Cache des Dekoders wird direkt aus den Enkoder-Zuständen projiziert.
Parametereffizienz: Das Modell umfasst ein 552B MoE-Backbone und 196B Engram-Speicher, aktiviert jedoch nur 8B Parameter beim Prefill und 16B Parameter beim Dekodieren.
KV-Cache-Komprimierung: Der KV-Cache-Fußabdruck sinkt auf 890 Bytes pro Token (ca. 1/4 des HBM-Bedarfs und 1/8 des SSD-Speichers im Vergleich zu V4-Flash), was einem Speicherbedarf von etwa 1 GB pro 1 Million Token Kontext entspricht.
Natives Multimodal-Design: Das Modell beinhaltet visuelle Sprachverarbeitung ab Werk und ersetzt die bisherigen Endpunkte V4-Flash sowie V4-Flash-Vision-Exp.
Steuerbare Denkintensität: Bietet eine stufenlos steuerbare "Reasoning Effort"-Einstellung (Integer-Wert 1–100), um Inferenzkosten und Genauigkeit gegeneinander abzuwägen.
API & Preisschema: Das Modell ist unter deepseek-flash verfügbar. Nebenzeiten (Off-Peak) werden mit 50 % Rabatt abgerechnet, um die Serverauslastung zu glätten; die Preise für Output-Token stiegen jedoch auf 1,20 $/M Token.
Diskussions-Highlights
Lokale Hardwareanforderungen: Diskutanten betonen, dass das Modell trotz "Flash"-Namenszug mit 552B Parametern (+196B Engram) extrem groß ist. Für die lokale Ausführung (z. B. in FP8/Q4) werden 384 GB bis 512 GB Arbeitsspeicher/VRAM benötigt (z. B. 4x RTX PRO 6000 oder Mac-Cluster). Der 196B Engram-Speicher kann jedoch auf schnelle SSDs ausgelagert werden.
Inferenzgeschwindigkeit & Deprecation: Auf OpenRouter und der Entwickler-API erreicht das Modell hohe Durchsätze von 150 bis 300 Tokens pro Sekunde (t/s). DeepSeek kündigte an, das ältere Modell V4 Pro abzupausen und API-Aufrufe direkt auf V4.1 Flash umzuleiten.
Transparenz vs. Zensur: Die Community lobt den detaillierten technischen Bericht und die fehlende Über-Zensur. Im Gegensatz zu US-Modellen führt V4.1 Flash Anfragen zu Sicherheitsanalysen, Code-Audits (z. B. OOB-Fehlerdiagnose) und ROM-Downloads ohne Verweigerung aus.
Sprachliche Systemprompt-Schwächen: Mehrere Anwender berichten, dass die Benutzeroberfläche und die mobile App trotz englischer Eingaben regelmäßig auf Chinesisch antworten. Dies wird auf interne System-Prompts zurückgeführt, während die API-Nutzung davon weitgehend unberührt bleibt.
Glossar
MoE (Mixture-of-Experts): Eine Architektur für neuronale Netze, bei der für jedes verarbeitete Token nur ein ausgewählter Teil der Parameter ("Experten") aktiviert wird, anstatt das gesamte Modell zu berechnen.
KV-Cache (Key-Value Cache): Ein Speicherbereich im VRAM/RAM, der bereits berechnete Zustände vorheriger Token aufbewahrt, damit bei langen Kontexten nicht der gesamte Text neu berechnet werden muss.
Prefill: Die erste Phase der LLM-Inferenz, bei der der eingegebene Eingabetext (Prompt) parallel verarbeitet und der anfängliche KV-Cache aufgebaut wird.
Decode: Die zweite Phase der LLM-Inferenz, in der das Modell schrittweise Token für Token generiert.
Engram-Speicher: Eine spezialisierte Speicherkomponente im Modell zur Ablage von faktenbasiertem Wissen, die auf langsame, aber günstige Speichermedien wie NVMe-SSDs ausgelagert werden kann.
HBM (High Bandwidth Memory): Hochgeschwindigkeits-Arbeitsspeicher, der direkt auf Grafikprozessoren verbaut ist und den Hauptflaschenhals bei der LLM-Verarbeitung darstellt.
Tokens pro Sekunde (t/s): Maßeinheit für die Ausgabegeschwindigkeit eines Sprachmodells.