Aktuelle speicherbasierte Plugins für KI-Agenten setzen auf fehlerhafte Architekturen wie Vektor-Datenbanken, RAG (Retrieval-Augmented Generation) und Ähnlichkeitssuche, um vergangene Interaktionen abzurufen. Diese Methoden leiden unter unstrukturierter Speicherung, veralteten Snippets und intransparenten Abfragen. Stattdessen sollten Agenten strukturierte Markdown-Workspaces als dokumentationsbasierte Gedächtnissysteme nutzen, um Kontext vor der Ausführung zu konsultieren und nach der Ausführung gezielt zu aktualisieren.
Wichtigste Punkte
Fehlerhafte RAG-Architektur: Kommerzielle Speicher-Plugins nutzen standardmäßig Vektor-Datenbanken in SQLite und Ähnlichkeitssuchen, um fünf isolierte Snippets pro Prompt einzufügen.
Mängel beim Abruf: Ähnlichkeitssuchen liefern oft irrelevante oder veraltete Informationen, da sich Code täglich ändert und die Datenbasis (z. B. 10.000 Embeddings) intransparent und unvollständig ist.
Dokumentationsbasierter Ansatz: Anstelle von Token-verschlingenden Hintergrund-Daemons ("Dreamers") benötigen Agenten ein strukturiertes Markdown-Gehirn für Anweisungen, Spezifikationen, Recherchen und Indizes.
Veränderter Agenten-Loop: Der klassische Zyklus von Prompt → Build → Forget wird durch Prompt → Consult → Build → Update ersetzt, bei dem Dokumente vor der Arbeit gelesen und anschließend aktualisiert werden.
Operator Memory Tool: Das vom Autor vorgestellte Open-Source-Tool (aerovato/operator-memory) verzichtet vollständig auf Vektor-Datenbanken und nutzt stattdessen reine, versionierbare Markdown-Dateien.
Diskussions-Highlights
Deterministisches Feedback: Mehrere Kommentatoren betonen, dass Agenten effektiv durch Lint-Regeln mit erklärenden Fehlermeldungen gesteuert werden müssen (z. B. zur Durchsetzung des Integration Operation Segregation Principle, IOSP).
Alternative Frameworks: Diskutiert wurden alternative Implementierungen wie isaachinman/encephalon (append-only Log-Dokumentation mit einstelligen Millisekunden-Abfragen), principledriven.dev (pdd), mattpocock/skills zur Generierung von ADRs sowie State-Space Policy (ssp) Tools.
Sicherheitsrisiken und Tool-Ignoranz: Agenten ignorieren häufig native CLI-Werkzeuge (wie jq) zugunsten von Ad-hoc-Python-Skripten für einfache Aufgaben, was bei Benutzern zu riskanten Berechtigungsfreigaben über das Internet führen kann.
Token-Kosten und Dokumentationsfäule: Kritiker warnen vor explodierenden Token-Kosten bei der ständigen Aktualisierung von Dokumenten sowie vor "Dokumentationsfäule" (Documentation Rot), bei der Agenten ungenaue Spezifikationen und Bloat erzeugen.
Glossar
RAG (Retrieval-Augmented Generation): Ein Verfahren zur Verbesserung von KI-Modellen, bei dem vor der Antwortgenerierung relevante externe Dokumente oder Daten aus einer externen Datenbasis gesucht und dem Prompt hinzugefügt werden.
Vektor-Datenbank (Vector Database): Eine Datenbank, die Daten als mathematische Vektoren (Einbettungen) speichert, um sie anhand semantischer Ähnlichkeit statt exakter Schlüsselwörter zu durchsuchen.
Embeddings: Numerische Repräsentationen von Wörtern, Sätzen oder Dokumenten in einem hochdimensionalen Vektorraum, die semantische Bedeutungen und Beziehungen abbilden.
ADR (Architectural Decision Record): Ein kurzes Dokument, das eine wichtige architektonische Entscheidung mitsamt ihrem Kontext, den Alternativen und den Konsequenzen festhält.
IOSP (Integration Operation Segregation Principle): Ein Entwurfsprinzip in der Softwaretechnik, das die strikte Trennung von Integrationslogik (I/O, API-Aufrufe) und reiner Geschäftslogik fordert.
Markdown: Eine leichtgewichtige Auszeichnungssprache mit einfacher Textformatierung, die sich ideal für menschen- und maschinenlesbare Dokumentationen eignet.
TDD (Test-Driven Development): Eine Softwareentwicklungsmethode, bei der automatisierte Tests geschrieben werden, bevor der eigentliche Programmcode implementiert wird.