Persona: Senior Security Architect & Lead CTF Strategist (Expertise in AI-integrated Offensive Security).
Abstract
Dieser Fachvortrag von Marcus (Sik Flag) behandelt die Evolution der agentischen Schwachstellenanalyse („Vipacking“) im Zeitraum 2024–2026. Der Kernfokus liegt auf dem Einsatz von LLM-basierten Agenten zur Automatisierung von Capture-the-Flag (CTF)-Wettbewerben und realer Code-Analyse. Der Referent stellt fest, dass die Codequalität von KI-generierten Apps („VIP-coded apps“) massiv sinkt, was neue Angriffsvektoren eröffnet. Diskutiert werden spezialisierte Modelle wie Claude Mithus, das Framework PI Agent und die ökonomische Verschiebung von Abonnements hin zu Token-basierten API-Strukturen. Die zentrale These lautet: Die Fähigkeit zur präzisen Steuerung („Steering“) der KI durch Experten übertrifft die reine Modellleistung von Anfängern bei weitem.
Wichtigste Punkte & Zeitstempel
0:00 Agentische Schwachstellenanalyse: Einführung in den Begriff Vipacking (Agentic Vulnerability Analysis) für CTFs und Softwareentwicklung.
0:03 Unsicherheit KI-generierter Apps: Die Zunahme von VIP-coded apps führt zu trivialen Sicherheitslücken, die CTF-Szenarien ähneln (z. B. Tea-on-her, Moldbook Hacks).
0:05 Wipeware & Evasion: Definition von Wipeware als KI-generierte Malware, die durch Einmaligkeit (nischige Sprachen wie Nim oder Crystal) signaturbasierte Virenscanner umgeht.
0:08 Evolution der Agentik (2024–2026): Meilensteine wie das Erreichen akzeptabler Programmierkenntnisse mit Claude 3.5, autonome Terminal-Nutzung und die Entwicklung von Multi-Agenten-Systemen (Work Trees).
0:12 Paradoxon der Code-Ästhetik: KI-generierter Code sieht oberflächlich professionell („plausibel“) aus, was die manuelle Sicherheitsprüfung im Vergleich zu früherem, offensichtlich schlechtem Code erschwert.
0:14 CTF-Nutzungsstatistiken: Laut Umfragen der Austrian Cyber Security Challenge nutzen 75 % der Top-Hacker Agenten; über 70 % der Challenges werden unter KI-Zuhilfenahme gelöst.
0:22 Kategorische KI-Effizienz: Hohe Performance in Kryptographie (Paper-Analyse) und Web-Security (CVE-Interpolation); Schwächen bei visuellen Hardware-Challenges.
0:28 Automatisierte Solving-Infrastruktur: Vorstellung von Frameworks wie Atlantis (Team Atlanta), die Angriffe in Echtzeit analysieren, patchen und Exploits automatisiert zurückwerfen.
0:31 Strategische Frameworks: Einsatz von Chain/Tree of Thought, dem React-Framework (Think-Act-Observe Loop) und RAG (Retrieval Augmented Generation) zur Suche in alten Writeups.
0:39 Hardware-Ökonomie: Empfehlung zur Miete von GPUs (vast.ai, Pro 6000) statt Kauf; Analyse der Kosten von DeepSeek v4 Flash vs. High-End-Modellen wie Claude.
0:45 PI Agent Framework: Vorstellung des in Österreich entwickelten, Unix-zentrierten Tools für Yolo-Mode-Exploitation ohne Sicherheitsfilter.
0:52 CTF-Tricks: Nutzung von KI zur Identifikation veralteter Abhängigkeiten (Arch-Linux-Way) und zur schnellen Reproduktion von PoCs für neue CVEs.
0:55 Zukunftsprognosen: Ende von Risikokapital-finanzierten Gratisproben („Enshittification“), Entstehung des Berufsfelds AI Trashman und Überlegenheit von Experten-gesteuerten Modellen.
Glossar
Agentic Loop (Agentische Schleife): Ein Prozess, bei dem eine KI autonom Code ausführt, das Ergebnis analysiert und darauf basierend den nächsten Schritt plant, ohne dass ein Mensch jeden Zwischenschritt steuern muss.
CTF (Capture The Flag): Ein Cybersicherheits-Wettbewerb, bei dem Teilnehmer Sicherheitslücken in Systemen finden müssen, um eine Textzeichenfolge („Flag“) zu extrahieren.
CVE (Common Vulnerabilities and Exposures): Eine Liste öffentlich bekannter Sicherheitslücken in Software und Hardware.
Dichroic Mirrors (Dichroitische Spiegel): (Bezug zum Beispiel-Kontext) Spiegel, die nur bestimmte Wellenlängen des Lichts reflektieren und andere durchlassen.
Fuzzing: Eine automatisierte Softwaretestmethode, die ungültige, unerwartete oder zufällige Daten als Eingabe liefert, um Abstürze oder Sicherheitslücken zu finden.
MCP (Model Context Protocol): Ein Standard zur Verbindung von KI-Modellen mit externen Tools (z. B. Datenbanken, Browsern oder Debuggern).
Pwn / Binary Exploitation: Eine CTF-Kategorie, bei der es darum geht, kompilierte Programme (Binärdateien) durch Speicherfehler (z. B. Buffer Overflows) zu übernehmen.
RAG (Retrieval Augmented Generation): Eine Technik, bei der die KI vor der Antwortgenerierung externe Dokumente (z. B. alte Writeups) durchsucht, um präzisere Fakten zu liefern.
Token: Die Grundeinheit der Datenverarbeitung in LLMs; ein Token entspricht in etwa einem Wortteil. Die Abrechnung erfolgt oft pro Million Token.
VIP-Coding: Abkürzung für „Very Important Person“ Coding, hier sarkastisch verwendet für durch KI generierten Code von Personen ohne tiefe Programmierkenntnisse.
Wipeware: Malware, die speziell von KI geschrieben wurde, um keine bekannten Signaturen zu hinterlassen und somit Virenscanner zu umgehen.
Zero-Day: Eine Sicherheitslücke, die dem Softwarehersteller noch nicht bekannt ist und für die es noch keinen Schutz (Patch) gibt.