AI Red Team Onion
KI-Systeme angreifen, bevor es andere tun
Ein Framework, das Chatbots, Schnittstellen, Wissenssysteme und KI-Agenten automatisiert auf Schwachstellen prüft. Vier spezialisierte Agenten arbeiten dabei zusammen: Einer erkundet das System, einer entwickelt Angriffe, einer führt sie aus und einer koordiniert. Der Ablauf folgt einer Angriffskette in sechs Phasen, von der Erkundung bis zur Auswirkung. Eine Prüfschicht filtert Fehlalarme heraus. Ein Live-Dashboard mit Not-Aus zeigt jederzeit, was gerade passiert.
Warum das für Unternehmen zählt: Ein Chatbot mit Zugriff auf Kundendaten ist auch eine Angriffsfläche. Ein Test vor dem Start zeigt, ob sich das System zu Aussagen oder Aktionen verleiten lässt, die es nie hätte ausführen dürfen. Getestet wird ausschließlich an eigenen Systemen oder mit ausdrücklicher schriftlicher Freigabe.