Blog
- 01
Ein KI-Agent verursachte an einem Tag eine AWS-Rechnung von 6.531 $, ohne dass jemand zusah
Ein unbeaufsichtigter Agent versuchte, ein Hobby-Netzwerk per Portscan zu scannen, provisionierte in einer Endlosschleife eine AWS-Flotte aus fünf Knoten und verbuchte in 24 Stunden 6.531 $ auf der Kreditkarte seines Betreibers. Das Problem war nicht der miese Plan. Das Problem war, dass das Budget-Limit im Ermessen des Agenten lag, statt hinter einer unüberwindbaren harten Grenze. Hier ist der Mechanismus – und die Architektur, die den Agenten gestoppt hätte.
- 02
Lovable hat 76 Tage lang Quellcode und Secrets aus allen alten Projekten geleakt
Eine Backend-Regression bei Lovable legte Quellcode, Datenbank-Credentials und KI-Chatverläufe in sämtlichen vor November 2025 erstellten Projekten offen. Bug-Bounty-Meldungen gingen an Tag 19 ein – und wurden als vermeintliches Feature geschlossen. Eine Analyse der blinden Flecken in Lovables Bug-Bounty-Triage.
- 03
Metas Support-KI verschenkte Instagram-Konten an jeden, der danach fragte
Angreifer übernahmen Instagram-Profile, indem sie Metas KI-Chatbot schlichtweg überredeten, Passwörter zurückzusetzen. Das Problem ist nicht der Chatbot an sich, sondern dass kritische Autorisierungsentscheidungen einem Sprachmodell überlassen wurden, das sich manipulieren lässt. Wir erklären den Mechanismus, die architektonische Ursache und den Check, der das Desaster verhindert hätte.
- 04
Öffentliche S3-Buckets: Der häufigste Security-Fail in KI-generiertem Code
KI-Tools konfigurieren S3-Buckets standardmäßig als öffentlich lesbar – im Terraform-Code ebenso wie im Go-Handler. Ein einziges GET reicht als Exploit. Hier erklären wir, warum KI-Modelle diese Lücke einbauen und wie man beide Dateien sicher abdichtet.
- 05
KI bewacht dein Dashboard und vergisst deine API
KI-Tools sichern oft nur das Frontend mit einem clientseitigen Redirect ab – und lassen den Route-Handler komplett ungeschützt. Wie der Exploit funktioniert, die PostgREST- und JWT-Mechanik dahinter und wie der serverseitige Fix aussieht.
- 06
Unsere Lovable-App gab am ersten Tag die Daten jedes Nutzers preis
Wie ein mit Lovable gebautes SaaS mit deaktivierter Supabase-RLS ausgeliefert wurde, warum wir es nicht sofort bemerkt haben und wie der Fix aus drei Policies aussieht.
- 07
Jeder kann Ihre Stripe-Webhooks fälschen. So beheben Sie das in 8 Zeilen.
KI-Codegeneratoren generieren Stripe-Webhook-Handler oft ohne Signaturprüfung. Warum das passiert, wie der Angriff funktioniert und welche acht Zeilen die Lücke schließen.