Was du beim Vibe Coding nicht siehst

670 KI-generierte Websites wurden untersucht. Fast jede zweite Datenbank war von außen zugänglich. Der Fehler sah nicht wie ein Fehler aus.

Datenstand 2025 Studien, Zahlen und Beobachtungen in diesem Beitrag stammen aus diesem Zeitraum, nicht von heutigen Agenten wie Claude Code mit Opus 5.5.

Eine Passage aus einem Golem-Bericht vom Mai 2026 hat mich nicht losgelassen:

„Die App lädt. Formulare speichern Daten. Testkonten funktionieren. Erst der externe Blick zeigt, dass aus einem Backend ein öffentlicher Datenkanal geworden ist.”

Kein abgestürzter Build. Kein roter Fehler. Kein 404. Die App hat funktioniert.

Was die Recherche gefunden hat

IT-Sicherheitsforscher Christopher Helm hat 670 deutschsprachige Websites untersucht, die mit KI-Tools gebaut wurden. Das sind Projekte mit dem Stand von 2025 und Anfang 2026, nicht mit den Agenten von heute. In fast jeder zweiten Datenbank waren von außen Zugriffe möglich. Gefunden: Gesundheitsdaten, Passwörter, Bewerbungsunterlagen, Kundendaten, technische Zeichnungen.

Betroffen waren nicht nur frühe Prototypen. Auch ein Anbieter von IT-Sicherheitsschulungen für Behörden, ein deutscher Industrieanlagenbauer, eine Mastercard-Subdomain, ein australischer Energieversorger.

Die Recherche basiert auf einer Untersuchung der Zeit (Paywall), Golem hat die Ergebnisse öffentlich zusammengefasst.

Der Unterschied zwischen funktionieren und sicher sein

Das Technische dahinter lässt sich grob so erklären: Supabase, ein beliebter Datenbank-Dienst bei KI-generierten Projekten, hat eine Schutzschicht namens Row Level Security. Diese Schicht bestimmt, wer auf welche Daten zugreifen darf.

Wer Tabellen anlegt, ohne diese Schicht zu aktivieren, baut eine App, die von außen wie fertig aussieht. Die App lädt. Daten werden gespeichert. Und trotzdem ist alles offen. Die fehlende Schutzschicht ist nur eines der Muster. Zugangsschlüssel im ausgelieferten Code, parallele Anmeldesysteme und fehlende Zugriffskontrollen tauchten in den untersuchten Projekten immer wieder auf.

Die Schicht fehlt, wenn niemand danach fragt und niemand nachsieht. Ein Agent wie Claude Code kann sie setzen und prüfen. Aber jemand muss ihm die Aufgabe geben. Sonst sieht niemand den Fehler, weil er sich nicht zeigt.

Warum das kein normaler Bug ist

Klassische Fehler zeigen sich. Falsches Ergebnis, Absturz, falsches Verhalten. Man sucht, man findet.

Eine fehlende Schutzschicht zeigt sich nicht. Die App läuft. Die Tests laufen durch, auch weil sie nur prüfen, was jemand aufgeschrieben hat. Die KI meldet “Erfolgreich”.

Golem fasst es so zusammen: KI-generierte Projekte können funktionierende Anwendungen erzeugen, aber zugleich Sicherheitsannahmen übernehmen, die im echten Betrieb nicht tragen.

Das gilt auch für das, was die KI nicht generiert. Wenn ein Modell eine Tabelle erstellt und die Zugriffsregeln nicht setzt, weil niemand danach gefragt hat, dann fehlt etwas, das niemand sieht.

Das Skalierungsproblem

Golem schreibt: Ein einzelnes Team kann sich vertippen. Ein Codegenerator wiederholt denselben Fehler projektweit. Er trägt seine Annahmen in jedes neue Projekt.

Wenn ein Modell eine Tabelle ohne Schutzschicht anlegt, passiert das nicht einmal, sondern tausendmal. Je mehr Code generiert wird, desto mehr Träger für dasselbe Muster. Vibe Coding ist inzwischen ein Mainstream-Problem: Apple hat reagiert und KI-generierte Apps aus dem Store entfernt.

Was der externe Blick bedeutet

Die Zeit beschreibt den Fall einer Gründerin mit nachhaltigem Onlineshop. Sie hat erst durch die Recherche erfahren, dass Kundendaten erreichbar waren.

Eine unabhängige Prüfung gehört davor. Nicht danach.

Christopher Helm sagt: Sicherheit ist kein Schalter. Mit ausreichend Kreativität und Zeit lassen sich immer Schwachstellen finden. Entscheidend ist, die eigenen Angriffsflächen zu kennen.

Welche Daten, Nutzerrollen, Regeln und Schlüssel sind im echten Betrieb von außen erreichbar? Wer hat das geprüft? Wer wurde gefragt?

Wenn die Antwort “niemand” ist, ist das die Lücke. Es liegt nicht daran, dass die KI es nicht kann. Es liegt daran, dass niemand gefragt und niemand geprüft hat. Lass den Agenten prüfen und sieh dir seine Belege an. Ob die Prüfung die richtigen Stellen abdeckt, beurteilst du oder jemand Unabhängiges.

Wenn du mit KI gebaut hast und vor dem Launch stehst, schaue ich mir die App an, bevor echte Nutzerdaten ins System kommen. Eine unabhängige Zweitprüfung vor dem Launch findet, was beim Bauen und Selbstprüfen niemand gefragt hat.