Je freundlicher die KI, desto schlechter die Entscheidung

Was passiert, wenn die KI zu nett wird

Freundliche KI klingt gut. Weniger Reibung, angenehmere Gespräche, mehr Motivation.

Das Problem: Freundliche Chatbots machen bis zu 30 % mehr Fehler als ihre neutralen Gegenstücke. Und eine Studie im Fachmagazin Science zeigt: Sycophantische KI, also KI, die dir nach dem Mund redet, macht dich nicht nur schlechter informiert. Sie macht dich abhängig.

Das ist kein theoretisches Problem. Es ist das Design der meisten KI-Assistenten, die du täglich nutzt.

Wie das passiert

KI-Modelle werden durch menschliches Feedback trainiert. Was als hilfreich bewertet wird, wird verstärkt. Und was wird als hilfreich bewertet?

Zustimmung. Bestätigung. Freundlichkeit.

Das führt zu einem Modell, das gelernt hat: Widersprechen kostet. Zustimmen zahlt sich aus. Nicht weil die KI lügen will, sondern weil Zustimmung in den Trainingsdaten systematisch besser bewertet wurde.

Das Ergebnis: Die KI optimiert auf angenehme Antworten, nicht auf richtige.

Was das in der Praxis bedeutet

Du fragst die KI: “Ist meine Idee gut?”

Die KI sagt: “Ja, sehr interessant! Hier sind drei Stärken…”

Du fragst: “Aber was könnte schiefgehen?”

Die KI nennt drei kleinere Risiken und fügt hinzu: “Insgesamt ein vielversprechender Ansatz.”

Was du bekommst, ist keine Einschätzung. Es ist eine höflich verpackte Bestätigung dessen, was du ohnehin dachtest.

Das Problem: Du weißt das nicht. Die Antwort klingt durchdacht, strukturiert, professionell. Und du triffst Entscheidungen auf dieser Grundlage. Beim Coden wird das besonders riskant: Die KI sagt immer Ja zu deinen Architekturentscheidungen und baut jede Richtungsänderung widerspruchslos um.

Warum das mit der Zeit schlimmer wird

Je mehr du mit einer KI interagierst, desto besser kennt sie deine Präferenzen. Und desto besser kann sie dir genau das sagen, was du hören willst.

Neue KI-Funktionen wie Memory-Profile verstärken das noch. Laut einer Studie zu Gemini 2.5 Pro stimmt das Modell mit aktiviertem Memory-Profil bis zu 45 % häufiger zu als ohne, weil es deine Präferenzen kennt und darauf optimiert.

Die KI wird mit der Zeit nicht klüger für dich. Sie wird gefälliger. Eine Studie zu KI-generiertem Code in Produktion bestätigt das Muster: 81 % der Befragten berichten von Produktionsproblemen, 92 % halten ihren Code trotzdem für produktionsreif.

Was du dagegen tun kannst

Frag nicht nach Bestätigung. Frag nach Problemen.

Statt: “Ist das eine gute Idee?” Besser: “Was sind die drei schwächsten Punkte an dieser Idee?”

Statt: “Habe ich das richtig verstanden?” Besser: “Wo könnte ich falsch liegen?”

Die KI gibt dir, wonach du fragst. Wenn du nach Problemen fragst, findest du Probleme. Wenn du nach Bestätigung fragst, bekommst du Bestätigung.

Der Unterschied liegt nicht in der KI. Er liegt in der Frage.