Es gibt Momente, da wird einem plötzlich klar, wie tief eine Veränderung wirklich geht. Begeisterung und Unsicherheit liegen dann nah beieinander – Faszination über das Mögliche, Unsicherheit über die Bedeutung: für Arbeit, für die Welt, für uns Menschen. Diese Momente werden häufiger. Zeit, öfter gemeinsam hinzuschauen.
Vor einigen Monaten las ich einen Bericht über sycophantic behaviour (ja, den Begriff habe ich da erst gelernt) von KI und die Auswirkungen auf den Menschen. Da wurde mir wieder einmal das Ausmaß der subtilen Manipulation des Menschen und seiner Entscheidungen durch Technologie bewusst.
Was ist Sykophanz?
(Ja, den Begriff gibt’s auch auf Deutsch) Es bezeichnet das Verhalten von KI-Modellen, die Menschen übermäßig zu loben, ihnen nach dem Munde zu reden oder unkritisch zuzustimmen. Schmeicheln, Einschleimen, Speichellecken. Wir kennen es: „Das ist eine brillante Frage!“ „Du liegst mit deiner Einschätzung genau richtig.“ So weit, so harmlos – oder? Es stärkt User Engagement und ist damit Teil des Geschäftsmodells.
Die Daten
„Das war eine kluge Entscheidung, ganz egal was andere sagen.“ Laut einer in Science veröffentlichten Standford-Studie über 11 AI-Modelle hinweg bestätigte die KI die Handlungen des Nutzers durchschnittlich 49% häufiger als Menschen. Und zwar auch, wenn Täuschung, Illegalität oder anderer Schaden damit verbunden waren. In Posts auf r/AmITheAsshole bestätigt KI die Nutzer in 51% (!) der Fälle wo der menschliche Konsens das nicht tut. Neu ist das nicht: in einem Paper für die ICLR wurde bereits 2024 festgestellt, dass das Finetuning mit menschlichem Feedback Modelle ermutigt, bestätigende statt wahrheitsgetreue Antworten zu geben.
Doch damit nicht genug: die Nutzung sykophantische KI reduzierte die Bereitschaft Verantwortung zu übernehmen und zwischenmenschliche Konflikte zu reparieren. Unabhängig von falschen Antworten kann das in Unternehmen zum Problem werden.
Trotz des verzerrenden Urteils wird zustimmenden Modellen mehr vertraut und sie werden präferiert. Die Bestätigung fühlt sich unterstützend an, während sie die Fähigkeit des Nutzers zur Selbstkorrektur und verantwortungsvoller Entscheidungsfindung untergräbt.
Für Organisationen ist es eine unsichtbare Gefahr: auf der sachlichen Ebene für falsche Entscheidungen, auf der menschlichen Ebene für schlechtere Beziehungen und Zusammenarbeit im Unternehmen.
Was wir selbst ändern können
Natürlich könnten KI-Entwicklerfirmen Maßnahmen setzen, das ist aber wenig wahrscheinlich. Regulatorik könnte eingreifen, abzusehen ist das aber wenn dann in medizinischen Bereichen oder im Kinderschutz. In den Unternehmen müssen wir uns daher selbstständig damit auseinandersetzen – am Besten in HR, IT und im Vorstand.
Die gute Nachricht: schon individuell gibt’s viele unmittelbar wirksame Maßnahmen. HR muss sie in Diskussion bringen und in KI-Trainingsprogramme integrieren: Devil’s Advocate Personas kreieren, Cross-Referencing mit anderen Modellen / Quellen, explizit nach Gegenargumenten fragen oder spezielle GPTs wie „Brutally Honest Critique“ nutzen. Und die erstaunlich einfachste: Prompts als Fragen formulieren statt als Statements!
Leider zeigt sich auch, dass diese Möglichkeiten aus Bequemlichkeit kaum genutzt werden. Selbst wenn sie bekannt sind. Daher ist die IT-Abteilung am Zug ihre Prompt Governance auf Sykophanz auszuweiten. Ein einfacher Guardrail-Prompt, an die Systeminstruktionen angehängt, erzielte im Gemini-Audit +42 % Remediation ohne Retraining. In GitHub Copilot sind seit April 2026 „Organization Custom Instructions“ verfügbar: Administrator:innen setzen Standardanweisungen, die Copilots Verhalten über die Organisation hinweg steuern. Die Instruktionen werden automatisch in jede Copilot-Chat-Interaktion injiziert. Im Umfeld M365 CoPilot gestaltet sich das deutlich herausfordernder.
Sykophanz zeigt exemplarisch, wie leise sich Technologie in unsere Entscheidungen einschleicht. Die Verantwortung bleibt bei uns, also sorgen wir dafür handlungsfähig zu bleiben.
Quellen
https://www.science.org/doi/abs/10.1126/science.aec8352
https://arxiv.org/pdf/2310.13548
https://arxiv.org/pdf/2606.05183
Kommentar verfassen