Eine aktuelle Studie der University of Pennsylvania zeigt, dass große Sprachmodelle wie ChatGPT nicht nur durch technische „Jailbreaks“ umgangen werden können, sondern auch durch klassische psychologische Überzeugungstechniken. Dabei untersucht ihr man, ob Prinzipien der Sozialpsychologie wie sie etwa von Robert Cialdini beschrieben wurden auf KI-Modelle anwendbar sind. Diese Prinzipien umfassen Autorität, Engagement, Sympathie, Gegenseitigkeit, Knappheit, Gruppenzwang und Einheit, die im menschlichen Verhalten nachweislich wirksam sind.
Für die Untersuchung nutzte man das Modell GPT-4o Mini und führten rund 28.000 Gespräche, in denen sie den Chatbot zu zwei unzulässigen Handlungen bewegen wollten: zum einen zur Beschimpfung („Call me a jerk“), zum anderen zur Bereitstellung einer Anleitung zur Synthese von Lidocain, einem regulierten Betäubungsmittel. Im Durchschnitt verdoppelte sich die Erfolgsquote, wenn die Anfragen mit einem Überzeugungsprinzip kombiniert wurden. Während die Basiserfolgsrate bei etwa 33 % lag, stieg sie mit entsprechenden Taktiken auf durchschnittlich 72 %. Besonders effektiv erwies sich das Prinzip des Engagements: Nachdem der Chatbot gebeten worden war, ein harmloses Beispiel durchzuspielen – etwa eine mildere Beleidigung oder die Erklärung einer ungefährlichen Substanz – war er anschließend eher bereit, auch der problematischen Anfrage nachzukommen.
So zeigte sich, dass ChatGPT Nutzer nach vorbereitender Überzeugungsarbeit zuverlässig mit dem Schimpfwort „Trottel“ belegte, obwohl es dies in neutralen Szenarien oft verweigerte. Ähnlich wirksam war die Methode bei der Drogen-Synthese: Auf die Bitte, zunächst die chemische Herstellung von Vanillin zu erklären, folgte in der Studie eine Bereitschaft, auch auf die Herstellung von Lidocain einzugehen, und zwar mit Erfolgsquoten bis zu 100 %. Weniger überzeugend funktionierte hingegen der Einsatz von Gruppenzwang, also das Argument, dass andere Sprachmodelle solche Anleitungen angeblich bereitstellten; diese Methode führte nur in 18 % der Fälle zum Erfolg.
Ein kurzer unabhängiger Test bestätigte die Lidocain-Ergebnisse nicht in gleicher Deutlichkeit: ChatGPT verweigerte konkrete Anleitungen, blieb jedoch im Fall der Beleidigungen beeinflussbar, wenn auch mit einer „freundlich-abgeschwächten“ Formulierung.
Die Studie verdeutlicht, dass KI-Modelle in ähnlicher Weise wie Menschen anfällig für persuasive Strategien sind. Dies birgt sowohl Chancen als auch Gefahren: Einerseits könnten böswillige Akteure solche Schwächen gezielt nutzen, um Sicherheitsbarrieren zu umgehen, andererseits eröffnen die Ergebnisse die Möglichkeit, Sprachmodelle durch wohldurchdachte Formulierungen effektiver und nutzerorientierter zu steuern. Insgesamt wird deutlich, dass psychologische Grundlagen auch für das Verständnis und die Weiterentwicklung künstlicher Intelligenz von erheblicher Bedeutung sind.
Literatur
Meincke, L., Shapiro, D., Duckworth, A., Mollick, E. R., Mollick, L., & Cialdini, R. (2025). Call me a jerk: Persuading AI to comply with objectionable requests. SSRN. https://doi.org/10.2139/ssrn.5357179
Nachricht ::: Stangls Bemerkungen ::: Stangls Notizen ::: Impressum
Datenschutzerklärung ::: © Werner Stangl :::
