Dark Patterns und KI in der Website-Entwicklung
Und wieder einmal geht es um Dark Patterns. Nur diesmal sind im Prinzip die KI-Systeme – oder besser gesagt die Trainingsdaten – das Problem, zeigt eine Studie. UX-Designer:innen-Skills und bestimmte Erkennungsmechanismen sind gefragt.
Und wieder einmal geht es um Dark Patterns. Nur diesmal sind im Prinzip die KI-Systeme – oder besser gesagt die Trainingsdaten – das Problem, zeigt eine Studie. UX-Designer:innen-Skills und bestimmte Erkennungsmechanismen sind gefragt.
UX-Designer:innen, Interaction-Designer:innen und Entwickler:innen haben sich schon seit geraumer Zeit mit dem Thema Dark Patterns auseinandersetzen müssen. Das passiert, wenn beispielsweise Kunden gestalterisch unschöne oder verwirrende Designelemente auf ihren Websites eingebaut haben möchten, die nicht nur visuell abschrecken, sondern auch noch die User verärgern können, wenn sie aus Versehen darauf klicken: Es geht um Dark UX Design.
Konkret sind das zum Beispiel CTAs, Buttons oder falsche Ratings wie »Limited Offer«, »Letzte Chance«, »Nur noch 1 verfügbar« oder »Bestes Produkt auf dem Markt«. Das Ziel: maximale Klicks, maximale Verkäufe, maximale Umsätze. Ob das funktioniert, kann man anzweifeln. Zumindest aus gestalterischer Sicht ist es zum einen unschön und zum anderen ein moralisches Dilemma, weil es die Kundschaft letztlich meistens verschaukelt.
Die Thematik kommt jetzt wieder zum Tragen, nur zusätzlich in Verbindung mit Design und KI-Systemen. Davon mal abgesehen, dass viele Designer:innen KI-generierten Inhalten eher kritisch gegenüberstehen, wird es jetzt noch ein Stückchen komplexer. Manche empfinden bereits, dass KI die »Fast Fashion der Bildwelt« sei und sehen sinkende Qualitätsstandards und -ansprüche.
Vorsicht vor manipulativen Designmustern auf Websites
Nun sind es die Trainingsdaten der KI-Systeme, die Dark Patterns in Websites und damit auch ins Coding integrieren, sofern sie damit gefüttert worden sind. Das stellt UX-Designer:innen vor neue Herausforderungen, da es jetzt manipulative Designmuster auf Websites gibt, die durch KI-Trainingsdaten erzeugt wurden.
Das hatte eine neue Studie herausgearbeitet: »Create a Fear of Missing Out – ChatGPT Implements Unsolicited Deceptive Designs in Generated Websites Without Warning«.
Dafür haben sich das ATHENE-Zentrum für Cybersicherheit, die Universität Glasgow und die Humboldt-Universität zu Berlin zusammengetan und untersucht, wie AI eigentlich damit umgeht, wenn sie mit manipulativen Designmustern trainiert wird.
Technische Erkennungsmechanismen können das vermeiden
Das Fazit ist laut den Untersuchungen deutlich: KI erstellt Dark Patterns im neuen Webseitencode. Da waren beispielsweise unechte Kunden-Ratings oder unverständliche Preisvergleiche mit dabei, so die Studie. Und das ohne jegliche Kennzeichnung oder Hinweis, dass es sich hierbei eventuell um ethische oder rechtliche Probleme in Form von Dark Patterns handeln könnte.
Es braucht demnach bestimmte Erkennungsmechanismen, die in den Trainingsdaten für KI, die Webseitencodes generieren, erkennen können, ob darin Dark Patterns vorhanden sind oder nicht. Die Studie soll für die Problematik sensibilisieren.
Aber es braucht auch UX- und UI-Designer:innen, die verstehen, damit umzugehen und das Know-how an ihre Kundschaft für Designaufträge weitervermitteln. Denn ethische Webseiten-Gestaltung in Zeiten von KI bleibt wichtig – und wird auch immer komplexer.
