Risiken: Halluzinationen und Fehlerquellen

In dieser Folge spricht Dominique mit Tara Bosenick (https://www.linkedin.com/in/tarabosenick/)), Management Director bei uintent, über KI gestützten UX Research und was davon im Alltag von Produktteams wirklich trägt. Tara bringt mehr als zwei Jahrzehnte Erfahrung im UX Research mit und beobachtet sehr genau, wie sich der Einsatz von Sprachmodellen auf Research Prozesse auswirkt.

UX Research steht für fundierte Entscheidungen. Wer Produkte verantwortet, braucht belastbare Erkenntnisse über Bedürfnisse, Motive und Probleme von Nutzerinnen und Nutzern. Gleichzeitig steigt der Druck. Zeit fehlt, Prioritäten konkurrieren, Entscheidungen sollen schneller fallen. Hier können KI Werkzeuge Entlastung bieten. Tara erlebt in ihren Workshops beides: Begeisterung und Ernüchterung. Sprachmodelle formulieren hervorragend. Sie helfen beim Schreiben von Screenern, Interviewleitfäden oder UX Texten. Sie unterstützen bei der Strukturierung von Gedanken. Gerade beim Formulieren entsteht spürbare Zeitersparnis im UX Research. Der große Hebel liegt jedoch in der Analyse. Transkripte auswerten, Muster erkennen, Zitate sauber belegen und daraus einen klaren Report bauen kostet Zeit. Hier setzen viele Hoffnungen an. Doch genau hier zeigt sich auch die Schwäche probabilistischer Systeme. Ein Sprachmodell berechnet Wahrscheinlichkeiten. Es liefert gut klingende Antworten. Das bedeutet nicht automatisch, dass diese Antworten auch korrekt sind.

Wer im UX Research Interviews analysiert, will keine wahrscheinlichen Aussagen, sondern präzise Aussagen auf Basis echter Daten. Halluzinationen entstehen schneller als vielen bewusst ist. Ein falsch zugeordnetes Pronomen im Transkript kann bereits eine Interpretation kippen. Ein unklarer Kontext im Prompt kann dazu führen, dass externe Annahmen in die Analyse einfließen. Tara plädiert deshalb für ein sehr bewusstes Vorgehen, wie kleine Analyseschritte statt großer Gesamtaufgaben zu stellen, klare Regeln im Prompt zu formulieren, Explizite Anweisungen zu geben, nur mit den vorliegenden Daten zu arbeiten und Zitate wortwörtlich wiederzugeben. UX Research mit KI verlangt Disziplin und ein kritisches Auge.

Auch die Vorbereitung von Research profitiert nur begrenzt von Automatisierung. Wer regelmäßig Interviews führt, erstellt Leitfäden oft schneller selbst, als ein Sprachmodell mit ausreichend Kontext zu versorgen. Sinnvoll kann KI im UX Research beim vorbereitenden Desk Research sein oder als Sparringspartner für Hypothesen und Fragestellungen. Spannend wird es aber beim Reporting. Layouts automatisiert befüllen, Charts erstellen und Präsentationen strukturieren spart Zeit, ohne den Kern des UX Research zu verfälschen. Hier entsteht echte Entlastung im Alltag von Product Ownern und Produktmanagerinnen.

Gleichzeitig bleibt der Mensch zentral. Gute Interviews leben von Beziehung und Gesprächsdynamik. Wer UX Research komplett an Bots abgibt, verliert die unmittelbare Erfahrung mit Nutzerinnen und Nutzern. Gerade für Produktteams ist es wertvoll, Probleme aus erster Hand zu hören. Diese Erfahrung schafft ein gemeinsames Verständnis, das kein Report ersetzen kann.

Datenschutz und Compliance sind lösbar, wenn passende Tarife und Verträge genutzt werden. Das größere Risiko liegt in der unkritischen Nutzung. Sprachlich überzeugende Ergebnisse verführen dazu, sie ungeprüft zu übernehmen. Für fundierten UX Research braucht es jedoch Verantwortung und Reflexion.

KI gestützter UX Research ist damit weder Heilsbringer noch reine Spielerei. Er kann Prozesse beschleunigen, wenn wir die Grenzen kennen und bewusst steuern. Wer Halluzinationen versteht, Prompts strukturiert und Ergebnisse prüft, gewinnt Zeit für das Wesentliche. Für bessere Fragen, tiefere Gespräche und klarere Entscheidungen im Produktalltag.