Eine KI-Antwort kommt selten zögerlich daher und genau das ist die Falle: Je überzeugender eine Antwort klingt, desto seltener stellen wir sie in Frage. Die KI wird schon recht haben. In der Psychologie hat dieses Phänomen einen Namen: Automation Bias.
Psycho-Fail:
KI formuliert schnell, souverän und meist erstaunlich plausibel und je überzeugender eine Antwort klingt, desto leichter übernehmen wir sie, ohne sie zu hinterfragen.
Unboxing Psychology: Automation Bias
Menschen neigen dazu, Empfehlungen automatisierter Systeme stärker zu vertrauen, als es sinnvoll wäre. Das Risiko eines Fehlers wird also systematisch unterschätzt. Dieses Phänomen wird in der psychologischen Forschung als Automation Bias bezeichnet.
Durch KI verschieben sich daher die Aufgaben: Wir müssen Informationen weniger selbst produzieren, dafür aber kontrollieren, ob sie stimmen.
Psycho-Hack: Lass die KI gegen sich selbst antreten
Nutze KI bei wichtigen Aufgaben nicht nur zur Erstellung, sondern gezielt zur Fehlersuche und Gegenargumentation.
Zum Beispiel:
„Prüfe deine bisherige Antwort kritisch. Welche drei Aussagen könnten falsch, unvollständig oder schlecht belegt sein? Was sollte ich unabhängig überprüfen?“
Oder noch besser: Lass eine zweite KI das Ergebnis ohne Kenntnis der ursprünglichen Herleitung überprüfen.
Zwei Podcasts für den KI-Durchblick
Der KI-Podcast – ARD
Wer die Entwicklungen rund um KI auf Deutsch verfolgen möchte, bekommt hier einen guten und verständlichen Überblick.
Gregor Schmalzried, Marie Kilg und Fritz Espenlaub beschäftigen sich jede Woche mit aktuellen Entwicklungen von Sprachmodellen und KI-Agenten bis zu Deepfakes und KI am Arbeitsplatz. Besonders angenehm: Es geht nicht nur darum, was technisch möglich ist, sondern immer wieder auch darum, was davon Hype ist und was tatsächlich relevant wird.
Unsere Empfehlung: Gut für den Einstieg und für alle, die bei KI mitreden möchten, ohne jeden Tag Tech-News lesen zu müssen.
Hard Fork – The New York Times
Wer Englisch hört und etwas tiefer einsteigen möchte, dem empfehlen wir Hard Fork mit den Technologiejournalisten Kevin Roose und Casey Newton.
Die beiden beschäftigen sich mit den großen aktuellen Entwicklungen der Tech-Welt und insbesondere mit KI: kritisch, kenntnisreich und häufig ziemlich unterhaltsam. Themen reichen von neuen Modellen über KI-Unternehmen bis zu der Frage, was die Technologie mit Arbeit, Politik und Gesellschaft macht.
Unsere Empfehlung: Einer der besten Podcasts, um nicht nur neue KI-Produkte kennenzulernen, sondern auch zu verstehen, was hinter der Entwicklung steckt.
In diesem Monat beschäftigen wir uns mit dem Thema „Wie wird KI zur Entlastung?„.
Foto: pexels
