Unter Automation BIAS (BIAS = Verzerrung, systematischer Fehler) versteht man das bedingungslose Vertrauen in die Technik. In den heutigen modernen Mensch-Maschine-Systemen wurden immer mehr Funktionen automatisiert, die früher von Menschen erledigt wurden. Der Automation BIAS schleicht sich ein, wenn Menschen den Informationen oder Anweisungen auf den Bildschirmen zu große Bedeutung beimessen. Sie glauben diesen Informationen, selbst wenn sie offensichtlich falsch oder irreführend sind.
Nehmen wir als Beispiel das fast grenzenlose Vertrauen in GPS:
- Aufforderung, auf einer Autobahn zu wenden – obwohl gar nicht möglich (und höchst gefährlich…)
- Man fährt in einen Fluss, da hier angeblich eine Brücke oder Straße verlaufen soll
- Falsches Abbiegen obwohl durch aktuelle Schilder neu geregelt
Diese Liste lässt sich endlos fortsetzen, man hört oder liest täglich von solchen Vorkommnissen. Heutzutage hat man verlernt, selbst Karten zu lesen, Hinweisschilder zu beachten und den Verkehr richtig einzuschätzen. Man verlässt sich „blind“ auf die Anweisungen aus dem Navigationsgerät.
Automation BIAS ist ein kognitiver BIAS, der dazu führt, dass wir automatisierten Entscheidungen mehr Vertrauen schenken als menschlichen Entscheidungen. Dieser BIAS kann sich auf verschiedene Weise manifestieren. Zum Beispiel können wir:
- Einem automatisierten System mehr Vertrauen schenken, selbst wenn wir wissen, dass es nicht so gut funktioniert wie ein Mensch
- Automatisierten Entscheidungen mehr Gewicht beimessen, als sie verdienen
- Automatisierte Entscheidungen als objektiver und unvoreingenommener wahrnehmen als menschliche Entscheidungen
Ursachen…
Es gibt verschiedene Ursachen für Automation Bias. Eine Ursache ist die Überschätzung der Zuverlässigkeit von automatisierten Systemen. Menschen neigen dazu, automatisierte Systeme als genauer und zuverlässiger zu betrachten als sie tatsächlich sind. Dies kann daran liegen, dass automatisierte Systeme häufig als objektiver und unvoreingenommener wahrgenommen werden als Menschen.
Eine weitere Ursache für Automation Bias ist die Verringerung der kognitiven Anstrengung. Wenn Menschen automatisierte Systeme nutzen, müssen sie weniger kognitive Anstrengungen unternehmen, um Entscheidungen zu treffen. Dies kann dazu führen, dass sie weniger kritisch über die Entscheidungen der Systeme nachdenken und ihnen mehr Vertrauen schenken.
Schließlich kann Automation Bias auch durch soziale Normen beeinflusst werden. In vielen Situationen wird es als unprofessionell angesehen, automatisierte Systeme in Frage zu stellen. Dies kann dazu führen, dass Menschen automatisierten Entscheidungen mehr vertrauen, selbst wenn sie Zweifel an deren Richtigkeit haben.
… und Folgen von Automation BIAS
Automation BIAS kann zu einer Reihe von negativen Folgen führen, darunter:
- Diskriminierung: Automatisierte Systeme können Diskriminierungsmuster aus den Daten übernehmen, auf denen sie trainiert werden
- Fehler: Automatisierte Systeme können Fehler machen, die schwerwiegende Folgen haben können
- Vertrauensverlust: Wenn Menschen den Automation BIAS erkennen, können sie das Vertrauen in KI-Systeme verlieren
Wie man Automation BIAS vermeiden kann
Seien Sie sich der Möglichkeit von Automation Bias bewusst. Der erste Schritt zur Vermeidung ist, sich dessen bewusst zu sein. Wenn Sie wissen, dass es eine Möglichkeit gibt, dass Sie automatisierten Vorschlägen zu viel Vertrauen schenken, können Sie sich davor schützen.
Überprüfen Sie automatisierte Entscheidungen immer noch manuell. Selbst wenn Sie einem automatisierten System vertrauen, ist es immer noch wichtig, die Entscheidungen, die es trifft, zu überprüfen. Dies ist besonders wichtig für wichtige Entscheidungen, die weitreichende Folgen haben können.
Verwenden Sie mehrere Informationsquellen. Wenn Sie eine Entscheidung treffen, sollten Sie nicht nur auf die Vorschläge eines automatisierten Systems vertrauen. Holen Sie sich Informationen aus anderen Quellen, um sich ein umfassendes Bild zu verschaffen.
Seien Sie kritisch gegenüber den Daten, auf denen das automatisierte System basiert. Stellen Sie sicher, dass die Daten, auf denen das automatisierte System basiert, vollständig und korrekt sind. Wenn die Daten verzerrt sind, kann dies zu verzerrten Entscheidungen führen.
Automation BIAS ist ein ernstzunehmendes Problem, das die Zuverlässigkeit von KI-Systemen beeinträchtigen kann. Es ist wichtig, sich der Ursachen und Folgen bewusst zu sein, um ihn zu vermeiden und die Vorteile, Chancen und Risiken von KI voll auszuschöpfen.