Wieso vertrauen wir KI-Systemen so schnell? Weil die Antworten so gut und professionell klingen? Weil wir gelernt haben (ein Hoch auf die Ingenieurskunst), dass Computer korrekt sind (und weil uns das intuitive Verständnis fehlt, dass KI völlig anders „tickt“ als bisherige algorithmische Systeme)?
Warum „vertrauen“ wir überhaupt?
Und was ist nötig, damit wir das ins Digitale übertragen?
Viele Fragen…..
Ein paar Ideen dazu:
Wir Menschen lernen von klein auf, zu vertrauen. Den Eltern, der Familie, Freunden, Lehrern, Behörden, Professoren, usw. Der Kreis wird immer größer und wir werden stetig von Menschen, denen wir bereits vertrauen, zu anderen weitergereicht. Die Eltern bringen einen zur Schule, also muss der Lehrer ja irgendwie vertrauenswürdig sein. Titel und Rollen tun ihr übriges – der Arzt in der Klinik, der Richter, der Prof an der Uni, usw. Wir vertrauen immer noch Büchern und Fachartikeln (auch wenn das heute vielleicht schon gefährlich wird), weil dort Kontrollmechanismen zur Qualitätssicherung eingezogen sind.
Vertrauen wird enttäuscht – manchmal. Manchmal auch öfter. Manchmal ein wenig, manchmal richtig stark. Auch das lernen wir. Und wir lernen auch, wie man das erkennt – zumindest bei Menschen. Manche Verhaltensweisen lassen uns vorsichtig werden, man erkennt „nicht vertrauenswürdige“ Menschen oft sehr schnell und auch sehr intuitiv.
Und so hat jeder von uns ein Umfeld, in dem er den „Vertrauensbegriff“ sehr gut einordnen kann und auch ein gewisses Gefühl dafür.
Dann kamen die Ingenieure und Informatiker und haben Maschinen gebaut, die reproduzierbar Ergebnisse liefern, die fast immer korrekt sind. Wir vertrauen Taschenrechnern, Computern, so mancher Software und Datenbank mehr als uns selbst. Hier wurde der Grundstein für Vertrauen in eine ganze Technologie gelegt. Viele von uns sind so aufgewachsen, dass Computer ein fester Bestandteil der „vertrauensvollen“ Umgebung sind.
KI ist hier anders.
KI simuliert Vertrauenswürdigkeit durch korrekt und gut klingende Antworten. Es gibt nicht die offensichtliche Verhaltensweise, das eindeutige Indiz, bei dem wir skeptisch oder vorsichtig werden. Nein, alles klingt super. Alles klingt genauso, wie wir es aus unseren vertrauten Umgebungen kennen – und kann dennoch falsch oder gefährlich sein.
Je mehr wir mit KI-Systemen arbeiten und je besser diese werden, desto wichtiger wird daher die Frage, wie wir unseren intuitiven Vertrauensbegriff in diese Welt bringen. Klar, kritisches Hinterfragen, nicht alles glauben, AI-Literacy – all das hilft. Aber das spielt sich eher auf der operativen Ebene ab.
Tief drinnen brauchen wir eine neue Art von Intuition. Und die darf nicht in Bequemlichkeit begründet sein.
Spannende Zeiten.