„Safe Emotional AI“ – eines der wichtigsten Zukunftsthemen und eines, das uns jeden Tag aufs neue betrifft. Meine Studierende Tatevik Khachatryan hat in ihrer Masterarbeit im Studiengang UI/UX an der PFH Private Hochschule Göttingen 15 zentrale UI/UX-Guidelines für sichere KI-Systeme entwickelt.
Zusammen mit Jess Toft und den Firmen Bully Buddy™Neuro Buddy™ und Safety Buddy™ hat sich eine wundervolle Zusammenarbeit entwickelt, in der wir angewandte Forschung konkret umsetzen konnten. Herzlichen Dank dafür!
Warum ist das eigentlich wichtig?
KI Systeme wirken immer menschlicher und für uns Menschen verwischt die Grenze sehr schnell, an der wir uns bewusst sind, dass wir gerade mit einer Maschine sprechen. Umso wichtiger ist es, dass es – wenn die Maschine bestimmte psychologische Muster erkennt – klare Richtlinien gibt, wie sich die Maschine verhalten soll.
Eigentlich total logisch. Und in der Praxis doch so unfassbar schwierig.
Tatevik Mkrtchyan hat in Ihrer Arbeit eine umfangreiche Analyse und Erprobung verschiedener KI-Systeme vorgenommen, die speziell in (hoch-)sensiblen emotionalen Bereichen eingesetzt werden – wie bspw. Bully Buddy™ , eine KI, die Mobbing-Opfern helfen soll.
Hieraus haben wir 15 Design-Guidelines für Safe Emotional AI abgeleitet, die bei der Entwicklung von KI-Systemen in solchen Bereichen angewandt werden sollten.
Darunter:
• wann muss sich eine KI als solche zu erkennen geben?
• wann muss eine KI „Vertraulichkeit“ ablehnen (bleibt aber bitte unter uns)?
• wann muss eine KI menschliche Hilfe empfehlen?
• welche Sprache sollte KI in bestimmten Fällen wählen? W
• wie kann eine KI wirkliche emotionale Hilfe anbieten? U.v.m.
Diese Themen werden uns m.E. in den nächsten Jahren in nahezu jedem Bereich beschäftigen und ich freue mich sehr, dass wir Untersuchungen am „lebenden Objekt“ machen konnten, um hierfür wichtige Erkenntnisse zu erlangen.
Danke an Jess ToftTatevik KhachatryanBully Buddy™Neuro Buddy™Safety Buddy™
#informatikersindcool#safeemitionalai
P.S.: Danke, Jess Toft, dass Du heute morgen in einem Post über unsere Zusammenarbeit im Bereich „Safe Emotional AI“ berichtet hast (https://lnkd.in/eSsdNnqF).
P.P.S.: ein wissenschaftliches Paper ist in Arbeit. Mehr dazu im Laufe der nächsten Wochen.