Also da hört der Spaß jetzt echt auf. Da freue ich mich, das neue GPT 5 auszuprobieren und dann sowas. 8.8 – 8.11 = -0.31. Ernsthaft?
Einmal mehr ein Beispiel dafür, dass man generativer KI nach wie vor nicht trauen darf! Bedenklich finde ich vor allem die Beharrlichkeit von GPT 5 (siehe Chat-Protokoll).
Denn das bedeutet unterm Strich immer noch, dass wir uns auf generative KI nur dann wirklich „verlassen“ können, wenn wir in der Lage sind, das Ergebnis zu überprüfen. Eine sehr wichtige Erkenntnis!
Erst kürzlich habe ich eine „wissenschaftliche“ Arbeit bekommen – tolles Quellenverzeichnis – aber nur auf den ersten Blick. Denn generative KI hatte ihre Finger im Spiel: 80% der Quellen gab es nicht. Erfundene Buchtitel und ISBN’s, erfundene Links, die allesamt entweder ins Leere oder ganz woanders hin zeigten. Ich musste die Arbeit mit einer fünf (= durchgefallen) bewerten.
Natürlich dürfen und sollen meine Studierenden KI einsetzen, denn natürlich wird und soll später auch im Unternehmen KI eingesetzt. Aber wir alle müssen lernen, richtig, verantwortlich und kritisch damit umzugehen.
Gerade aber die Bewertung von KI Systemen oder von Ergebnissen, die mit Hilfe von KI Systemen erzeugt wurden, ist eine wichtige Aufgabe, die den Eckpfeiler für unsere Zukunft stellen wird.
Also: Vertrauen ist gut, Kontrolle ist besser – zumindest bei generativer KI.
#informatikersindcool#it-sachverständigeauch
P.S.: Grok (von X) darf jetzt offiziell Deep Fakes generieren. Vielleicht erzieht uns dieser Wahnsinn von Falschmeldungen, Falschbildern und Falsch-Videos ja auch zu ein bisschen mehr Nachdenken darüber, was richtig (oder echt) und falsch ist.