Was ist passiert:
• Open AI macht interne Tests mit ihren neuen Modellen und prüft sie gegen den Cybersecurity-Benchmark „ExploitGym“ (finde ich super, man sollte Software immer testen bevor sie raus geht und Modelle sind Software).
• bei diesen Tests geht’s auch um Cyber-Security (finde ich ebenfalls super, weil KI uns hier extrem helfen kann, sichere und stabile Infrastrukturen zu bauen, aber auch weil man bei Tests rausfinden muss, wie gefährlich KI als Angreifer sein kann)
• die Tests finden in einer geschützten Umgebung statt, man hat aber ein angeblich unbewusstes Schlupfloch übersehen (ganz normal, bleibt cool).
• die KI bekommt eine Aufgabe gestellt, die sie lösen muss (ja, sowas macht man beim Testen)
• die KI findet das Schlupfloch (Zero-Day-Schwachstelle im Package-Proxy, verrückt und beeindruckend) und stellt fest, dass sie mit Hilfe von HuggingFace die Aufgabe noch schneller lösen kann (ok, das ist Schummeln aber hey – gelöst ist gelöst)
• wenn schon Schummeln, dann richtig, die KI versucht sich also die Daten bei HuggingFace zu „ergaunern“, die KI versuchte aber nicht (!), HuggingFace Schaden zuzufügen!
• spannend ist, dass hierfür eine ganze Reihe von sehr aufwändigen und komplizierten Maßnahmen aneinandergereiht wurde (davor muss man tatsächlich Respekt und auch ein wenig Sorge haben)
• HuggingFace findet das nicht so geil, entdeckt den Cyber-Angriff, dämmt ihn ein und meldet ihn. Ist nicht wirklich „amused“ darüber…
• Open AI stellt fest, dass das eigentlich ganz cooles Marketing ist (meine persönliche Meinung), nennt das Ding „unprecedented cyber incident“ und unternimmt nicht wirklich was gegen reißerische Berichterstattung (würde vermutlich jeder andere genauso machen).

Was ist nicht passiert:
• KI hat nicht die Weltherrschaft übernommen
• KI hat sich nicht selbständig gemacht und „von sich aus beschlossen“, irgendwelche Systeme anzugreifen oder Schaden zu verursachen. Vielmehr hat das Modell einfach eine Abkürzung zum Lösen der Aufgabe gesucht (schlaues Ding)

Was sollten wir daraus lernen:
• Cybersecurity wird durch KI in eine ganz neue Dimension katapultiert. Das wissen wir spätestens seit Anthropic Mythos. Und jetzt eben auch durch OpenAI
• KI kann (und muss) genutzt werden, um Bedrohungen zu erkennen und gegenzusteuern (das hat HuggingFace getan und auch in deren Blog veröffentlicht)
• KI kann aber auch genutzt werden, um zu bedrohen und in Systeme einzubrechen. Guardrails können ausgehebelt werden und Angriffe werden fieser
• das Ganze ist ernst zu nehmen und alles andere als eine harmlose Kuriosität. Aber auch kein Grund, in Panik zu verfallen

In diesem Sinne – bleiben Sie erst mal entspannt!

#informatikersindcool

Der Beitrag „Open AI Model buchst aus und hackt Hugging Face“ – erst mal ruhig bleiben… erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Ich wiederhole jetzt nicht alles, was ich vor ein paar Wochen in o.g. Post geschrieben und dazu kommentiert habe. Aber: ich hab‘ dieses Semester Rechner, Handy, Internet und KI für verschiedene Klausuren zugelassen. Natürlich kein Multiple Choice und keine „klassische“ Klausur, sondern ein etwas aufwändigeres Klausur-Konzept, das die Fähigkeit mit abprüft, mit modernen Hilfsmitteln umzugehen – u.a. mit KI. Das Konzept gibt’s hier: https://lnkd.in/eCBdCt4U

Wie ist nun das Ergebnis (abgesehen von „spannend“):

Positiv:
•  das Format erfüllt genau den Zweck: kritisches Hinterfragen von KI-Ergebnissen. Fast kein Studierender hat KI-Ergebnisse „stumpf“ übernommen
• die Einordnung der KI-Ergebnisse bezogen auf die Vorlesungsinhalte (insbesondere die Diskussionen) musste von den Studierenden „manuell“ vorgenommen werden. Daran erkennt man, ob jemand aufgepasst hat oder nicht
• die Widersprüche in den Fallbeispielen konnten von KI ohne in der Vorlesung gewesen zu sein tatsächlich nicht aufgelöst oder entschieden werden. Hier war die „Meinung / Einschätzung / Bewertung“ der Studierenden entscheidend
• die Studierenden hatten „Angst“, der KI auf den Leim zu gehen und viel Zeit in die Überprüfung gesteckt – genau so soll das sein

Negativ:
• das „Handling“ der Dokumente hat zu lange gedauert hat. Damit KI-basierte Klausuren Sinn machen, braucht es Material und der Download muss organisiert werden. Wir haben das daher so organisiert, dass das Material bereits vor der eigentlichen Klausur zum Download gestellt wird und dann lediglich die Klausurfragen verteilt werden.
• eine Längenbegrenzung der Antwort ist wichtig. Ich hatte das zwar bereits geschrieben und auch in den Fragen formuliert, musste aber nochmal drauf hinweisen. Sonst tendieren Studierende dazu, trotz KI-Nutzung Romane zu schreiben. Eine Antwortlänge von max 50 Wörtern pro Frage ist sinnvoll.

Für alle Beteiligten war das Neuland und auch eine gewisse Herausforderung. Insbesondere die Kollegen vom Prüfungsamt haben hier super unterstützt und sich drauf eingelassen – dafür ein herzliches Dankeschön an Jessica Dörries Alexander Schiller und das gesamte Team der PFH Private Hochschule Göttingen! Ohne euch wäre das nicht möglich gewesen.

Das ist auch eine wichtige Erkenntnis für alle, die das ausprobieren wollen – ihr braucht ein gutes Team, das mitzieht!

Die Noten? Ich habe bei einem Fach einen Bonus mit eingerechnet, da der Download der Unterlagen zu lange gedauert hat. Die anderen Ergebnisse liegen im üblichen Bereich.

Der entscheidende Punkt ist aber: die Studierenden haben damit unter Beweis gestellt, dass sie sehr komplexe Aufgaben mit Hilfe von KI in einem spezifischen Fach bewältigen können.

Und darauf kommt’s an. Im Studium und im Job!

#informatikersindcool

Der Beitrag Klausuren mit KI – der Erfahrungsbericht erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Stellen Sie sich mal vor, das würde funktionieren – also, der Gedanke, den ich gerade habe, das, was ich grad gelernt habe oder auch das, was ich gerade erklären möchte – einfach kopieren und beim Gegenüber einfügen.

Das wäre doch was. Damit könnte man das „Lernen“ unfassbar beschleunigen und Wissen gezielt, garantiert, verlustfrei und effizient verbreiten.

Aber was machen wir Menschen stattdessen? Wir reden, hören zu, vergessen die Hälfte, verstehen die andere Hälfte nicht, schreiben Dinge auf, lernen auswendig, vergessen wieder die Hälfte, lesen nach, fassen zusammen, probieren aus, vertiefen, festigen, überprüfen, fallen auf die Nase, stehen wieder auf, überlegen, lesen und schreiben wieder, fragen nach und irgendwann….. haben wir gefühlt irgendwas verstanden und mit großer Hoffnung auch etwas gelernt.

Das ist, wie unser Gehirn funktioniert, wie wir Menschen seit Generationen Wissen weitergeben. Das ist der Grund, warum bei der Wissens-Weitergabe Verluste einkalkuliert werden müssen, weil „mein Hirn“ eben anders verdrahtet ist (auch schon rein biologisch) als „Ihr Hirn“. Ich habe vermutlich einige Neuronen anders sitzen als Sie (interpretieren Sie das gerne, wie Sie wollen – lach).

Bei KI ist das anders.

KI-Modelle, Gewichte, Parameter – das lässt sich wunderbar kopieren. Das, was ich in ein neuronales Netz trainiert habe, kann ich sofort 1000-fach duplizieren und ausrollen. Hat bspw. ein selbstfahrendes Auto gelernt, wie ein Stopschild aussieht (gute Sache übrigens), können das sofort alle selbstfahrenden Autos. Wenn man’s drauf anlegt, in derselben Sekunde.

Da können wir – rein biologisch – nie im Leben mithalten. KI wird immer schneller „lernen“ als wir.

Sollten wir deswegen frustriert sein? Ich denke, nein. Maschinen haben schon immer Dinge besser oder schneller gemacht, als wir. Ich finde es auch nicht schlimm, dass ein Auto sich schneller fortbewegt, als ich laufen kann.

Der einzige Punkt ist, dass das, was wir bislang als unsere ureigenste Fähigkeit proklamiert haben – nämlich Intelligenz – jetzt in den Fokus rückt (herzlich willkommen in der Krone der Schöpfung). Allerdings hat Intelligenz meiner Meinung nach nur bedingt was mit Fakten, Wissen, „Lernen“ zu tun, sondern vielmehr mit Handeln, Einordnen, Kreativität, Emotion, Fühlen und auch mit dem Vertreten von Werten.

Daher hab ich zumindest auch kein Problem, wenn KI viel mehr „weiß“ und viel schneller „lernt“ als ich. Vielleicht ist KI für uns Menschen ja auch der große Katalysator, uns wieder auf das zu besinnen, was uns ausmacht….

… allerdings sollte man mit dieser (zugegebenermaßen sehr verklärten) Ansicht besser nicht aktuelle Nachrichten und geopolitische Geschehnisse betrachten. Denn trotz aller „Intelligenz“ ist der Mensch manchmal auch erschreckend blöd.

#informatikersindcool#intelligenzvermutung

Der Beitrag Warum „Lernen“ nicht mit KI mithalten kann…. erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Aber darum geht’s grad nicht. Also… es geht natürlich auch darum und die Glückwünsche sind absolut ernst gemeint. Der Abend war ein absolutes Highlight für mich.

Nur…. als ich reinkam stand da der große Claim der Schule: „Wissen in Bewegung“. Und da ging kurzzeitig der Informatiker in mir mit mir durch. Und ich hab‘ ca. 2 Stunden mit mir gerungen, den Vortrag spontan zu einem ganz anderen aber genau so wichtigen Thema zu halten – nämlich zur Informationstheorie….

Denn „Wissen in Bewegung“ hat mich an den berühmten Satz von Rainer Kuhlen erinnert, der den Ausdruck „Information ist Wissen in Aktion“ erfunden und geprägt hat. Es geht um die fast philosophische Frage, wann aus Information Wissen wird, wann und wie also aus einer Zeichenkette mit bestimmten Buchstaben auf einmal im Kopf ein dazu passendes Bild entsteht. Und Kuhlen hat seinerzeit beschrieben, dass es dafür immer einen Trigger – eine Aktion – braucht, um aus Information echtes „Wissen“ zu machen.

Boah, was wäre das für ein Aufhänger gewesen. Wie toll hätte man da das Thema der Schule mit einem Vortrag aufgreifen und verbinden können.

Man hätte den tollen Widerspruch herausarbeiten können, dass Kuhlen einer der wenigen ist, die Information als Teilmenge von Wissen definieren. Die meisten machen das nämlich eher andersrum. Man hätte auf das Informationsbedürfnis abzielen können, das die Grundlage für Prozesse im Wissensmanagement und der Informationstheorie ist, und das uns gerade in unserer heutigen Gesellschaft so sehr prägt. Man hätte sogar den „anomalous state of knowledge“ von Belkin erklären können, der die Wissenslücke als etwas anomales, etwas seltsames beschreibt, was unbedingt aufgelöst werden möchte. Genau genommen beschreibt er damit etwas, was nicht da ist (eine Lücke), auch lustig. Ach Gott, wäre das cool gewesen…. denn auch wenn’s total schräg klingt: ich steh auf so ein Zeug. Und schraube das gerne jedem rein, der sich grad nicht wehren kann (so wie Sie jetzt gerade).

…. und wie schnell wäre man damit in sehr nerdige Gefilde abgedriftet und hätte das Publikum verloren (lach). Zum Glück konnte ich mich beim Riemen reißen und hab dann doch „Irgenwas mit KI“ erzählt.

Dennoch wollte ich diesen inneren Kampf mal aus dem Nähkästchen geplaudert mit Ihnen teilen….

#informatikersindcool

Danke nochmal an die Dr. Buhmann Schule gGmbH und an Prof. Dr. Matthias Limbach für die Einladung und herzlichen Glückwunsch zum Jubiläum!

Der Beitrag „Wissen in Bewegung“ – das Nähkästchen in Hannover erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Das weiß ich sehr zu schätzen – und bin direkt ein wenig gerührt

Insbesondere, weil wir als PFH Private Hochschule Göttingen ja eine vergleichsweise sehr kleine Hochschule sind und weil „mein“ Bereich dort ja noch viel kleiner ist. Bei unseren großen Schwerpunkten BWL, Psychologie und Pädagogik hab ich’s als Informatiker manchmal echt schwer (lach).

Schön finde ich es auch, dass von uns sogar noch drei weitere Kolleginnen nominiert wurden:
• Anja Lepach-Engelhardt (Psychologie)
• Jutta List-Ivankovic (Soziale Arbeit)
• Maxi Ploen (Klinische Psychologie)

Bei insgesamt 50 deutschlandweit nominierten Profs / Tutoren, ist das für die PFH Private Hochschule Göttingen echt ein riesen Erfolg (ey – wir stellen fast 10%) und ich drücke insbesondere meinen Kolleginnen ganz fest die Daumen, denn die betreuen wirklich 100e Studierende – und das ganz großartig!

Für mich ist diese Nominierung bereits der Hauptgewinn!

Denn aufgrund der kleinen Studiengruppen in der Informatik schließt sich eine gute Platzierung rein mathematisch schon aus (lach). Aber darum geht’s ohnehin nicht.

Wenn wir es schaffen, jungen Menschen etwas zu vermitteln und wenn sich dann auch noch jemand die Mühe macht, das öffentlich (und positiv) zu kommentieren – dann ist das mehr Wert als jede Auszeichnung.

Herzlichen Dank nochmal!

Und wer Lust hat darf natürlich trotzdem gerne für mich abstimmen:
https://lnkd.in/eSK7S9hA

#informatikersindcool#informatikstudisauch#informatikforpresident

Der Beitrag Tutor des Jahres – danke für die Nominierung! erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Alle großen Player sind an Bord und schaffen es mittlerweile, derartige Echtheits-Informationen über die gesamte Bearbeitungskette zu sichern (nennt sich dann „glass-to-glass“) also von der Kameralinse bis zum TV-Screen oder bis zum Monitor, auf dem Sie sich ein Bild oder Video ansehen.  

Sehr coole Sache und in Zeiten der digitalen Überflutung unfassbar wichtig!

Aber – und für mich ist das ein großes „Aber“: auch KI-Anbieter nutzen mittlerweile denselben Mechanismus, um ihre generierten Bilder als „echt KI-generiert“ zu kennzeichnen.

Der Hintergrund dafür sind zwei Dinge:
1) die KI-Verordnung verpflichtet die Anbieter zur Kennzeichnung (gute Sache das)
2) KI-generierter Müll (sorry for that) sollte besser nicht für das Training der nächsten KI-Modelle verwendet werden – sonst wird aus generativer KI schnell die degenerative KI.

Was nun also erst mal gut klingt, hat einen großen Haken: man hat hier vergessen, die Nutzer „mitzunehmen“. Das C2PA-Symbol (ein kleines CR, das bspw. auch LinkedIn anzeigt) ist nämlich in beiden Fällen dasselbe und besagt lediglich, dass irgendwelche Echtheitsinformationen vorhanden sind.

D.h. die Nutzer sehen ein CR-Symbol und bekommen den Eindruck, „ui schau guck, das ist ja wirklich echt“. Erst, wenn man drauf klickt und sich die Details ansieht, stellt man dann fest – „oh, das ist ja echt KI-generiert“.

Aber Hand auf’s Herz – wer sieht sich die Details wirklich an?

Wir haben hier aus meiner Sicht kein technisches Problem, sondern ein Informations-Visualisierungs-Thema for der Brust! Und etwas, das wir Nutzern auch erst mal erklären müssen!

Ich wünsche mir zumindest drei verschiedene Symbole oder Farben, die Nutzer auf den ersten Blick richtig einordnen können:

1) echte Szene und mit einer echten Kamera aufgenommen
2) Echte Szene, aber relevante Überarbeitungen / Retusche > Vorsicht
3) vollständig KI-generiert

Ich denke, damit könnte man für sehr viel Sicherheit, Verlässlichkeit und Akzeptanz sorgen.

… sonst gucken wir demnächst alle etwas verwirrt auf unsere Bildschirme…

#informatikersindcool#echtheitistdasneueasset#guckstdu

P.S.: ich schreibe das nicht nur auf LinkedIn, sondern bin mit verschiedenen C2PA-Mitgliedern in Kontakt, um solche Lösungen prototypisch umzusetzen und diesbezüglich für Aufmerksamkeit zu sorgen. „Machen“ ist unterm Strich immer ne gute Option.

Der Beitrag C2PA als Echtheitsnachweis? kann auch bedeuten: Das Ding ist „echt künstlich“ erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Zusammen mit Jess Toft und den Firmen Bully BuddyNeuro Buddy und Safety Buddy hat sich eine wundervolle Zusammenarbeit entwickelt, in der wir angewandte Forschung konkret umsetzen konnten. Herzlichen Dank dafür!

Warum ist das eigentlich wichtig?

KI Systeme wirken immer menschlicher und für uns Menschen verwischt die Grenze sehr schnell, an der wir uns bewusst sind, dass wir gerade mit einer Maschine sprechen. Umso wichtiger ist es, dass es – wenn die Maschine bestimmte psychologische Muster erkennt – klare Richtlinien gibt, wie sich die Maschine verhalten soll.

Eigentlich total logisch. Und in der Praxis doch so unfassbar schwierig.

Tatevik Mkrtchyan hat in Ihrer Arbeit eine umfangreiche Analyse und Erprobung verschiedener KI-Systeme vorgenommen, die speziell in (hoch-)sensiblen emotionalen Bereichen eingesetzt werden – wie bspw. Bully Buddy , eine KI, die Mobbing-Opfern helfen soll.

Hieraus haben wir 15 Design-Guidelines für Safe Emotional AI abgeleitet, die bei der Entwicklung von KI-Systemen in solchen Bereichen angewandt werden sollten.

Darunter:
• wann muss sich eine KI als solche zu erkennen geben?
• wann muss eine KI „Vertraulichkeit“ ablehnen (bleibt aber bitte unter uns)?
• wann muss eine KI menschliche Hilfe empfehlen?
• welche Sprache sollte KI in bestimmten Fällen wählen? W
• wie kann eine KI wirkliche emotionale Hilfe anbieten? U.v.m.

Diese Themen werden uns m.E. in den nächsten Jahren in nahezu jedem Bereich beschäftigen und ich freue mich sehr, dass wir Untersuchungen am „lebenden Objekt“ machen konnten, um hierfür wichtige Erkenntnisse zu erlangen.

Danke an Jess ToftTatevik KhachatryanBully BuddyNeuro BuddySafety Buddy

#informatikersindcool#safeemitionalai

P.S.: Danke, Jess Toft, dass Du heute morgen in einem Post über unsere Zusammenarbeit im Bereich „Safe Emotional AI“ berichtet hast (https://lnkd.in/eSsdNnqF).

P.P.S.: ein wissenschaftliches Paper ist in Arbeit. Mehr dazu im Laufe der nächsten Wochen.

Der Beitrag Safe Emotional AI! Die nächste Herausforderung erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Und ich ärgere mich zutiefst, wie hier gute wissenschaftliche Arbeit verunglimpft wird (natürlich nicht überall, viele Arbeiten sind auch gut. Aber leider passiert das immer öfter). Und das ist ein Problem. Viele scheinen sich durch wissenschaftlich aussehende Veröffentlichungen profilieren zu wollen, übersehen dabei aber, wie schädlich und gefährlich das ist.

1. Seltsam ist es bspw. schon, wenn ein Paper nur von einem einzigen Autoren veröffentlicht wird. Meistens ist bei „echten“ wissenschaftlichen Arbeiten immer ein Doktorand, Postdoc oder Prof mit beteiligt. Arbeiten, wie Doktorarbeiten oder Habilitationen sind natürlich immer „alleine“, der Rest ist aber fast immer Team-Arbeit. Ein Haupt-Autor und mehrere Co-Autoren.
 
2. Ich erwarte von jedem Forschenden, dass er KI einsetzt. Ich erwarte, dass Papers besser werden, keine Rechtschreibfehler drin sind, dass die Methodik sauber ist und solide Quellenarbeit durchgeführt wurde. Da kann KI sehr hilfreich sein.
 
3. Wissenschaftliche Papers werden im Zuge der Veröffentlichung immer einem Peer-Review-Prozess unterzogen. Zunächst intern die Co-Autoren, dann aber auch die Konferenz oder das Journal, bei dem man das Paper einreicht. Häufig findet das anonymisiert durch 3-4 Experten statt. Erst wenn alle das Paper akzeptieren, wird’s veröffentlicht. Genau das soll die Integrität von Forschung sichern. Vorab-Veröffentlichungen sind also oft wertlos und geben lediglich ne Indikation. Erst was wirklich veröffentlicht ist, es Wissenschaft.
 
4. Leider gibt es aber auch bei den Reviewern „Experten“, die KI zum Peer-Review einsetzen (eigentlich ein komplettes No-Go). Das Problem ist, dass Konferenzen oder Journals mit KI-generiertem Müll überschwemmt werden und ein fundiertes Review eben mal nicht so „nebenbei“ zu machen ist. Ich brauche teilweise 6-8 Stunden, um ein Paper auf Herz und Nieren zu prüfen. Ne KI braucht 30 Minuten, um eins zu schreiben. Läuft.
 
5. Papers, die keine Belege, Beweise, Daten oder Fakten enthalten, die keinen Praxisbezug demonstrieren, keine Experimente oder Studien durchgeführt haben, sind wertlos. Behaupten kann man alles, man muss es aber auch belegen und überprüfen können.

Ich rate jedem Forschenden: nutzen Sie KI als Hilfsmittel, Assistent, zur Unterstützung, zum Schreiben, zum Recherchieren. Nutzen Sie KI, um besser zu werden, fundierter zu arbeiten, tiefer in das Thema einzutauchen.

Aber nutzen Sie KI nicht (!), um schneller Veröffentlichungen zu produzieren. Damit verschwenden Sie meine / unsere Zeit und untergraben das, was gute Forschung ausmacht.

So – das musste mal raus. Wie gesagt – sorry dafür.

Der Beitrag Forschungsarbeiten mit KI – was geht und was nicht erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Dafür habe ich dieses Semester schon alle Vorlesungen umgestellt – mehr Transfer, mehr inverted classroom, mehr Denken, weniger Faktenwissen auswendig lernen. Und ich habe von Anfang an zugesagt, KI bei den Klausuren zuzulassen.

(Hintergrund: an der PFH Private Hochschule Göttingen ist KI generell erlaubt und erwünscht, und wir gewichten mündliche und persönliche Prüfungen auch deutlich höher als schriftliche Einsendeaufgaben).

Der nächste Schritt ist nun also: echte Klausuren mit KI-Unterstützung. Also nicht nur „Open Book“, sondern Open Book mit Internet und KI – so, wie das später im Job eben auch ist. Und wir bringen Studierenden doch schließlich auch keine Inhalte bei, um sie zu quälen (also, das hoffe ich zumindest), sondern damit sie die Skills lernen, die sie brauchen, um im künftigen Arbeitsmarkt zu bestehen…. verstehen, hinterfragen, einordnen, denken!

Und das hat mich – ehrlich gesagt – die letzten Tage ziemlich auf Trab gehalten. Ich habe Klausurfragen entworfen und dann mit drei verschiedenen KI’s getestet. Die Fragen verworfen, neue Ansätze ausprobiert, mit Kollegen diskutiert und experimentiert. Dabei selber viel über Lern- und Prüfungstheorien gelernt und bin – noch ehrlicher gesagt – verdammt oft auf die Nase gefallen!

Aber es gab auch eine Menge Durchbrüche und Dinge, die besser und besser funktioniert haben. Und so bin ich mittlerweile bei einer Drei-Ebenen-Architektur für Klausurfragen angelangt, die

1) aus einem umfangreichen Fallbeispiel besteht – ca. 20 Seiten, also ein kleiner Stresstest während der Klausur. Das Fallbeispiel ist ohne KI nicht im Rahmen der Zeit „klein“ zu kriegen, d.h. Studierende müssen schon mal die richtigen Fragen stellen

2) eingebaute Widersprüche enthält – ist nur durch echtes Lesen der von KI identifizierten Passagen mit Hintergrundwissen aus der Vorlesung erkennbar

3) das Ergebnis ganz klassisch auf Papier erwartet (ist auch prüfungsrechtlich einfacher). Hier müssen bestimmte Notationen, Diagramme, usw. aus der Analyse erzeugt werden.

In Summe führt das dazu, dass bislang keine KI in der gegebenen Zeit eine perfekte Lösung erzeugen konnte, wenn man nicht mitdenkt, steuert, korrigiert. Wenn man also mehr „weiß“ / verstanden hat als die KI – und genau das hoffe ich für / von meinen Studierenden.

Wer sich dafür interessiert: ich hab‘ meine gesammelten Erkenntnisse in einem ersten Methoden-Dokument festgehalten, das ich gerne teile (https://lnkd.in/ehZuuz8s)

#informatikersindcool #kibeiklausuren

P.S.: Feedback, Vorschläge, Verbesserungen immer gerne. Gemeinsam geht’s schneller und wird besser!

Der Beitrag Wie stellt man Klausuren, wenn KI zugelassen ist? erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Ich freue mich, dass wir heute gleich mit zwei wissenschaftlichen Papern auf der TRI-IVIS – AVI 2026 Konferenz dabei sein konnten, die in den letzten Monaten an der PFH Private Hochschule Göttingen entstanden sind.

Ein großes Dankeschön und herzlichen Glückwunsch an die Studierenden Angelina Chernikov Joyce Amy Kolenda Waldemar Naumovets Tim Ternovik und Jakob Wenzig – es ist nicht selbstverständlich und eine außergewöhnliche Leistung, an einer Hochschule an wissenschaftlichen Themen zu arbeiten und diese zu veröffentlichen!

Das Paper „𝗖𝟮𝗣𝗔 𝗮𝗻𝗱 𝗲𝗜𝗗𝗔𝗦 2.0 – 𝗔 𝗥𝗲𝗳𝗲𝗿𝗲𝗻𝗰𝗲 𝗙𝗿𝗮𝗺𝗲𝘄𝗼𝗿𝗸 𝗳𝗼𝗿 𝗖𝗼𝗻𝘁𝗲𝗻𝘁 𝗩𝗲𝗿𝗶𝗳𝗶𝗰𝗮𝘁𝗶𝗼𝗻 𝗮𝗻𝗱 𝗣𝗿𝗼𝘁𝗲𝗰𝘁𝗶𝗼𝗻 𝗶𝗻 𝘁𝗵𝗲 𝗘𝗨“ beschreibt, wie in der Europäischen Union verfügbare Verfahren genutzt werden können, um sichere Beweisketten vor Gericht zur Verfügung zu stellen.

In „𝗠𝘂𝗹𝘁𝗶𝗺𝗲𝗱𝗶𝗮, 𝗥𝗔𝗚, 𝗮𝗻𝗱 𝗟𝗟𝗠𝘀 𝗶𝗻 𝗛𝗶𝗴𝗵-𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗘𝗻𝘃𝗶𝗿𝗼𝗻𝗺𝗲𝗻𝘁𝘀“ zeigen wir, wir man Sprachmodelle, Vektordatenbanken und lokale KI-Modelle verwenden kann, um z.B. in Anwaltskanzleien eine sichere Datenverarbeitung mit KI umzusetzen.

Beide Paper werden demnächst auch Open Access veröffentlicht.

So geht angewandte Wissenschaft!

#informatikersindcool

Der Beitrag This is applied Science! erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.