Was ist passiert:
• Open AI macht interne Tests mit ihren neuen Modellen und prüft sie gegen den Cybersecurity-Benchmark „ExploitGym“ (finde ich super, man sollte Software immer testen bevor sie raus geht und Modelle sind Software).
• bei diesen Tests geht’s auch um Cyber-Security (finde ich ebenfalls super, weil KI uns hier extrem helfen kann, sichere und stabile Infrastrukturen zu bauen, aber auch weil man bei Tests rausfinden muss, wie gefährlich KI als Angreifer sein kann)
• die Tests finden in einer geschützten Umgebung statt, man hat aber ein angeblich unbewusstes Schlupfloch übersehen (ganz normal, bleibt cool).
• die KI bekommt eine Aufgabe gestellt, die sie lösen muss (ja, sowas macht man beim Testen)
• die KI findet das Schlupfloch (Zero-Day-Schwachstelle im Package-Proxy, verrückt und beeindruckend) und stellt fest, dass sie mit Hilfe von HuggingFace die Aufgabe noch schneller lösen kann (ok, das ist Schummeln aber hey – gelöst ist gelöst)
• wenn schon Schummeln, dann richtig, die KI versucht sich also die Daten bei HuggingFace zu „ergaunern“, die KI versuchte aber nicht (!), HuggingFace Schaden zuzufügen!
• spannend ist, dass hierfür eine ganze Reihe von sehr aufwändigen und komplizierten Maßnahmen aneinandergereiht wurde (davor muss man tatsächlich Respekt und auch ein wenig Sorge haben)
• HuggingFace findet das nicht so geil, entdeckt den Cyber-Angriff, dämmt ihn ein und meldet ihn. Ist nicht wirklich „amused“ darüber…
• Open AI stellt fest, dass das eigentlich ganz cooles Marketing ist (meine persönliche Meinung), nennt das Ding „unprecedented cyber incident“ und unternimmt nicht wirklich was gegen reißerische Berichterstattung (würde vermutlich jeder andere genauso machen).

Was ist nicht passiert:
• KI hat nicht die Weltherrschaft übernommen
• KI hat sich nicht selbständig gemacht und „von sich aus beschlossen“, irgendwelche Systeme anzugreifen oder Schaden zu verursachen. Vielmehr hat das Modell einfach eine Abkürzung zum Lösen der Aufgabe gesucht (schlaues Ding)

Was sollten wir daraus lernen:
• Cybersecurity wird durch KI in eine ganz neue Dimension katapultiert. Das wissen wir spätestens seit Anthropic Mythos. Und jetzt eben auch durch OpenAI
• KI kann (und muss) genutzt werden, um Bedrohungen zu erkennen und gegenzusteuern (das hat HuggingFace getan und auch in deren Blog veröffentlicht)
• KI kann aber auch genutzt werden, um zu bedrohen und in Systeme einzubrechen. Guardrails können ausgehebelt werden und Angriffe werden fieser
• das Ganze ist ernst zu nehmen und alles andere als eine harmlose Kuriosität. Aber auch kein Grund, in Panik zu verfallen

In diesem Sinne – bleiben Sie erst mal entspannt!

#informatikersindcool

Der Beitrag „Open AI Model buchst aus und hackt Hugging Face“ – erst mal ruhig bleiben… erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Ich wiederhole jetzt nicht alles, was ich vor ein paar Wochen in o.g. Post geschrieben und dazu kommentiert habe. Aber: ich hab‘ dieses Semester Rechner, Handy, Internet und KI für verschiedene Klausuren zugelassen. Natürlich kein Multiple Choice und keine „klassische“ Klausur, sondern ein etwas aufwändigeres Klausur-Konzept, das die Fähigkeit mit abprüft, mit modernen Hilfsmitteln umzugehen – u.a. mit KI. Das Konzept gibt’s hier: https://lnkd.in/eCBdCt4U

Wie ist nun das Ergebnis (abgesehen von „spannend“):

Positiv:
•  das Format erfüllt genau den Zweck: kritisches Hinterfragen von KI-Ergebnissen. Fast kein Studierender hat KI-Ergebnisse „stumpf“ übernommen
• die Einordnung der KI-Ergebnisse bezogen auf die Vorlesungsinhalte (insbesondere die Diskussionen) musste von den Studierenden „manuell“ vorgenommen werden. Daran erkennt man, ob jemand aufgepasst hat oder nicht
• die Widersprüche in den Fallbeispielen konnten von KI ohne in der Vorlesung gewesen zu sein tatsächlich nicht aufgelöst oder entschieden werden. Hier war die „Meinung / Einschätzung / Bewertung“ der Studierenden entscheidend
• die Studierenden hatten „Angst“, der KI auf den Leim zu gehen und viel Zeit in die Überprüfung gesteckt – genau so soll das sein

Negativ:
• das „Handling“ der Dokumente hat zu lange gedauert hat. Damit KI-basierte Klausuren Sinn machen, braucht es Material und der Download muss organisiert werden. Wir haben das daher so organisiert, dass das Material bereits vor der eigentlichen Klausur zum Download gestellt wird und dann lediglich die Klausurfragen verteilt werden.
• eine Längenbegrenzung der Antwort ist wichtig. Ich hatte das zwar bereits geschrieben und auch in den Fragen formuliert, musste aber nochmal drauf hinweisen. Sonst tendieren Studierende dazu, trotz KI-Nutzung Romane zu schreiben. Eine Antwortlänge von max 50 Wörtern pro Frage ist sinnvoll.

Für alle Beteiligten war das Neuland und auch eine gewisse Herausforderung. Insbesondere die Kollegen vom Prüfungsamt haben hier super unterstützt und sich drauf eingelassen – dafür ein herzliches Dankeschön an Jessica Dörries Alexander Schiller und das gesamte Team der PFH Private Hochschule Göttingen! Ohne euch wäre das nicht möglich gewesen.

Das ist auch eine wichtige Erkenntnis für alle, die das ausprobieren wollen – ihr braucht ein gutes Team, das mitzieht!

Die Noten? Ich habe bei einem Fach einen Bonus mit eingerechnet, da der Download der Unterlagen zu lange gedauert hat. Die anderen Ergebnisse liegen im üblichen Bereich.

Der entscheidende Punkt ist aber: die Studierenden haben damit unter Beweis gestellt, dass sie sehr komplexe Aufgaben mit Hilfe von KI in einem spezifischen Fach bewältigen können.

Und darauf kommt’s an. Im Studium und im Job!

#informatikersindcool

Der Beitrag Klausuren mit KI – der Erfahrungsbericht erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Stellen Sie sich mal vor, das würde funktionieren – also, der Gedanke, den ich gerade habe, das, was ich grad gelernt habe oder auch das, was ich gerade erklären möchte – einfach kopieren und beim Gegenüber einfügen.

Das wäre doch was. Damit könnte man das „Lernen“ unfassbar beschleunigen und Wissen gezielt, garantiert, verlustfrei und effizient verbreiten.

Aber was machen wir Menschen stattdessen? Wir reden, hören zu, vergessen die Hälfte, verstehen die andere Hälfte nicht, schreiben Dinge auf, lernen auswendig, vergessen wieder die Hälfte, lesen nach, fassen zusammen, probieren aus, vertiefen, festigen, überprüfen, fallen auf die Nase, stehen wieder auf, überlegen, lesen und schreiben wieder, fragen nach und irgendwann….. haben wir gefühlt irgendwas verstanden und mit großer Hoffnung auch etwas gelernt.

Das ist, wie unser Gehirn funktioniert, wie wir Menschen seit Generationen Wissen weitergeben. Das ist der Grund, warum bei der Wissens-Weitergabe Verluste einkalkuliert werden müssen, weil „mein Hirn“ eben anders verdrahtet ist (auch schon rein biologisch) als „Ihr Hirn“. Ich habe vermutlich einige Neuronen anders sitzen als Sie (interpretieren Sie das gerne, wie Sie wollen – lach).

Bei KI ist das anders.

KI-Modelle, Gewichte, Parameter – das lässt sich wunderbar kopieren. Das, was ich in ein neuronales Netz trainiert habe, kann ich sofort 1000-fach duplizieren und ausrollen. Hat bspw. ein selbstfahrendes Auto gelernt, wie ein Stopschild aussieht (gute Sache übrigens), können das sofort alle selbstfahrenden Autos. Wenn man’s drauf anlegt, in derselben Sekunde.

Da können wir – rein biologisch – nie im Leben mithalten. KI wird immer schneller „lernen“ als wir.

Sollten wir deswegen frustriert sein? Ich denke, nein. Maschinen haben schon immer Dinge besser oder schneller gemacht, als wir. Ich finde es auch nicht schlimm, dass ein Auto sich schneller fortbewegt, als ich laufen kann.

Der einzige Punkt ist, dass das, was wir bislang als unsere ureigenste Fähigkeit proklamiert haben – nämlich Intelligenz – jetzt in den Fokus rückt (herzlich willkommen in der Krone der Schöpfung). Allerdings hat Intelligenz meiner Meinung nach nur bedingt was mit Fakten, Wissen, „Lernen“ zu tun, sondern vielmehr mit Handeln, Einordnen, Kreativität, Emotion, Fühlen und auch mit dem Vertreten von Werten.

Daher hab ich zumindest auch kein Problem, wenn KI viel mehr „weiß“ und viel schneller „lernt“ als ich. Vielleicht ist KI für uns Menschen ja auch der große Katalysator, uns wieder auf das zu besinnen, was uns ausmacht….

… allerdings sollte man mit dieser (zugegebenermaßen sehr verklärten) Ansicht besser nicht aktuelle Nachrichten und geopolitische Geschehnisse betrachten. Denn trotz aller „Intelligenz“ ist der Mensch manchmal auch erschreckend blöd.

#informatikersindcool#intelligenzvermutung

Der Beitrag Warum „Lernen“ nicht mit KI mithalten kann…. erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Aber darum geht’s grad nicht. Also… es geht natürlich auch darum und die Glückwünsche sind absolut ernst gemeint. Der Abend war ein absolutes Highlight für mich.

Nur…. als ich reinkam stand da der große Claim der Schule: „Wissen in Bewegung“. Und da ging kurzzeitig der Informatiker in mir mit mir durch. Und ich hab‘ ca. 2 Stunden mit mir gerungen, den Vortrag spontan zu einem ganz anderen aber genau so wichtigen Thema zu halten – nämlich zur Informationstheorie….

Denn „Wissen in Bewegung“ hat mich an den berühmten Satz von Rainer Kuhlen erinnert, der den Ausdruck „Information ist Wissen in Aktion“ erfunden und geprägt hat. Es geht um die fast philosophische Frage, wann aus Information Wissen wird, wann und wie also aus einer Zeichenkette mit bestimmten Buchstaben auf einmal im Kopf ein dazu passendes Bild entsteht. Und Kuhlen hat seinerzeit beschrieben, dass es dafür immer einen Trigger – eine Aktion – braucht, um aus Information echtes „Wissen“ zu machen.

Boah, was wäre das für ein Aufhänger gewesen. Wie toll hätte man da das Thema der Schule mit einem Vortrag aufgreifen und verbinden können.

Man hätte den tollen Widerspruch herausarbeiten können, dass Kuhlen einer der wenigen ist, die Information als Teilmenge von Wissen definieren. Die meisten machen das nämlich eher andersrum. Man hätte auf das Informationsbedürfnis abzielen können, das die Grundlage für Prozesse im Wissensmanagement und der Informationstheorie ist, und das uns gerade in unserer heutigen Gesellschaft so sehr prägt. Man hätte sogar den „anomalous state of knowledge“ von Belkin erklären können, der die Wissenslücke als etwas anomales, etwas seltsames beschreibt, was unbedingt aufgelöst werden möchte. Genau genommen beschreibt er damit etwas, was nicht da ist (eine Lücke), auch lustig. Ach Gott, wäre das cool gewesen…. denn auch wenn’s total schräg klingt: ich steh auf so ein Zeug. Und schraube das gerne jedem rein, der sich grad nicht wehren kann (so wie Sie jetzt gerade).

…. und wie schnell wäre man damit in sehr nerdige Gefilde abgedriftet und hätte das Publikum verloren (lach). Zum Glück konnte ich mich beim Riemen reißen und hab dann doch „Irgenwas mit KI“ erzählt.

Dennoch wollte ich diesen inneren Kampf mal aus dem Nähkästchen geplaudert mit Ihnen teilen….

#informatikersindcool

Danke nochmal an die Dr. Buhmann Schule gGmbH und an Prof. Dr. Matthias Limbach für die Einladung und herzlichen Glückwunsch zum Jubiläum!

Der Beitrag „Wissen in Bewegung“ – das Nähkästchen in Hannover erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Die Empfehlung der DIHK deckt sich mit dem, was ich schon seit mehreren Monaten auf verschiedenen Veranstaltungen, Seminaren und Fachbeiträgen sage (puh, Glück gehabt, lach) und lässt sich recht kurz zusammenfassen:

• Sachverständige halten den Kopf hin. Immer. Persönlich. Ohne Ausrede. Per Gesetzt. KI hin oder her.

• Sachverständige müssen den Stand der Technik für ihre Gutachten anwenden (also auch KI) und diesen beherrschen. Also fit machen, ausprobieren, reflektieren, hinterfragen, Grenzen aufzeigen

• zur Sicherheit: vorher den Richter fragen oder informieren. Reden hilft…

• Datenschutz, Datenschutz, Datenschutz. Wer Gerichtsakten zu Chat GPT hochlädt, hat definitiv was nicht verstanden.

• Transparent machen: wenn Sie KI einsetzen, schreiben Sie’s in den Anhang. Ein KI-Verzeichnis hilft, Ihre Gutachten besser einordnen zu können.

KI muss auf jeden Fall raus aus der „Schummel-Ecke“ und als ernsthaftes, wissenschaftlich technisches Werkzeug in den Standard-Werkzeugkoffer eines Sachverständigen. Nachvollziehbarkeit und Nachprüfbarkeit von KI-Ergebnissen sind zwar schwierig, aber auch dafür gibt es Lösungen.

Für mich sind solche offiziellen Handreichungen wichtige Schritte!

#informatikersindcool#selberdenkopfhinhalten

P.S.: in der nächsten Auflage des „Praxishandbuch Sachverständigenrecht“ haben wir dem Thema KI ein ganzes Teilkapitel gewidmet. Sobald ich hier ein Erscheinungsdatum habe, melde ich mich dazu.

Der Beitrag Handreichung zu KI – speziell für Sachverständige erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Das weiß ich sehr zu schätzen – und bin direkt ein wenig gerührt

Insbesondere, weil wir als PFH Private Hochschule Göttingen ja eine vergleichsweise sehr kleine Hochschule sind und weil „mein“ Bereich dort ja noch viel kleiner ist. Bei unseren großen Schwerpunkten BWL, Psychologie und Pädagogik hab ich’s als Informatiker manchmal echt schwer (lach).

Schön finde ich es auch, dass von uns sogar noch drei weitere Kolleginnen nominiert wurden:
• Anja Lepach-Engelhardt (Psychologie)
• Jutta List-Ivankovic (Soziale Arbeit)
• Maxi Ploen (Klinische Psychologie)

Bei insgesamt 50 deutschlandweit nominierten Profs / Tutoren, ist das für die PFH Private Hochschule Göttingen echt ein riesen Erfolg (ey – wir stellen fast 10%) und ich drücke insbesondere meinen Kolleginnen ganz fest die Daumen, denn die betreuen wirklich 100e Studierende – und das ganz großartig!

Für mich ist diese Nominierung bereits der Hauptgewinn!

Denn aufgrund der kleinen Studiengruppen in der Informatik schließt sich eine gute Platzierung rein mathematisch schon aus (lach). Aber darum geht’s ohnehin nicht.

Wenn wir es schaffen, jungen Menschen etwas zu vermitteln und wenn sich dann auch noch jemand die Mühe macht, das öffentlich (und positiv) zu kommentieren – dann ist das mehr Wert als jede Auszeichnung.

Herzlichen Dank nochmal!

Und wer Lust hat darf natürlich trotzdem gerne für mich abstimmen:
https://lnkd.in/eSK7S9hA

#informatikersindcool#informatikstudisauch#informatikforpresident

Der Beitrag Tutor des Jahres – danke für die Nominierung! erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Alle großen Player sind an Bord und schaffen es mittlerweile, derartige Echtheits-Informationen über die gesamte Bearbeitungskette zu sichern (nennt sich dann „glass-to-glass“) also von der Kameralinse bis zum TV-Screen oder bis zum Monitor, auf dem Sie sich ein Bild oder Video ansehen.  

Sehr coole Sache und in Zeiten der digitalen Überflutung unfassbar wichtig!

Aber – und für mich ist das ein großes „Aber“: auch KI-Anbieter nutzen mittlerweile denselben Mechanismus, um ihre generierten Bilder als „echt KI-generiert“ zu kennzeichnen.

Der Hintergrund dafür sind zwei Dinge:
1) die KI-Verordnung verpflichtet die Anbieter zur Kennzeichnung (gute Sache das)
2) KI-generierter Müll (sorry for that) sollte besser nicht für das Training der nächsten KI-Modelle verwendet werden – sonst wird aus generativer KI schnell die degenerative KI.

Was nun also erst mal gut klingt, hat einen großen Haken: man hat hier vergessen, die Nutzer „mitzunehmen“. Das C2PA-Symbol (ein kleines CR, das bspw. auch LinkedIn anzeigt) ist nämlich in beiden Fällen dasselbe und besagt lediglich, dass irgendwelche Echtheitsinformationen vorhanden sind.

D.h. die Nutzer sehen ein CR-Symbol und bekommen den Eindruck, „ui schau guck, das ist ja wirklich echt“. Erst, wenn man drauf klickt und sich die Details ansieht, stellt man dann fest – „oh, das ist ja echt KI-generiert“.

Aber Hand auf’s Herz – wer sieht sich die Details wirklich an?

Wir haben hier aus meiner Sicht kein technisches Problem, sondern ein Informations-Visualisierungs-Thema for der Brust! Und etwas, das wir Nutzern auch erst mal erklären müssen!

Ich wünsche mir zumindest drei verschiedene Symbole oder Farben, die Nutzer auf den ersten Blick richtig einordnen können:

1) echte Szene und mit einer echten Kamera aufgenommen
2) Echte Szene, aber relevante Überarbeitungen / Retusche > Vorsicht
3) vollständig KI-generiert

Ich denke, damit könnte man für sehr viel Sicherheit, Verlässlichkeit und Akzeptanz sorgen.

… sonst gucken wir demnächst alle etwas verwirrt auf unsere Bildschirme…

#informatikersindcool#echtheitistdasneueasset#guckstdu

P.S.: ich schreibe das nicht nur auf LinkedIn, sondern bin mit verschiedenen C2PA-Mitgliedern in Kontakt, um solche Lösungen prototypisch umzusetzen und diesbezüglich für Aufmerksamkeit zu sorgen. „Machen“ ist unterm Strich immer ne gute Option.

Der Beitrag C2PA als Echtheitsnachweis? kann auch bedeuten: Das Ding ist „echt künstlich“ erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Zusammen mit Jess Toft und den Firmen Bully BuddyNeuro Buddy und Safety Buddy hat sich eine wundervolle Zusammenarbeit entwickelt, in der wir angewandte Forschung konkret umsetzen konnten. Herzlichen Dank dafür!

Warum ist das eigentlich wichtig?

KI Systeme wirken immer menschlicher und für uns Menschen verwischt die Grenze sehr schnell, an der wir uns bewusst sind, dass wir gerade mit einer Maschine sprechen. Umso wichtiger ist es, dass es – wenn die Maschine bestimmte psychologische Muster erkennt – klare Richtlinien gibt, wie sich die Maschine verhalten soll.

Eigentlich total logisch. Und in der Praxis doch so unfassbar schwierig.

Tatevik Mkrtchyan hat in Ihrer Arbeit eine umfangreiche Analyse und Erprobung verschiedener KI-Systeme vorgenommen, die speziell in (hoch-)sensiblen emotionalen Bereichen eingesetzt werden – wie bspw. Bully Buddy , eine KI, die Mobbing-Opfern helfen soll.

Hieraus haben wir 15 Design-Guidelines für Safe Emotional AI abgeleitet, die bei der Entwicklung von KI-Systemen in solchen Bereichen angewandt werden sollten.

Darunter:
• wann muss sich eine KI als solche zu erkennen geben?
• wann muss eine KI „Vertraulichkeit“ ablehnen (bleibt aber bitte unter uns)?
• wann muss eine KI menschliche Hilfe empfehlen?
• welche Sprache sollte KI in bestimmten Fällen wählen? W
• wie kann eine KI wirkliche emotionale Hilfe anbieten? U.v.m.

Diese Themen werden uns m.E. in den nächsten Jahren in nahezu jedem Bereich beschäftigen und ich freue mich sehr, dass wir Untersuchungen am „lebenden Objekt“ machen konnten, um hierfür wichtige Erkenntnisse zu erlangen.

Danke an Jess ToftTatevik KhachatryanBully BuddyNeuro BuddySafety Buddy

#informatikersindcool#safeemitionalai

P.S.: Danke, Jess Toft, dass Du heute morgen in einem Post über unsere Zusammenarbeit im Bereich „Safe Emotional AI“ berichtet hast (https://lnkd.in/eSsdNnqF).

P.P.S.: ein wissenschaftliches Paper ist in Arbeit. Mehr dazu im Laufe der nächsten Wochen.

Der Beitrag Safe Emotional AI! Die nächste Herausforderung erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Und ich ärgere mich zutiefst, wie hier gute wissenschaftliche Arbeit verunglimpft wird (natürlich nicht überall, viele Arbeiten sind auch gut. Aber leider passiert das immer öfter). Und das ist ein Problem. Viele scheinen sich durch wissenschaftlich aussehende Veröffentlichungen profilieren zu wollen, übersehen dabei aber, wie schädlich und gefährlich das ist.

1. Seltsam ist es bspw. schon, wenn ein Paper nur von einem einzigen Autoren veröffentlicht wird. Meistens ist bei „echten“ wissenschaftlichen Arbeiten immer ein Doktorand, Postdoc oder Prof mit beteiligt. Arbeiten, wie Doktorarbeiten oder Habilitationen sind natürlich immer „alleine“, der Rest ist aber fast immer Team-Arbeit. Ein Haupt-Autor und mehrere Co-Autoren.
 
2. Ich erwarte von jedem Forschenden, dass er KI einsetzt. Ich erwarte, dass Papers besser werden, keine Rechtschreibfehler drin sind, dass die Methodik sauber ist und solide Quellenarbeit durchgeführt wurde. Da kann KI sehr hilfreich sein.
 
3. Wissenschaftliche Papers werden im Zuge der Veröffentlichung immer einem Peer-Review-Prozess unterzogen. Zunächst intern die Co-Autoren, dann aber auch die Konferenz oder das Journal, bei dem man das Paper einreicht. Häufig findet das anonymisiert durch 3-4 Experten statt. Erst wenn alle das Paper akzeptieren, wird’s veröffentlicht. Genau das soll die Integrität von Forschung sichern. Vorab-Veröffentlichungen sind also oft wertlos und geben lediglich ne Indikation. Erst was wirklich veröffentlicht ist, es Wissenschaft.
 
4. Leider gibt es aber auch bei den Reviewern „Experten“, die KI zum Peer-Review einsetzen (eigentlich ein komplettes No-Go). Das Problem ist, dass Konferenzen oder Journals mit KI-generiertem Müll überschwemmt werden und ein fundiertes Review eben mal nicht so „nebenbei“ zu machen ist. Ich brauche teilweise 6-8 Stunden, um ein Paper auf Herz und Nieren zu prüfen. Ne KI braucht 30 Minuten, um eins zu schreiben. Läuft.
 
5. Papers, die keine Belege, Beweise, Daten oder Fakten enthalten, die keinen Praxisbezug demonstrieren, keine Experimente oder Studien durchgeführt haben, sind wertlos. Behaupten kann man alles, man muss es aber auch belegen und überprüfen können.

Ich rate jedem Forschenden: nutzen Sie KI als Hilfsmittel, Assistent, zur Unterstützung, zum Schreiben, zum Recherchieren. Nutzen Sie KI, um besser zu werden, fundierter zu arbeiten, tiefer in das Thema einzutauchen.

Aber nutzen Sie KI nicht (!), um schneller Veröffentlichungen zu produzieren. Damit verschwenden Sie meine / unsere Zeit und untergraben das, was gute Forschung ausmacht.

So – das musste mal raus. Wie gesagt – sorry dafür.

Der Beitrag Forschungsarbeiten mit KI – was geht und was nicht erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Als IT-Sachverständige ist es unsere Aufgabe, hier aufzuklären – also na ja, genau genommen ist es das nicht, aber ich möchte das gerne so sehen und mach‘ es trotzdem

Ich hoffe nämlich, dass möglichst viele Fachanwälte, Richter, andere Sachverständige und auch Privatpersonen sich mit dem Thema beschäftigen.

Es gibt nämlich technische Lösungen, die wirklich für Sicherheit bei der Nutzung digitaler Medien im rechtlichen Kontext sorgen:

• die C2PA zertifiziert und dokumentiert die Echtheit von Medien, d.h. sie garantiert, dass das was auf einem Bild oder Video zu sehen ist, auch tatsächlich so passiert ist

• eIDAS 2.0 mit qualifizierten elektronischen Signaturen und auch mit dem EUDI-Wallet sichert die Erstellerinformation, also das es auch tatsächlich ein digitales Medium ist, das der „echte“ Stefan Wagenpfeil erstellt hat

Mit diesen beiden Mechanismen lässt sich jedes Element der digitalen Beweiskette überprüfen, absichern und nachvollziehen – vorausgesetzt, man setzt diese auch ein.

Ich fände es super, wenn ich auf diesem Weg ein paar Menschen erreiche, die zumindest mal darüber nachdenken, dass das überhaupt ein Thema ist, mit dem man sich beschäftigen muss – denn viele von uns sind immer noch sehr unbedarft und blauäugig, was die neuen Möglichkeiten (ja, besten Dank liebe KI) bei der Erstellung und Manipulation digitaler Medien betrifft. Leider auch im rechtlichen Kontext.

#informatikersindcool

P.S.: derzeit läuft ein Pilotprojekt in dem wir (SLW Streitz Liesegang Wagenpfeil & Partner) mit den großen deutschen Zertifikatsanbietern, den IHKs und weiteren Partnern die Qualität und Verbreitung einer sicheren digitalen Beweiskette in Deutschland weiter voran treiben.
Denn auch hier gilt: einer muss ja mal anfangen…

Der Beitrag Digitale Beweiskette sichern! C2PA und eIDAS 2.0 erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.