NVIDIA kauft die Plattform Hugging-Face für knapp 13 Mrd $. Soweit bekannt. Der genaue Kaufpreis: 12.930.300.000 $.

Und jetzt wird’s richtig schön nerdig….

Smileys und alle möglichen Sonderzeichen werden heutzutage mit dem Unicode-Zeichensatz repräsentiert. Da hat jedes Zeichen eine Nummer und eine Beschreibung.

Der lächelnde Smiley mit den Umarme-Händchen heißt dort „Hugging Face“ – also genau wie die Plattform.

Und hat die Unicode-Nummer 0x1F917,
bzw. in Dezimalschreibweise 129303.

Fünf Nullen hinten dran und wir haben den Kaufpreis ermittelt. Wer braucht schon ne technische Due-Dilligence

Ich finde das super! Und auch super verrückt…. Wer’s genauer nachlesen will: https://https://lnkd.in/g8fa_xzD

Der Beitrag Hugging-Face und NVIDIA – oder wie man heute einen Kaufpreis ermittelt erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Es ist mittlerweile unfassbar einfach geworden, gut klingende Ergebnisse mit KI zu erzeugen (egal ob Quellcodes, Texte, wissenschaftliche Arbeiten, Testfälle, Präsentationen, Marketing-Material, Geschäftsberichte, Analysen, Kreditbewertungen, u.v.m.) – und es ist mittlerweile unfassbar schwierig geworden, das zu prüfen.

Wenn wir den „Human in the loop“ fordern, müssen wir ihm auch die nötige Zeit und Befähigung geben. Was dann wiederum bedeutet, dass er KI-optimierte Prozesse massiv ausbremsen wird.

Aber wenn eine KI statt 200 Quellcode-Zeilen pro Tag (im Schnitt) auf einmal 20.000 Zeilen produziert und der „Human in the loop“ die Qualitätssicherung vornehmen soll, kann das nicht funktionieren.

Wenn es nur noch 30 Minuten dauert (anstatt 2 Monate), um ein KI-generiertes wissenschaftliches Paper zu schreiben, kann man die Masse an zusätzlichen Papers nicht mehr sauber reviewen.

Und dabei geht es nicht nur um das reine zeitliche Problem – das könnte man theoretisch mit 100en „Humans in the loop“ lösen.

Es geht vor allem darum, dass man eine völlig neue Qualifikation in KI-gestützten Prozessen braucht. Früher hat man es dem Ergebnis recht schnell angesehen, ob es gut oder schlecht war. Heute sieht (danke KI) alles erst mal top aus. Wir müssen bei der Prüfung viel mehr ins Detail einsteigen, viel tiefer bohren, viel mehr hinterfragen. Wir brauchen die Prompts, die eingesetzt wurden, um eventuelle Risiken zu identifizieren und wir brauchen die Zeit dafür.

Wer also heute einen „Human in the loop“ fordert, sollte sich bewusst sein, was das bedeutet – und dass man das nicht so ohne Weiteres nebenbei machen kann.

Damit der „Human in the loop“ am Ende kein Problem bekommt, muss er entsprechend „ausgestattet“ werden – mit Zeit, Qualifikation, Mandat. Denn sonst ist der „Human in the loop“ am ende noch der letzte Depp…

Der Beitrag Der „Human in the loop“ hat ein Problem erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Ich sitze gerade an einem Code Review. Na ja, genau genommen sitze ich gerade an diesem Post, aber vorher war ich in einem CR vertieft, das mich dann zu diesem Post geführt hat. Und mittlerweile wissen Sie ja, dass sowas dann bei mir immer „raus muss“. Daher unterbreche ich mal eben und schreibe….

Aktuelle Quellcodes sind geprägt von Menschen, jahrzehnte langer Erfahrung, Legacy-Welten und verschiedensten Strömungen, die mal „hip“ oder auch mal „kacke“ waren. All das steckt in unserer Software – ob wir wollen oder nicht. Es steckt in der Architektur, in einzelnen Zeilen, in verwendeten Bibliotheken, in Kommentaren, in der Doku.

Und all das spielt beim Code Review eine Rolle. „Funktioniert doch“ reicht nicht und es gibt selten „gut“ oder „schlecht“. Software unterliegt immer Rahmenbedingungen (wirtschaftlich, technisch, finanziell, sozial, …) die direkt oder indirekt in den Quellcode einfließen.

Code Reviews macht man daher nicht nur, um im 4-Augen-Prinzip Tippfehler zu finden. Man überprüft (und diskutiert) dabei, ob die gewählte Lösung unter all den Rahmenbedingungen eine gute Lösung ist. Und dabei geht es um weit mehr als nur eine statische Code-Analyse, die z.B. berechnet, wie das Verhältnis von Kommentar zu Code ist (was schon immer bullshit war).

Natürlich kann man solche Reviews auch mit KI machen. KI erstellt Code, KI prüft Code. Aber es kann noch niemand wirklich „Erfahrung“ damit haben, weil die Technologie viel zu neu ist. Und nur, weil man mal ein paar Projekte mit KI gemacht hat und ein paar Prompts gut funktioniert haben, kann man noch lange nicht von „Erfahrung“ sprechen.

Ich habe leider in Code Reviews schon so unfassbar viel richtig schlechten KI-Code gesehen, weil die zugehörigen Prompts einfach richtig schlecht waren. Und weil die Ersteller selbst noch in einem Try&Error-Modus unterwegs sind. Merkt nur keiner. Sieht auf den ersten Blick toll aus und „funktioniert doch“. Fragt sich nur, für wie lange…

Deshalb sind gerade jetzt Code Reviews wichtiger denn je.

Denn die Software, die wir heute entwickeln muss noch mindestens 5-10 Jahre durchhalten, bis die KI komplett übernimmt. Und in den Teilen, in denen sie heute schon ihre Finger drin hat, kann es zwar beliebig gut funktionieren, aber auch beliebig schief gehen.

Glücklicherweise haben wir aktuell noch Menschen, die Software ernsthaft überprüfen können, die in einem Code Review so tief einsteigen können, dass es unterm Strich egal ist, ob die KI ihre Finger im Spiel hatte oder nicht. Und genau diese Qualifikation brauchen wir in den nächsten (wenigen ?) Jahren – so lange, bis alles nur noch KI-programmiert ist.

Geben Sie Code Reviews daher aktuell noch mehr Raum und Priorität!

#informatikersindcool

P.S.: ich mach jetzt mal weiter. Und ja, ich weiß, es ist Samstag – aber da habe ich den Raum, ungestört in Ihr CR einzutauchen – wenn nicht grad LinkedIn dazwischenkommt.

Der Beitrag Code-Reviews – heute wichtiger denn je erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Was dann passiert zeigt, wie absurd manche Qualitätsansprüche sind: ich möchte eine einzige Bibliothek installieren und die lädt dann über 100 weitere Bibliotheken automatisch mit dazu.

Schön – alles ist in der Software BOM vermerkt, alles ist nachvollziehbar dokumentiert. Nimmt mir ne Menge Arbeit ab.

Aber hey – wer kennt das ganze Zeug denn wirklich, was hier einfach mal so nachgeladen wird? Wer hat sich angesehen, dass alle diese Komponenten auch „in Ordnung“ sind und keinen Unfug treiben?

Ach so – das meiste ist Open Source? Na dann ist’s ja gut.

Nope. Auch nicht. Nur weil etwas quelloffen ist, heißt es noch lange nicht, dass es auch gut ist. Oder dass das irgendwann mal irgendwer überprüft hat.

Auch wenn es Organisationen, Stiftungen, Communities gibt, die regelmäßig Audits auf bestimmten (und nur sehr wenigen ausgewählten) Open Source Projekten durchführen – die Grauzone ist riesig.

Nun werden wir aber seitens des Gesetzgebers aufgefordert, eine SBOM für unsere Software bereitzustellen und zu dokumentieren. Das ist ein richtiger, wichtiger und absolut sinnvoller Schritt. Löst aber noch kein Problem.

Denn erst, wenn wir mit dieser SBOM arbeiten, sie analysieren, Risiken einordnen und ggfs. auch mal selbst einen Blick in die verwendeten Komponenten werfen, entsteht daraus das, was man eigentlich haben möchte:

Digitale Souveränität – mit bewussten Risiken und Nebenwirkungen.

#informatikersindcool#oleolesupersbom#opensourcealleinemachtnichtglücklich

Der Beitrag Sinn oder Unsinn einer Software-BOM erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

6d

Wieso setzen wir voraus, dass KI „weiß“, was richtig und falsch ist. Wieso glauben wir, die KI müsste doch wissen, dass man sich nicht in fremde Systeme hackt (siehe Open AI).

Etwa nur, weil wir ihr das „gesagt“ haben?

Also jetzt mal ehrlich…

Wie oft haben wir schon Dinge getan, obwohl uns jemand was anderes „gesagt“ hat? Wie viele Menschen laufen bei rot über die Ampel? Wie viele kleine, mittlere und schwere Verbrechen werden begangen? Wie oft bricht man kleine Regeln? Wer hat noch nie auf die „heiße Herdplatte“ gefasst?

Lesen Sie mal Zeitung oder hören / schauen Sie mal Nachrichten. Der große Teil davon handelt von Dingen, die man eigentlich nicht tun sollte.

Der Mensch probiert von klein auf, Regeln und Grenzen auszutesten. Und ich hab‘ den Eindruck, das hört nie auf! Wir haben solche Beispiele im Kleinen „geh nicht bei Rot über die Straße“, „teile mit Deinen Geschwistern“, „sei nett“, aber auch im Großen Klimawandel, Kriege, „Fake News“, Trumpismus, u.v.m. In jedem Buch / Film / Spiel gibt es Bösewichte, die sich nicht an Regeln halten. Unsere „Helden“ sind oft genau die, die Regeln brechen oder zumindest beugen.

All das ist Trainingsmaterial für die KI….

Uns wurde mal ein moralischer Kompass anerzogen (hoffentlich), der meiner Meinung nach leider mehr und mehr vor die Hunde geht (sorry, wenn ich das so hart formuliere). Sehen Sie sich um! Unseren Umgang miteinander, Privat, im Unternehmen, auf Social Media, in der Politik, die Profitgier, Beziehungen zwischen Staaten (Russland, Ukraine, Zölle, Grönland). Wo ist da der moralische Kompass geblieben? Und selbst wenn er ausschlägt – wo ist unsere Reaktion?

Wie kommen wir also auf die Idee, dass sich ein KI-System an Regeln hält?

Und wenn dann mal so eine KI kreativ „ausbricht“, Lücken in Systemen sucht, ist der Aufschrei groß. Aber – ehrlich gesagt – hält die KI uns nur den Spiegel vor – nur kreativer und besser. Auch wenn uns das nicht gefällt…..

Wir können m.E. an KI Systeme keinen höheren moralischen Anspruch stellen als an uns selbst, denn sie wurden mit „unserem“ Material trainiert.

Manchmal glaube ich, wir müssen am Ende froh sein, wenn der moralische Kompass der KI besser ist als unser eigener… denn eine moralisch intakte KI käme u.U. zu dem Schluss, dass der heutige Mensch sich und dem Planeten nicht wirklich gut tut.

#informatikersindcool #moralischerkompass

Der Beitrag Wieso setzen wir voraus, dass KI „weiß“, was richtig und falsch ist. erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

1w

Duzen oder Siezen? „Du, Stefan“ oder „Herr Professor“ – wie machen Sie / macht ihr das an der Uni?

Ich bin heute morgen über den Post von Leena Kaijo gestolpert, die vorschlägt, sich von vornherein zu „Duzen“ (https://lnkd.in/eTzXq5yc) und habe dabei ein leichtes Störgefühl festgestellt.

Seitdem versuche ich rauszufinden, ob ich mittlerweile aus der Zeit gefallen bin, weil ich zunächst „Sieze“, insbesondere an der Uni. Und weil es sich für mich irgendwie komisch anfühlt, meine Studierenden zu Duzen (und vor allem andersrum).

Ich bin in einer Zeit groß geworden, in der das „Du“ noch was sehr besonderes war, was eine zusätzliche Form von Respekt oder Verbindung ausdrückt. Man fühlte sich geehrt, wen einem jemand das „Du“ angeboten hat. Und mir gefällt diese Möglichkeit der deutschen Sprache. Daher nutze ich das auch gerne.

Dass man im Projekt schnell zum „Du“ übergeht, ist für mich fein und klar. Ich würde trotzdem auch hier erst mal mit dem „Sie“ beginnen.

Aber wie ist das in Vorlesungen?

Bin ich der einzige, der mit dem „Du“ hier ein Störgefühl hat?

Liebe Kollegen, Duzt ihr euch mit den Studierenden?

Liebe Studierenden – wie sehen Sie / seht ihr das?

Keine Ahnung, ob ich mit diesem Post ein Meinungsbild abgreifen kann, ich würde mich jedenfalls über Feedback freuen – mich interessiert das wirklich und ich bin gerne bereit, an meinem Störgefühl zu arbeiten….

#informatikersindcool #egalobperduodersie

Der Beitrag Duzen oder Siezen? „Du, Stefan“ oder „Herr Professor“ – wie machen Sie / macht ihr das an der Uni? erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Gefördert werden Beratungs- und Testleistungen im Kontext der künstlichen Intelligenz. Darunter insbesondere:

• Identifikation unternehmensspezifischer Anwendungsfelder und die Erarbeitung von Zielen zur Anwendung von KI

• Definition und Priorisierung konkreter Anwendungsfälle unter Berücksichtigung der technischen und organisatorischen Voraussetzungen im Unternehmen

• Strukturen und Prozesse für ein effizientes Management von KI

• Strukturen und Prozesse für den verantwortungsvollen Einsatz von KI

Den Link zum Beantragen finden Sie hier: https://lnkd.in/dFQ8ydEQ

Weitere Infos auch auf den Seiten der IHK Köln: https://lnkd.in/dFQ8ydEQ

Aus meiner Sicht ein tolles Programm, das genau zur richtigen Zeit kommt. Ich fürchte allerdings, dass die Mittel schnell ausgeschöpft sind, daher würde ich allen empfehlen, sich schon mal mit den Infos vertraut zu machen!

#informatikersindcool

Der Beitrag KI-Förderung in NRW erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

2d Edited

Kennen Sie Ihren Digitalen Zwilling? Bzw. wissen Sie, ob Sie einen haben? Oder vielleicht sogar mehrere? Wie viele davon laufen da eigentlich so rum…?

„Digitaler Zwilling“ ist eine recht allgemeine Bezeichnung für virtuelle Repräsentationen physischer Objekte, Prozesse oder Systeme, die durch den kontinuierlichen Austausch von Echtzeitdaten eine präzise Abbildung der Realität ermöglichen.

(Ja, so kann man das formulieren. Hab‘ ich aus einer meiner Vorlesungen geklaut. Sorry dafür….)

Heißt: immer dann, wenn wir versuchen, reale Objekte in welcher Form auch immer digital zu repräsentieren, kann (!) man von einem digitalen Zwilling sprechen.

Theoretisch also bereits dann, wenn ich Ihren Kontakt bei mir im Handy abspeichere. Denn Sie sind (hoffentlich) real, der Datensatz in meinem Telefon ist eine virtuelle Repräsentation von Ihnen (wenn möglich klebe ich auch gerne ein Foto von Ihnen mit rein, dann kann ich mir Sie besser merken) und schon entsteht in meinem Telefon ein digitaler Zwilling von Ihnen.

Das wäre allerdings ein ziemlich „einfacher“ digitaler Zwilling. Denn in der Praxis würde man den Begriff hierfür noch nicht verwenden. Es fehlt – ein Stück weit – die „präzise Abbildung der Realität“ und auch der „kontinuierliche Austausch von Daten“.

Der Begriff kommt ursprünglich aus der Industrie (Maschinenbau, Automotive, Produktion, Fabriken – alles was mit Industrie 4.0 zu tun hat), wird mittlerweile aber weit darüber hinaus verwendet. Gebäude haben digitale Zwillinge, ja sogar ganze Städte (Digital Twin City), die dann zur Simulation von allem Möglichen verwendet werden. Wertschöpfungsketten z.B. in der Logistik werden mit digitalen Zwillingen abgebildet, Biologie und Medizin nutzen das Konzept ebenfalls.

Der Begriff „Digitaler Zwilling“ entwickelt sich somit von einer rein technischen Beschreibung mehr und mehr zu einem Oberbegriff für dynamische digitale Repräsentationen realer Systeme und Objekte.

Im Marketing spielt das ebenfalls eine große Rolle, denn je mehr Daten Sie über mich gesammelt haben – und in Ihrem digitalen Zwilling von mir abspeichern – desto genauer können Sie mir Produkte vorschlagen.

Und so entstehen von uns viele und viele verschiedene digitale Zwillinge. Wenn man mal darüber nachdenkt, wie unfassbar viele digitale Spuren wir hinterlassen, dann wäre das vermutlich ziemlich gruselig, wenn die sich alle zusammen tun würden…

Mittels KI lassen sich digitale Zwillinge auch immer realistischer gestalten. Mein KI-Avatar sieht aus wie ich und spricht wie ich (nur besseres Hochdeutsch, Beweisvideo im Kommentar). Mein KI-Agent hat Zugriff auf meine Daten und kann (wenn ich das zulassen würde) in meinem Namen Dinge tun.

Ob einer meiner KI-Zwillinge sich allerdings auch gerade das Knie verdreht hat, kann ich nicht sagen – ich schätze aber, er weiß zumindest davon….

#informatikersindcool #careaboutyourdigitalzwilling

Der Beitrag Kennen Sie Ihren Digitalen Zwilling? Bzw. wissen Sie, ob Sie einen haben? Oder vielleicht sogar mehr erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Gemeinhin wird das als der Zeitpunkt betrachtet, in dem KI-Systeme menschliche Intelligenz in quasi allen Bereichen übertreffen und sich anschließend selbst weiter verbessern.

Ob wir da mittlerweile sind, ob das (mal wieder nur geschicktes) Marketing ist, oder wie genau Altman den Begriff für sich definiert hat, weiß ich nicht. Ich bin auch nicht sicher, ob wir diesen Punkt tatsächlich erreichen können (was hauptsächlich daran liegt, dass ich mir nicht sicher bin, wie wir „Intelligenz“ eigentlich definieren sollen), aber ich glaube, wir müssen uns allmählich schon mal sehr grundlegend Gedanken machen.

Denn je näher wir solchen Themen kommen, desto unwichtiger wird die Technik.

Vielmehr geht es immer mehr darum, wie wir Menschen in und mit diesem KI-Zeitalter klar kommen. Verstehen wir noch, was da passiert? Schaffen wir es, Leitplanken zu etablieren, was KI darf und was nicht? Lässt sich all das noch kontrollieren? Sind einzelne Personen (und wenn ja, welche) überhaupt in der Lage, solche KI-Lösungen zu begreifen?

Wir treten hier gerade Dinge los, die noch niemals vorher jemand gemacht hat. Und wir vertrauen (offenbar) darauf, dass das schon irgendwie gut gehen wird und dass Big-Tech weiß, was sie tun.

Wie stellen wir sicher, dass sich die Menschheit von der KI das „richtige“ wünscht? Was wenn wir sich jemand das „falsche“ wünschen? Wer definiert „richtig“ und „falsch“? Und was, wenn Die KI tatsächlich beginnt, sich selbst Dinge zu wünschen?

Ich bin der Überzeugung, dass der menschliche Verstand nicht für diese unfassbar schnelle Dynamik, mit der KI lernt und sich weiter entwickelt, gemacht ist. Es gibt nur noch wenige, die auf dem Laufenden bleiben und begreifen, was hier gerade passiert. Wie gesagt – nicht technisch (das ist fast noch das einfachste), sondern auf psychologischer, sozialer, politischer, intellektueller Ebene.

Drum lassen Sie uns aufmerksam, behutsam, vorsichtig und bedacht mit diesen Themen umgehen. Bei aller technischen Neugier….

Trotzdem muss man erst mal durchatmen, wenn man da näher drüber nachdenkt.

#informatikersindcool #ainotforpresident #puh

Der Beitrag Buzzword mal wieder erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.

Die Stimmung, die man gerade in vielen Projekten wahrnimmt, ist bedenklich. Vielleicht liegt’s am Sommer, an der geopolitischen Situation / Unsicherheit, an der Wirtschaftslage… Vielleicht liegt’s an mir, dass ich komischerweise immer zu einer bestimmten Art Projekt dazugeholt werde. Wer weiß das schon so genau.

Aber: ich nehme immer häufiger wahr, dass man Dinge tut, obwohl man weiß, dass es am Ende Ärger geben kann (und wird). Das verrückte: es ist allen klar, man ist sich des Risikos bewusst und trotzdem machen alle mit. Geht halt grad nicht anders. Müssen wir durch. Zu spät dran, lässt sich nicht mehr reparieren. Termin steht. Wurde früher mal so vereinbart. War vor meiner Zeit. Usw. usw.

Ein Scheitern mit Ansage!

Vielleicht in der Hoffnung, dass man – bis es dann wirklich kracht – nicht mehr im Projekt ist, ein anderer den Kopf hinhält, vielleicht alles doch nicht so schlimm wird, oder es an einer anderen Seite noch sooooo viel schlimmer geworden ist, dass das eigene Thema gar nicht mehr ins Gewicht fällt.

Dann gibt es diejenigen, die den Mut haben, etwas zu ändern (und ich feiere euch jeden Tag und jedes Mal) und die Dinge „richtig“ zu machen. Die werden allerdings oft aufgerieben und kommen trotz aller guten und wichtigen Argumente nicht durch. Management-Entscheidung heißt es dann. Strategisch so gewollt. Oder auf deutsch / bayerisch: Ober sticht Unter.

Klar – man sieht nie das ganze Bild aus all seinen verschiedenen Perspektiven. Und – auch klar – Verantwortliche müssen oft viel mehr Bälle in der Luft halten, als das, was man aus einem Projektkontext heraus wahrnimmt. Da sind 3 oder 4 Millionen und ein Projekt das scheitert, vielleicht wirklich total egal. Auch das müssen wir respektieren und berücksichtigen. (P.S.: es wäre nur schön, sowas dann auch zu wissen, dann könnte man das ja mit reindenken….)

Trotzdem glaube ich, dass oftmals eine gewisse Bequemlichkeit, wenn nicht sogar Resignation vorherrscht. Und dass die, die Anpacken wollen häufig ausgebremst werden.

Ich wünsche mir daher mehr Offenheit was potenzielle Probleme betrifft (stop greenwashing), mehr Transparenz (paint the big picture) und mehr Mut (let’s do it), die Dinge nachhaltig und richtig zu machen.

Und ich hoffe, dieser Wunsch ist nicht aus der Zeit gefallen.

#informatikersindcool

Der Beitrag Scheitern mit Ansage erschien zuerst auf Prof. Dr.-Ing. Stefan Wagenpfeil.