Immer diese Panik-Mache. Da gibt’s ne Nachricht und das halbe Internet (und LinkedIn) dreht hohl…. ich denke, es empfiehlt sich (eigentlich wie immer), erst mal genauer hinzuschauen, bevor hier Panik oder Blödsinn verbreitet wird.
Was ist passiert:
• Open AI macht interne Tests mit ihren neuen Modellen und prüft sie gegen den Cybersecurity-Benchmark „ExploitGym“ (finde ich super, man sollte Software immer testen bevor sie raus geht und Modelle sind Software).
• bei diesen Tests geht’s auch um Cyber-Security (finde ich ebenfalls super, weil KI uns hier extrem helfen kann, sichere und stabile Infrastrukturen zu bauen, aber auch weil man bei Tests rausfinden muss, wie gefährlich KI als Angreifer sein kann)
• die Tests finden in einer geschützten Umgebung statt, man hat aber ein angeblich unbewusstes Schlupfloch übersehen (ganz normal, bleibt cool).
• die KI bekommt eine Aufgabe gestellt, die sie lösen muss (ja, sowas macht man beim Testen)
• die KI findet das Schlupfloch (Zero-Day-Schwachstelle im Package-Proxy, verrückt und beeindruckend) und stellt fest, dass sie mit Hilfe von HuggingFace die Aufgabe noch schneller lösen kann (ok, das ist Schummeln aber hey – gelöst ist gelöst)
• wenn schon Schummeln, dann richtig, die KI versucht sich also die Daten bei HuggingFace zu „ergaunern“, die KI versuchte aber nicht (!), HuggingFace Schaden zuzufügen!
• spannend ist, dass hierfür eine ganze Reihe von sehr aufwändigen und komplizierten Maßnahmen aneinandergereiht wurde (davor muss man tatsächlich Respekt und auch ein wenig Sorge haben)
• HuggingFace findet das nicht so geil, entdeckt den Cyber-Angriff, dämmt ihn ein und meldet ihn. Ist nicht wirklich „amused“ darüber…
• Open AI stellt fest, dass das eigentlich ganz cooles Marketing ist (meine persönliche Meinung), nennt das Ding „unprecedented cyber incident“ und unternimmt nicht wirklich was gegen reißerische Berichterstattung (würde vermutlich jeder andere genauso machen).
Was ist nicht passiert:
• KI hat nicht die Weltherrschaft übernommen
• KI hat sich nicht selbständig gemacht und „von sich aus beschlossen“, irgendwelche Systeme anzugreifen oder Schaden zu verursachen. Vielmehr hat das Modell einfach eine Abkürzung zum Lösen der Aufgabe gesucht (schlaues Ding)
Was sollten wir daraus lernen:
• Cybersecurity wird durch KI in eine ganz neue Dimension katapultiert. Das wissen wir spätestens seit Anthropic Mythos. Und jetzt eben auch durch OpenAI
• KI kann (und muss) genutzt werden, um Bedrohungen zu erkennen und gegenzusteuern (das hat HuggingFace getan und auch in deren Blog veröffentlicht)
• KI kann aber auch genutzt werden, um zu bedrohen und in Systeme einzubrechen. Guardrails können ausgehebelt werden und Angriffe werden fieser
• das Ganze ist ernst zu nehmen und alles andere als eine harmlose Kuriosität. Aber auch kein Grund, in Panik zu verfallen
In diesem Sinne – bleiben Sie erst mal entspannt!