Ich denke, das ist das erste mal ein „echter“ Wendepunkt… und ich bin mir noch nicht sicher, was ich davon halten soll.
Anthropic hat ein neues KI-Modell entwickelt (Name: Mythos). Das ist mittlerweile ja relativ normal geworden und anstatt der überschwänglichen „best model ever“, „ein echter gamechanger“, usw. passiert diesmal etwas anderes: es wird geheim gehalten. Also öffentlich. Also… ich meine, es wird öffentlich geheim gehalten.
Warum das?
Bei internen Tests hat Anthropic rausgefunden, dass dieses Modell – nun ja, ein „echter gamechanger“ ist, wenn es darum geht, Sicherheitslücken in Software zu finden. Das Modell findet (lt. internen Statistiken) so viele unbekannte Angriffspunkte in nahezu jeder Art von Software und ist so schnell in der Lage, Exploits hierfür zu entwickeln, dass Anthropic entschieden hat, es wäre unverantwortlich und ein Risiko für unsere gesamte IT-Infrastruktur, käme dieses Modell in die falschen Hände.
Kurz mal sacken lassen….
Und was macht Anthropic jetzt damit?
Sie haben das Projekt „Glasswing“ gegründet – und die großen IT-Unternehmen (darunter AWS, Apple, Broadcom, Cisco, Crowdstrike, Google, die Linux Foundation, Microsoft, Nvidia, …) und einige der großen Open Source Projekte ins Boot geholt (https://lnkd.in/eNseXqsD). In einer Art „Preview“ lässt man nun in diesem geschützten Rahmen das Mythos-Projekt auf die Software der Hersteller los und gibt ihnen damit die Gelegenheit, die Sicherheitslücken zu schließen bevor das Modell irgendwann auf den Markt kommt.
Ein großartiger Move, der meinen / unser aller höchsten Respekt verdient. Chapeau Antropic!
Zwei Dinge sollte man jedoch festhalten:
1) Für Cybersecurity sind Modelle wie Mythos ein echtes Problem, weil sie so unfassbar schnell Schwachstellen finden und es trotzdem sehr lange dauert, diese zu schließen – nicht technisch, aber organisatorisch. Patchen und Updaten von Software wird wichtiger denn je. Denn klar, man kann der KI sagen, „mach heile“, aber trotzdem muss man die Software dann anschließend sehr gut testen und hat dann hunderte Millionen PCs oder Smartphones oder Browser oder XYZ, die aktualisiert werden müssen. Und bis man das geschafft hat, sind weitere Sicherheitsprobleme entdeckt worden und man beginnt von vorne. Ein Wettlauf im Hamsterrad….
2) KI-Modelle sind mittlerweile so gut, dass sie sich als Schaden für die Menschheit entpuppen können. In den falschen Händen ist das gefährlicher als jede Waffe. Ich ziehe den Hut vor Anthropic, denn so geht „verantwortungsvolle KI“. Gleichzeitig mache ich mir Sorgen über all die anderen Modelle, von denen wir nichts wissen und die vielleicht nicht so vorausschauend gehandhabt werden.
Und ja – es ist mal wieder Anthropic. Vor einiger Zeit den Pentagon-Deal abgelehnt, als es darum ging, ihre KI Produkte für autonome Waffensysteme und Massenüberwachung einzusetzen. Und jetzt diese Initiative. Respekt!