Das US-amerikanische Unternehmen Anthropic hält das neue KI-Modell «Mythos» zurück, da es außergewöhnlich gut darin ist, unbekannte Sicherheitslücken zu entdecken und auszunutzen. Diese Technologie steht somit vorerst nur ausgewählten großen Firmen zur Verfügung. SRF-Digitalredaktor Guido Berger erläutert die Hintergründe.
Seit 2006 erklärt der Leiter der SRF Digital-Redaktion, Guido Berger, digitale Technologien und Games. KI-Modelle sind mittlerweile in der Lage, Programmcode zu schreiben und bestehenden Code auf Fehler hin zu analysieren. Sie können sogar neuen Code generieren, der diese Schwachstellen ausnutzt, um in Systeme einzudringen und Schaden anzurichten. Das «Mythos»-Modell von Anthropic zeichnet sich dabei durch seine Fähigkeit aus, selbst jahrzehntealte Fehler zu identifizieren.
Zukünftig wird die Anzahl der entdeckten Sicherheitslücken sowie deren Erkennungsgeschwindigkeit erheblich zunehmen. Im ständigen Wettlauf versuchen sowohl böswillige Akteure als auch Sicherheitsexperten, Schwachstellen zu nutzen oder zu schließen. Die Herausforderung besteht darin, dass die Zahl der Lücken den Möglichkeiten des rechtzeitigen Schließens übersteigt – besonders bei weit verbreiteter Software, deren Entwicklung und Wartung oft nur von wenigen Personen erfolgt.
Wenn Entwickler plötzlich zahlreiche Hinweise auf neue Sicherheitslücken erhalten, könnten sie möglicherweise nicht alle Schwachstellen zeitnah beheben. Dies ist ein übliches Vorgehen beim Auffinden von Sicherheitslücken: Man gibt den Betroffenen die Möglichkeit, die Lücke zu schließen, bevor diese öffentlich bekannt wird.
Anthropic nutzt dieses Szenario, um auf das Potenzial seiner Modelle hinzuweisen, wobei das Problem weit über «Mythos» hinausgeht. Andere KI-Modelle verfügen oder werden bald ähnliche Fähigkeiten besitzen. Cyberkriminelle, Geheimdienste und Schurkenstaaten sehen darin eine Chance, während Sicherheitsforscher sich auf schwierige Zeiten einstellen müssen.
Individuell bleibt nur die Empfehlung: Software stets aktuell halten, regelmäßig Backups erstellen, verantwortungsvoll mit Passwörtern umgehen und generell vorsichtig mit persönlichen Daten sein.
About the Author
