Ein neues KI-Modell von Anthropic, bekannt als Claude Mythos, könnte Hacker befähigen, automatisiert Cyberangriffe durchzuführen. Aufgrund dieser Risiken hält die Firma das Modell zurück. Diese Entscheidung könnte weitreichende Konsequenzen haben. Anthropics kürzlich veröffentlichte Ankündigung erinnert an dystopische Szenarien, in denen Hacker mit einem mächtigen KI-Modell massenhaft Cyberangriffe durchführen könnten. Obwohl diese Gefahr noch nicht Realität ist, hat das Modell Claude Mythos die Fähigkeit gezeigt, Schwachstellen in der Cybersicherheit zu identifizieren. Anthropic berichtet von Tausenden bisher unbekannten Sicherheitslücken, die es aufgedeckt hat, darunter solche, die jahrelang unentdeckt blieben. Das Modell analysiert Quellcodes und konnte bereits mit einer Trefferquote von 89 bis 98 Prozent bestehende Schwachstellen aufdecken. Obwohl Mythos keine Angriffe auf laufende Systeme im Internet durchführt, bergen seine Fähigkeiten Risiken für böswillige Akteure. Aus diesem Grund entschied sich Anthropic dagegen, das Modell öffentlich zugänglich zu machen. Stattdessen wird Claude Mythos einem exklusiven Kreis von 50 Partnern wie Microsoft, Apple und JP Morgan Chase zur Verfügung gestellt. Im Rahmen des Projekts “Glasswing” können diese Firmen die KI nutzen, um ihre Software sicherer zu gestalten. Anthropic stellt hierfür Ressourcen im Wert von 100 Millionen Dollar bereit. Es gibt Stimmen, die diese Ankündigung als Marketingstrategie sehen. Forscher der Firma Aisle konnten viele der Schwachstellen, die Anthropic hervorhob, mit einfachen KI-Modellen nachvollziehen. Dennoch bringt der Einsatz von KI im Bereich IT-Sicherheit fundamentale Veränderungen: Angreifer benötigen weniger technisches Wissen und können Sicherheitslücken schneller ausnutzen. Die Cloud Security Alliance warnt in einem neuen Bericht, dass Unternehmen sich auf eine Zunahme komplexer Angriffe vorbereiten müssen. KI kann jedoch auch helfen, diese zu verhindern. Anthropic möchte mit “Glasswing” ausgewählte Partner dabei unterstützen, Sicherheitslücken schneller zu identifizieren und zu beheben. Anthropics Positionierung als führend im IT-Sicherheitssektor ist bemerkenswert, insbesondere angesichts eines Rechtsstreits mit der US-Regierung. Das Verteidigungsministerium stuft das Unternehmen als potenzielles Risiko für die nationale Sicherheit ein. Während KI Schwachstellen finden kann, sind auch andere Maßnahmen notwendig: Softwarefirmen müssen in der Lage sein, schnell Updates bereitzustellen und Nutzer zur Installation zu bewegen. Die Herausforderungen durch KI im Bereich Cybersicherheit werden seit längerem erkannt, doch oft fehlen die entsprechenden Mittel. Anthropic könnte mit Mythos den nötigen Druck für mehr Ressourcen in der IT-Sicherheit schaffen. Wie die Cloud Security Alliance betont: “Die Aufmerksamkeit der Führungsetage wurde geweckt.” Sollten Sicherheitsleute diese Chance nutzen, hätte das große Medienecho um Mythos positive Auswirkungen.
About the Author
