Anthropics neues KI-Modell soll zu gefährlich sein, um es zu veröffentlichen. Ist das mehr als Marketing?

Hacker könnten das Modell Mythos nutzen, um Sicherheitslücken für Cyberangriffe zu finden. Die Herstellerfirma Anthropic hält es deshalb zurück. Warum dieser Schritt eine Wende bringen könnte.

Was die KI-Firma Anthropic vergangene Woche angekündigt hat, erinnert an ein Schreckensszenario: Ein mächtiges KI-Modell erlaubt es böswilligen Hackern, automatisiert und in grosser Zahl Cyberangriffe auszuführen. Die Verteidiger sind überfordert.

So weit ist die Entwicklung noch nicht. Aber was die Firma Anthropic vergangene Woche veröffentlicht hat, ist dennoch beunruhigend. Ihr neuestes universelles Sprachmodell, Claude Mythos, könne dank starken Fähigkeiten im Bereich Cybersicherheit Schwachstellen in Software selbständig entdecken und einen Weg aufzeigen, um die Sicherheitslücke auszunutzen.

Anthropic schreibt von Tausenden gefährlichen Schwachstellen, die das Modell gefunden habe. Darunter befinden sich auch Sicherheitslücken, die jahre- oder gar jahrzehntelang unentdeckt geblieben waren. Jedes wichtige Betriebssystem und jeder bedeutende Browser ist laut Anthropic betroffen. Zwar konnten die Sicherheitsforscher nicht alle von Mythos aufgeführten Schwachstellen manuell überprüfen. Stichproben ergaben jedoch eine Richtigkeit von 89 bis 98 Prozent.

Zwar hat das Modell die Schwachstellen nur gefunden, wenn ihm der Quellcode der Software zur Verfügung stand. Es handelte sich also nicht um automatische Angriffe zum Beispiel auf einen laufenden Server im Internet. Dennoch könnten sich böswillige Akteure die Fähigkeiten von Mythos für Cyberangriffe zunutze machen. Anthropic verzichtet deshalb darauf, das neue KI-Modell allgemein zugänglich zu machen.

Ausgewählte Nutzer können Mythos-Modell nutzen

Anstatt Claude Mythos zu veröffentlichen, gibt Anthropic das KI-Modell nun nur einem kleinen Kreis von Nutzern frei. Dazu gehören Tech-Firmen wie Microsoft, Apple, Google oder Cisco, die Chipherstellerin Nvidia, IT-Sicherheitsfirmen wie Crowdstrike, aber auch die grösste Bank der USA, JP Morgan Chase. Die gut fünfzig Firmen können im Rahmen des neuen Projekts «Glasswing» das Modell Mythos einsetzen, um ihre Software sicherer zu machen. Anthropic stellt dafür KI-Nutzung im Wert von 100 Millionen Dollar zur Verfügung, weitere Rechenleistung von Mythos können die Firmen dazukaufen.

Dass KI-Modelle zunehmend gut darin sind, Sicherheitslücken im Quellcode von Software zu finden, ist nicht neu. Es gibt deshalb Forscher, die die Ankündigung von Anthropic vor allem als grosse Marketingaktion sehen. Die Firma Aisle ist zum Beispiel darauf spezialisiert, mittels unterschiedlicher KI-Modelle Softwarelücken zu finden – und hat damit Erfolg. Sie konnte vergangene Woche mit einfacheren und älteren KI-Modellen relativ rasch einige der Schwachstellenfunde nachvollziehen, die Anthropic öffentlichkeitswirksam publiziert hatte.

Doch selbst wenn Anthropic mit ihrem neuen Modell Mythos viel Marketing betreibt, geht es im Kern um einen wichtigen Aspekt der IT-Sicherheit: Software ist heute oft unausgereift und weist zu viele Sicherheitslücken auf. Das führt dazu, dass viele unsichere Geräte mit dem Internet verbunden sind oder anfällige Dienste online sind, was Cyberangriffe erleichtert.

KI wird in diesem Bereich in den nächsten Monaten und Jahren grosse Veränderungen bringen. Angreifer brauchen dank künstlicher Intelligenz weniger technisches Wissen, um Sicherheitslücken in Programmen zu finden, und können diese rascher ausnützen. Cyberangriffe lassen sich vermehrt automatisieren und skalieren. Die Nonprofitorganisation Cloud Security Alliance schreibt in einem neuen Bericht mit Bezug auf Mythos, Unternehmen müssten sich auf eine grössere Zahl von komplexen und neuartigen Angriffen ausrichten.

Doch KI kann auch helfen, Cyberangriffe zu verhindern und abzuwehren. Dass mit Anthropic eine KI-Firma ihr neustes Modell dafür einsetzen möchte, dass ausgewählte Partner Sicherheitslücken rascher finden und beheben können, ist diesbezüglich ein wichtiger Schritt – selbst wenn Mythos nicht das einzige Modell ist, das Schwachstellen finden kann. Im Idealfall wird das Projekt «Glasswing» zum Beginn einer grösseren, branchenweiten Initiative, an der sich auch andere KI-Firmen beteiligen.

Dass sich Anthropic mit «Glasswing» in den USA als eine treibende Kraft im Bereich IT-Sicherheit positionieren möchte, ist bemerkenswert. Denn die KI-Firma befindet sich in einem Rechtsstreit mit der amerikanischen Regierung. Das Verteidigungsministerium möchte die Produkte von Anthropic als Risiko für die nationale Sicherheit einstufen, was wirtschaftliche Folgen für die KI-Firma hätte. Grund dafür sind nicht echte Sicherheitsprobleme, sondern der Umstand, dass das Unternehmen seine KI-Modelle der amerikanischen Armee nicht völlig ohne Einschränkungen zur Verfügung stellen wollte. Bis jetzt stehen Firmen wie Huawei aus China oder Kaspersky aus Russland auf der entsprechenden Liste.

Unternehmen müssen sich auf mehr Updates einstellen

Der Einsatz von KI kann Software sicherer machen. Doch dazu braucht es mehr als ein KI-Modell, das gut darin ist, Sicherheitslücken zu finden. Die Softwarefirmen brauchen auch Kapazitäten und Prozesse, um die entsprechenden Sicherheitsupdates rasch zu erstellen und auszuliefern. Und schliesslich müssen die Nutzer der Software diese Updates auch installieren, was oft nicht geschieht.

Dass KI neue Herausforderungen für die Cybersicherheit bringt, ist den meisten Verantwortlichen seit längerem klar. Doch nicht immer erhalten sie die nötigen Mittel dazu. Anthropics neues Modell Mythos könnte nun aber den nötigen Druck dafür aufbauen, wie die Cloud Security Alliance schreibt: «Die Publikation zu Mythos hat die Aufmerksamkeit der Führungsetage geweckt.» Die IT-Sicherheitsleute könnten diese Gelegenheit nutzen, um die nötigen Mittel zu erhalten. Wenn das gelingt, hätte die grosse Aufregung um Mythos auf jeden Fall einen positiven Effekt.

Lukas Mäder, «Neue Zürcher Zeitung»