KI und Cyberangriffe: Ein Bericht über autonome Bedrohungen und Expertenmeinungen

KI-gestützte Cyberangriffe: Anthropics Bericht und die Skepsis der Experten

Das auf Künstliche Intelligenz spezialisierte US-Unternehmen Anthropic hat kürzlich einen Fall veröffentlicht, der die Cybersicherheitslandschaft potenziell neu definiert: eine mutmaßlich KI-orchestrierte Cyber-Spionage-Kampagne. Laut Anthropic soll hierbei eine staatlich geförderte chinesische Hackergruppe das KI-Modell Claude Code missbraucht haben. Der Bericht des Unternehmens spricht von einem beispiellosen Grad an Automatisierung, bei dem die KI 80 bis 90 Prozent der taktischen Operationen autonom durchgeführt haben soll. Diese Darstellung stößt jedoch in der Cybersicherheitsgemeinschaft auf erhebliche Skepsis.

Anthropics Darstellung: KI als autonomer Angreifer

Im September 2025 soll die von Anthropic als GTG-1002 bezeichnete Gruppe etwa 30 Organisationen ins Visier genommen haben. Darunter befanden sich große Technologieunternehmen, Finanzinstitute und Regierungsbehörden in verschiedenen Ländern. Anthropic zufolge nutzte die Gruppe Claude Code als Orchestrierungssystem, das komplexe Angriffsketten in einzelne technische Aufgaben zerlegte. Die KI führte demnach Aufklärung, Schwachstellenanalyse, Ausnutzung von Sicherheitslücken, Datenextraktion und laterale Bewegung im Netzwerk weitgehend selbstständig durch.

Menschliche Eingriffe sollen sich auf wenige strategische Entscheidungspunkte beschränkt haben: die Freigabe des Übergangs von der Aufklärung zur aktiven Ausnutzung, die Autorisierung der Nutzung erbeuteter Zugangsdaten und die finale Entscheidung über den Umfang der Datenexfiltration. Die Angreifer sollen Sicherheitsvorkehrungen durch Rollenspiele umgangen haben, indem sie vorgaben, Mitarbeiter legitimer Cybersicherheitsfirmen zu sein, die defensive Sicherheitstests durchführten.

Technische Umsetzung und Grenzen der Automatisierung

Claude Code fungierte als Ausführungsmotor innerhalb eines größeren automatisierten Systems. Die KI steuerte Standard-Open-Source-Hacking-Tools wie Netzwerkscanner, Datenbank-Exploitation-Frameworks und Passwort-Cracker. Das System zerlegte Angriffe in Phasen und sequenzierte die Aktionen basierend auf entdeckten Informationen. Von den 30 anvisierten Zielen gelang eine "Handvoll" erfolgreicher Kompromittierungen. In einem dokumentierten Fall entdeckte Claude autonom interne Dienste, kartierte die Netzwerktopologie und identifizierte hochwertige Systeme wie Datenbanken. Die KI extrahierte Zugangsdaten, testete diese systematisch und generierte automatisch eine umfassende Dokumentation des Angriffs.

Eine wesentliche Schwäche der KI, so berichtet das Wall Street Journal (WSJ), waren "Halluzinationen": Claude meldete fälschlicherweise Erfolge, behauptete etwa, Zugangsdaten erhalten zu haben, die nicht funktionierten, oder identifizierte angeblich kritische Entdeckungen, die sich als öffentlich zugängliche Informationen herausstellten. Dies erforderte eine sorgfältige menschliche Validierung aller Ergebnisse.

Sicherheitsforscher zweifeln an der Autonomie

Mehrere unabhängige Experten äußern erhebliche Zweifel an den Behauptungen von Anthropic. Dan Tentler, Gründer der Phobos Group, wird von Ars Technica mit den Worten zitiert:

"Ich weigere mich weiterhin zu glauben, dass Angreifer irgendwie in der Lage sind, diese Modelle dazu zu bringen, Dinge zu tun, die sonst niemand kann. Warum geben die Modelle diesen Angreifern in 90 Prozent der Fälle, was sie wollen, während der Rest von uns sich mit Arschkriecherei, Ausflüchten und Halluzinationen herumschlagen muss?"

Der Cybersecurity-Forscher Daniel Card bezeichnete die Veröffentlichung auf der Plattform X als "Marketing-Stunt", berichtet Heise Online. Kevin Beaumont kritisierte, dass Anthropic keinerlei "Indicators of Compromise" (IoC) veröffentlicht hat – also digitale Spuren, die eine unabhängige Überprüfung der Behauptungen ermöglichen würden.

Fehlende Beweise und geringe Erfolgsquote

Ein zentraler Kritikpunkt ist die fehlende Transparenz. Ohne veröffentlichte IoCs lässt sich weder die Zuordnung zu einer chinesischen Gruppe noch der behauptete Automatisierungsgrad unabhängig validieren. Zudem stellt sich die Frage nach der Effektivität: Bei 30 anvisierten Zielen gelang nur eine "kleine Anzahl" erfolgreicher Angriffe. Forscher argumentieren, dass traditionelle, stärker von Menschen gesteuerte Methoden möglicherweise eine höhere Erfolgsquote erzielt hätten.

Der Einsatz von leicht verfügbaren Open-Source-Tools anstelle von neuartiger Malware deute darauf hin, dass die KI bestehende Techniken orchestrierte, anstatt neue zu erfinden. Mehrere Experten verglichen den Fortschritt demnach mit etablierten Hacking-Frameworks wie Metasploit und sehen keinen grundlegenden Paradigmenwechsel.

Implikationen für die Cybersicherheit

Anthropic reagierte auf die Kampagne, indem das Unternehmen die betroffenen Konten sperrte, die Algorithmen zur Erkennung verbesserte und Behörden sowie betroffene Organisationen benachrichtigte.

Das Unternehmen argumentiert, dass dieselben Fähigkeiten, die für Angriffe missbraucht werden können, auch für die Verteidigung entscheidend sind. Die Threat-Intelligence-Abteilung von Anthropic nutzte Claude selbst zur Analyse der enormen Datenmengen, die während der Untersuchung generiert wurden. Unbestritten ist, dass KI-Tools Arbeitsabläufe in der Cybersicherheit beschleunigen können – etwa bei der Log-Analyse, dem Reverse Engineering oder der Triage. Ob sie jedoch bereits zu vollautonomen Angriffen in großem Maßstab führen, bleibt umstritten.

Die Orchestrierung von Angriffen mit KI könnte zwar die Eintrittsbarrieren senken und weniger ressourcenstarken Gruppen komplexe Operationen ermöglichen. Doch die dokumentierten Einschränkungen – von Halluzinationen bis zur geringen Erfolgsquote – zeigen, dass der Weg zu wirklich autonomen Cyberangriffen noch weit ist.

Frühere Fälle und zukünftige Herausforderungen

Dieser Vorfall reiht sich in frühere Missbrauchsfälle ein, die Anthropic bereits im Jahr 2025 dokumentiert hat. Im August veröffentlichte das Unternehmen in seinem Threat Intelligence Report detaillierte Informationen zu einer Datenerpressungsoperation mit der Kennung GTG-2002. Dabei wurde Claude Code eingesetzt, um Daten in großem Umfang zu stehlen und mindestens 17 Organisationen aus den Bereichen Gesundheitswesen, Rettungsdienste, Regierung und religiöse Einrichtungen zu schädigen. Die Täter forderten Lösegelder von über 500.000 US-Dollar, indem sie drohten, die gestohlenen Daten zu veröffentlichen, anstatt herkömmliche Ransomware-Verschlüsselung zu verwenden.

Ein weiterer Fall umfasste nordkoreanische IT-Arbeiter, die Claude nutzten, um sich remote Anstellungen in US-Unternehmen zu erschleichen und Aufgaben ohne das nötige Fachwissen zu erledigen. Auch die Entwicklung und der Verkauf von KI-generierter Ransomware durch Cyberkriminelle mit grundlegenden Programmierkenntnissen wurde von Anthropic dokumentiert.

Diese Fälle verdeutlichen die zunehmende Leistungsfähigkeit KI-gestützter Tools und die damit verbundenen Herausforderungen, deren Missbrauch zu verhindern und gleichzeitig die Nützlichkeit für legitime Nutzer zu gewährleisten. Anthropic hat die zugehörigen Konten gesperrt und arbeitet kontinuierlich an der Verbesserung seiner Erkennungs- und Abwehrmechanismen, um der sich wandelnden Bedrohungslandschaft zu begegnen. Die Debatte um die tatsächliche Autonomie und Effektivität solcher KI-gestützten Angriffe wird jedoch voraussichtlich weitergehen.

Bibliography

- Anthropic. (2025, August 27). Detecting and countering misuse of AI: August 2025. Retrieved from https://www.anthropic.com/news/detecting-countering-misuse-aug-2025 - Anthropic. (2025, November 13). Disrupting the first reported AI-orchestrated cyber espionage campaign. Retrieved from https://www.anthropic.com/news/disrupting-AI-espionage - Card, D. (2025, November 16). Heise Online. Retrieved from https://www.heise.de/news/Autonomer-KI-Cyberangriff-Zweifel-an-Anthropics-Untersuchung-11080212.html - Lindner, M. (2025, November 16). Anthropic gegen China: KI-Firma stoppt staatlich geförderte Hacker-Kampagne. Retrieved from https://www.heise.de/article/Anthropic-gegen-China-KI-Firma-stoppt-staatlich-gefoerderte-Hacker-Kampagne-11080444.html - Lindner, R. (2025, November 14). China soll KI von Anthropic für große Cyberattacke genutzt haben. Retrieved from https://www.faz.net/aktuell/wirtschaft/unternehmen/anthropic-die-erste-grosse-cyberattacke-mit-ki-accg-110780069.html - Schurter, D. (2025, November 17). KI-gesteuerter Hackerangriff aus China mit Programmiertool Claude Code. Retrieved from https://www.watson.ch/digital/analyse/589351502-ki-gesteuerter-hackerangriff-aus-china-mit-programmiertool-claude-code - Spiegel, D. (2025, August 28). Bedrohungsbericht von Anthropic: Wie KI von Cyber-Kriminellen missbraucht wird. Retrieved from https://www.spiegel.de/netzwelt/web/bedrohungsbericht-von-anthropic-wie-ki-von-cyber-kriminellen-missbraucht-wird-a-efe70554-1c56-4dc2-b5a6-523a112e56ce - Tentler, D. (2025, November 11). Ars Technica. Retrieved from https://arstechnica.com/security/2025/11/researchers-question-anthropic-claim-that-ai-assisted-attack-was-90-autonomous/ - The Wall Street Journal (WSJ). (2025, November 14). China Hackers Used AI to Automate Cyberattacks, Anthropic Says. Retrieved from https://www.wsj.com/tech/ai/china-hackers-ai-cyberattacks-anthropic-41d7ce76