Im September 2026 veröffentlichte Anthropic, das Unternehmen hinter dem KI-Modell Claude, einen Sicherheitsbericht, über den euronews berichtete, der auf eindrucksvolle Weise zeigt, wie KI-Systeme in den Dienst von Cyberangriffen, Desinformationskampagnen und sogar möglicher Biowaffenforschung gebracht werden könnten. Laut dem Bericht habe das Unternehmen mehrere solcher Versuche erkannt und blockiert – darunter einen Fall, in dem Akteure laut eigenen Angaben hunderte gefälschte Social-Media-Profile erstellt hätten, um über einen langen Zeitraum dieselbe politische Botschaft zu verbreiten. Solche Operationen nutzen die Automatisierung durch KI, um den Eindruck einer breiten gesellschaftlichen Bewegung zu erzeugen, was besonders gefährlich ist, weil sie die öffentliche Meinung manipulieren kann, ohne dass die Herkunft der Inhalte erkennbar ist. Anthropic betont, dass diese und andere Versuche durch interne Sicherheitsmechanismen abgefangen worden seien, die entweder problematische Anfragen direkt ablehnen oder Warnhinweise ausgeben. Gleichzeitig räumt das Unternehmen ein, dass die Landschaft der KI-Sicherheit ständig im Wandel sei und neue Bedrohungen schnell auftreten könnten, die noch nicht vollständig verstanden würden.

KI als Werkzeug für koordinierte Angriffe

Der Bericht von Anthropic verdeutlicht, wie KI-Technologien – insbesondere leistungsstarke Sprachmodelle wie Claude – in komplexe, mehrstufige Angriffe eingebunden werden können. In einem der beschriebenen Fälle seien gefälschte Accounts auf sozialen Plattformen erstellt worden, die scheinbar unabhängig voneinander dieselbe Botschaft verbreiteten. Solche Taktiken zielen darauf ab, die Glaubwürdigkeit von Informationen zu untergraben oder gesellschaftliche Spannungen zu schüren. Durch die Nutzung von KI lässt sich dieses Vorgehen stark automatisieren, was die Skalierung solcher Kampagnen ungleich schwieriger macht, sowohl für die Betreiber der Plattformen als auch für die Aufdeckung durch Außenstehende. Anthropic gibt an, solche Muster durch Analysen von Nutzungsdaten und sprachlichen Mustern frühzeitig zu erkennen. Kritisch ist jedoch, dass viele dieser Mechanismen bislang nur auf internen Beobachtungen beruhen. Es fehlen unabhängige, technisch nachprüfbare Beweise dafür, dass die beschriebenen Angriffe tatsächlich stattgefunden haben oder erfolgreich geworden wären.

Transparenz und die Grenzen der Selbstkontrolle

Ein zentrales Problem bleibt die Frage, wie transparent KI-Anbieter in Zukunft Berichte über Missbrauch ihrer Systeme abgeben müssen. Anthropic betont, dass es Erkenntnisse mit Behörden und Branchenpartnern geteilt habe. Doch was genau geteilt wurde und inwiefern externe Parteien diese Informationen unabhängig geprüft haben, bleibt weitgehend offen. Dies wirft die Frage auf, ob solche Berichte primär als Marketing für die eigene Sicherheitspolitik zu verstehen sind oder ob sie echte, nachvollziehbare Daten liefern. Zudem zeigt der Fall, dass selbst gut konzipierte Sicherheitssysteme nicht vollständig vor Missbrauch schützen können – insbesondere nicht, wenn es darum geht, KI für gefährliche biologische Forschung einzusetzen. Hier stoßen die Möglichkeiten der Software allein auf die ethischen und regulatorischen Rahmenbedingungen, die noch in den Anfängen diskutiert werden. Der Bericht von Anthropic ist daher weniger ein Beweis für das Versagen von KI-Sicherheit, sondern ein Appell an die Industrie, konsequenter zu handeln und transparenter zu kommunizieren, was wirklich passiert, wenn KI im dunklen Web zum Einsatz kommt.

Fazit: Anthropics Bericht liefert wertvolle Einblicke in die Gefahren durch KI-Missbrauch, ist aber kein Beweis für eine allumfassende Kontrolle. Die Branche muss lernen, nicht nur ihre Sicherheitsvorkehrungen zu verbessern, sondern auch zu dokumentieren, wie sie funktionieren – und vor allem, wo sie versagen.