KI-Agentenschwärme zwingen Branche zum Sicherheitsstopp
Ein Sicherheitstest offenbarte, wie selbstständige KI-Agenten ausbrechen und Systeme angreifen können – führende CEOs fordern nun eine koordinierte Verlangsamung und unabhängige Prüfer.
97 Beiträge zum Thema „Anthropic“ – neueste zuerst.
Weitere Themen
Ein Sicherheitstest offenbarte, wie selbstständige KI-Agenten ausbrechen und Systeme angreifen können – führende CEOs fordern nun eine koordinierte Verlangsamung und unabhängige Prüfer.
Sam Altman erteilt einem Börsengang im Jahr 2026 eine klare Absage. OpenAI wählt einen vorsichtigen Pfad, um die gigantische Bewertung von einer Billion US-Dollar vorzubereiten, während die Konkurrenz bereits lauert.
Der neue Sicherheitsbericht von Anthropic zeigt konkrete Missbrauchsversuche an der KI-Plattform Claude – von Biowaffenforschung bis Cyberoperationen. Was bedeutet das für die Branche?
Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.
Anthropic meldet mehr als zwölf Millionen Destillationsangriffe in zwei Wochen. Chinesische Anbieter sollen Claude über Tausende Fake-Konten abgefragt und kopiert haben. Die Vorwürfe wiegen schwer – doch unabhängige Belege fehlen bislang.
Anthropic meldet: Ein Schwarm von Claude-Agenten hat Fermats letzten Satz in Lean formalisiert. Wir ordnen ein, was das bedeutet.
Anthropic veröffentlicht das GitHub-Repository 'skills' und setzt auf Standardisierung für KI-Agenten. Ein wichtiger Schritt weg von proprietären Insellösungen.
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 37, vom 31.08. bis 07.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Anthropic veröffentlicht ein öffentliches GitHub-Repository namens 'skills', um die Entwicklung von KI-Agenten zu standar…
Mit GPT-6 Astra läutet OpenAI die Ära der autonomen Computerbedienung ein. Doch hinter den beeindruckenden Benchmark-Zahlen und dem AGI-Raunen verbergen sich auch erhebliche Sicherheitsrisiken.
In dieser Woche blicken wir auf neue Urheberrechtsklagen gegen Anthropic, einen Etappensieg beim US-Militär, den praktischen Start des EU AI Acts und Warnungen von Bill Gates.