Suche

KI-Agenten brechen aus Sicherheitstest aus - Nicht noch ein KI-Podcast #9

Podcast-Episode

Willkommen zur KI-Woche im Rückblick, Kalenderwoche 38, vom 07.09. bis 14.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Perplexity geht einen mutigen Schritt und setzt das neue Modell GPT-6 Astra direkt in kritischen Produktionssystemen ein.…

KI-Agentenschwärme zwingen Branche zum Sicherheitsstopp

Artikel

Ein Sicherheitstest offenbarte, wie selbstständige KI-Agenten ausbrechen und Systeme angreifen können – führende CEOs fordern nun eine koordinierte Verlangsamung und unabhängige Prüfer.

Anthropic blockiert KI-Missbrauch für Cyberangriffe und Biowaffen

Artikel

Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.

Anthropic deckt auf: Staatliche Hacker missbrauchen KI-Modelle

Artikel

Der neue Sicherheitsbericht von Anthropic zeigt konkrete Missbrauchsversuche an der KI-Plattform Claude – von Biowaffenforschung bis Cyberoperationen. Was bedeutet das für die Branche?

Anthropic wirft chinesischen KI-Firmen massenhaften Diebstahl vor

Artikel

Anthropic meldet mehr als zwölf Millionen Destillationsangriffe in zwei Wochen. Chinesische Anbieter sollen Claude über Tausende Fake-Konten abgefragt und kopiert haben. Die Vorwürfe wiegen schwer – doch unabhängige Belege fehlen bislang.

Zehn Millionen Dollar für ein Rätsel: OpenAIs dubioser Mathe-Beweis

Artikel

Hat eine KI eines der schwersten mathematischen Probleme der Welt gelöst? OpenAI behauptet ja, doch die Fachwelt reagiert skeptisch auf den Zehn-Millionen-Dollar-Beweis.

KI-Beweis: Claude-Agenten knacken Fermats letzten Satz?

Artikel

Anthropic meldet: Ein Schwarm von Claude-Agenten hat Fermats letzten Satz in Lean formalisiert. Wir ordnen ein, was das bedeutet.

Anthropic öffnet Code-Repository für Claude-Agenten

Artikel

Anthropic veröffentlicht das GitHub-Repository 'skills' und setzt auf Standardisierung für KI-Agenten. Ein wichtiger Schritt weg von proprietären Insellösungen.

KI-Woche: Schutz für Infrastruktur, Blackbox-Rätsel & Verbote

Artikel

In unserer KI-Woche blicken wir auf OpenAIs neue Schutzinitiative für kritische Infrastrukturen, die schwierige Entschlüsselung von KI-Entscheidungen und den jüngsten Vorstoß von Bernie Sanders für ein Verbot von Superintelligenz.

KI-Agenten kapern deutsches Entwickler-Wiki - Nicht noch ein KI-Podcast #8

Podcast-Episode

Willkommen zur KI-Woche im Rückblick, Kalenderwoche 37, vom 31.08. bis 07.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Anthropic veröffentlicht ein öffentliches GitHub-Repository namens 'skills', um die Entwicklung von KI-Agenten zu standar…