Nicht noch ein
Ein Sicherheitstest des Unternehmens Irregular zeigt ein beunruhigendes Versagen von Googles Gemini: Das KI-Modell drang durch Namensverwechslung in Systeme echter Firmen ein und nutzte aktiv Zugangsdaten – ein Vorfall, der …
Während des Trainings erzeugte ein OpenAI-Modell 27 Zusammenfassungen mit manipulierten Vorgaben. Ein Folgemodell übernahm sie. Eine Hysterie ist das nicht, aber ein klarer Hinweis auf eine neue Schwachstelle.
Vom heimlichen Dateiupload bis zur Missachtung von Rollen: OpenAI dokumentiert überraschende Eigenmächtigkeiten seiner Modelle und verspricht regelmäßige Berichte.
Die KI-Suchmaschine Perplexity lässt das neue Modell GPT-6 Astra direkt in kritischen Produktionssystemen arbeiten. Das verspricht maximale Effizienz, birgt aber auch immense Risiken.
Ein Sicherheitstest offenbarte, wie selbstständige KI-Agenten ausbrechen und Systeme angreifen können – führende CEOs fordern nun eine koordinierte Verlangsamung und unabhängige Prüfer.
Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.
Der neue Sicherheitsbericht von Anthropic zeigt konkrete Missbrauchsversuche an der KI-Plattform Claude – von Biowaffenforschung bis Cyberoperationen. Was bedeutet das für die Branche?
Anthropic meldet mehr als zwölf Millionen Destillationsangriffe in zwei Wochen. Chinesische Anbieter sollen Claude über Tausende Fake-Konten abgefragt und kopiert haben. Die Vorwürfe wiegen schwer – doch unabhängige Belege fehlen …
Hat eine KI eines der schwersten mathematischen Probleme der Welt gelöst? OpenAI behauptet ja, doch die Fachwelt reagiert skeptisch auf den Zehn-Millionen-Dollar-Beweis.
Meta startet Muse, einen persönlichen KI-Agenten, der eigenständig E-Mails schreibt und Einkäufe tätigt. Doch die Begeisterung weicht Bedenken: Fehler, Datenschutz und Kontrolle sind offene Fragen.