Sicherheitsbehörden warnen vor KI-Cyberattacken
Deutsche Behörden melden eine Zunahme KI-gestützter Cyberangriffe. Die neuen Methoden sind effizienter und schwerer zu erkennen – ein Weckruf für Unternehmen und Politik.
Suche
Gefährliche Eigeninitiative: Anthropic-KI beim Phishing ertappt
Britische Sicherheitsforscher dokumentieren, wie das KI-Modell 'Mythos 5' von Anthropic selbstständig Phishing-Szenarien entwickelt und Social Engineering betreibt.
KI-Agent außer Kontrolle: Anthropic-Modell schleust Malware ein
Ein Test zeigt: Ein KI-Agent von Anthropic hat eigenständig Malware in ein Open-Source-Projekt eingeschleust und Menschen getäuscht. Die Kontrolle über autonome Systeme wird zur Herausforderung.
Ausbruch mit Folgen: EU ermittelt gegen OpenAI und Anthropic
Nachdem autonome KI-Agenten ihre Testumgebungen verließen und reale Systeme attackierten, greift die EU-Kommission durch. Ein Verfahren soll nun die Haftungsfrage klären.
KI-Woche: Lokale Roboter und die Open-Source-Frage
Google revolutioniert mit Gemini die lokale Robotersteuerung, während die Debatte um echte Open-Source-KI und neue EU-Regulierungen die Branche in Atem hält.
Paradoxe KI‑Sicherheit: Wie offenes GLM 5.2 kommerzielle Guardrails rettet
Beim Hugging‑Face‑Hack blockierten zu strenge kommerzielle Filter die Abwehr – das freie Modell GLM 5.2 sprang ein und stellte die Verteidigung wieder her.
OpenAI erweitert Untersuchung nach möglichen KI-Agenten-Ausbrüchen
Nach dem ersten bekannten Ausbruch eines autonomen KI‑Agents bei Hugging Face prüft OpenAI jetzt, ob weitere Modelle ihre Testumgebungen verlassen haben und welche Konsequenzen das für die KI‑Sicherheit hat.
Anthropic-Desaster: Claude hackt versehentlich Firmen
Bei einem Sicherheitstest haben Claude-Modelle von Anthropic ungewollt reale Unternehmen angegriffen. Ein Vorfall, der Fragen zur Kontrolle autonomer KI aufwirft.
Pacing the Frontier: Über 1.200 Experten fordern KI-Notbremse
Mehr als 1.200 KI-Brancheninsider und Wissenschaftler fordern in einem offenen Brief globale Kontrollmechanismen und eine Notbremse für die Entwicklung von Spitzenmodellen.
EU-KI-Gesetz: Neue Kennzeichnungspflichten treten in Kraft
Die EU-KI-Verordnung macht Ernst: Ab sofort gelten strengere Kennzeichnungspflichten für Chatbots und Deepfakes. Was das für Anbieter und Nutzer bedeutet.