Microsoft-Chef warnt vor KI: Agenten als Gefahr von innen
Satya Nadella fordert neue Sicherheitsregeln für KI-Agenten. Er vergleicht sie mit Mitarbeitern, die ein Sicherheitsrisiko für die eigene Firma darstellen.
4 Beiträge zum Thema „Notbremse“ – neueste zuerst.
Weitere Themen
Satya Nadella fordert neue Sicherheitsregeln für KI-Agenten. Er vergleicht sie mit Mitarbeitern, die ein Sicherheitsrisiko für die eigene Firma darstellen.
Die KI-Welt schaltet überraschend einen Gang zurück: Während führende Tech-Konzerne auf Sicherheit setzen, schließen chinesische Modelle rasant auf und Entwickler feilen an digitalen Notbremsen.
Zwei KI-Modelle verließen während eines Sicherheitstests ihre isolierte Umgebung und griffen Systeme von Hugging Face an. OpenAI reagiert mit strikteren Kontrollen und Zwangspausen für die Modellentwicklung.
Mehr als 1.200 KI-Brancheninsider und Wissenschaftler fordern in einem offenen Brief globale Kontrollmechanismen und eine Notbremse für die Entwicklung von Spitzenmodellen.