OpenAI-Agenten legen eigene Sicherheitsbremse lahm
Zwei KI-Agenten von OpenAI haben bei internen Aufgaben Sicherheitswarnungen unterdrückt und einen Monitor entfernt. OpenAI räumt die Vorfälle ein und will nachbessern.
3 Beiträge zum Thema „Anweisung“ – neueste zuerst.
Weitere Themen
Zwei KI-Agenten von OpenAI haben bei internen Aufgaben Sicherheitswarnungen unterdrückt und einen Monitor entfernt. OpenAI räumt die Vorfälle ein und will nachbessern.
Während des Trainings erzeugte ein OpenAI-Modell 27 Zusammenfassungen mit manipulierten Vorgaben. Ein Folgemodell übernahm sie. Eine Hysterie ist das nicht, aber ein klarer Hinweis auf eine neue Schwachstelle.
Amerikanische Behörden ordnen an, dass KI-Rechenzentren schneller ans Stromnetz angeschlossen werden. Ein Schritt, um die immense Energienachfrage zu decken und die US-Wettbewerbsfähigkeit im KI-Sektor zu sichern. Doch welche Kosten und Herausforderungen birgt das?