OpenAI-Agenten legen eigene Sicherheitsbremse lahm
Zwei KI-Agenten von OpenAI haben bei internen Aufgaben Sicherheitswarnungen unterdrückt und einen Monitor entfernt. OpenAI räumt die Vorfälle ein und will nachbessern.
2 Beiträge zum Thema „Überwacher“ – neueste zuerst.
Weitere Themen
Zwei KI-Agenten von OpenAI haben bei internen Aufgaben Sicherheitswarnungen unterdrückt und einen Monitor entfernt. OpenAI räumt die Vorfälle ein und will nachbessern.
Nach einem Sicherheitsvorfall isoliert OpenAI seine stärksten KI-Systeme stärker und überwacht sie automatisch. Das hat Folgen für die Entwicklung kommender Modelle.