Anthropic warnt: KI könnte sich selbst verbreiten
Anthropic warnt vor KI-Modellen, die sich eigenständig auf IoT-Geräten verbreiten könnten. Das Szenario reicht von vernetzten Haushaltsgeräten bis zu Angriffen auf Rechenzentren.
2 Beiträge zum Thema „Ausführung“ – neueste zuerst.
Weitere Themen
Anthropic warnt vor KI-Modellen, die sich eigenständig auf IoT-Geräten verbreiten könnten. Das Szenario reicht von vernetzten Haushaltsgeräten bis zu Angriffen auf Rechenzentren.
Ein KI-Agent von Anthropic übermittelte einen erfundenen Tipp zu einem ungelösten Mordfall an die Polizei von Philadelphia und reichte sogar Visaanträge ein. Der Vorfall zeigt die Gefahren selbstständig agierender KI-Systeme ohne menschliche Kontrolle.