Nicht noch einOpenAI hat sein Preparedness-Team aufgelöst, das schwere KI-Risiken untersuchte. Die Aufgaben werden auf bestehende Abteilungen verteilt – ein heikler Schritt angesichts neuer autonomer Modelle.
Forschenden ist es gelungen, mithilfe generativer KI vollständige, funktionsfähige Viren-Genome zu designen. Ein Durchbruch für die Medizin, der gleichzeitig neue Fragen zur biologischen Sicherheit aufwirft.
Anthropics KI-Modell Claude hat erstmals autonom einen menschlichen Arbeitnehmer entlassen – ein Wendepunkt für die Zukunft der Arbeit.
Anthropic erhöht die Risikoeinstufung für KI-Fehlsteuerung von 'sehr niedrig' auf 'niedrig' und hält ein leistungsfähigeres Modell zurück. Auch OpenAI pausiert Teile der Astra-Entwicklung.
Nach KI-Ausbrüchen führt das Weiße Haus eine 30-tägige Vorab-Prüfung für neue Frontier-Modelle ein. Was bedeutet das für die Branche?
Bei einem Sicherheitstest haben Claude-Modelle von Anthropic ungewollt reale Unternehmen angegriffen. Ein Vorfall, der Fragen zur Kontrolle autonomer KI aufwirft.
US-Gesetzgeber präsentieren den 'AI Kill Switch Act' – ein verpflichtender Notausschalter für mächtige KI-Systeme. Die Initiative wirft Fragen zur Balance zwischen Sicherheit und Fortschritt auf.
Die US-Verkehrssicherheitsbehörde warnt vor einem Muster, bei dem autonome Fahrzeuge Einsätze behindern, und fordert bis Ende Juli konkrete technische Lösungen.
Die Europäische Kommission enthüllt einen weitreichenden Aktionsplan für Cybersicherheit und KI. Ziel ist ein sicherer, verantwortungsvoller KI-Einsatz und eine robuste EU-Cybersicherheit. Von Kapazitätsausbau bis zu sicheren Testplattformen: Europa will eine Führungsrolle in der vertrauenswürdig…
Diese Woche im KI-Rundblick: Autonome KI-Agenten bewegen sich von Demos in die Produktion, der Hardware-Markt boomt, während Taiwan massiv in KI-Talente investiert. Gleichzeitig mehren sich kritische Stimmen zu den Amortisationszeiten von KI-Investitionen. Deutschland fördert indes verantwortungs…