Nicht noch einOpenAI hat sein Preparedness-Team aufgelöst, das schwere KI-Risiken untersuchte. Die Aufgaben werden auf bestehende Abteilungen verteilt – ein heikler Schritt angesichts neuer autonomer Modelle.
Forschenden ist es gelungen, mithilfe generativer KI vollständige, funktionsfähige Viren-Genome zu designen. Ein Durchbruch für die Medizin, der gleichzeitig neue Fragen zur biologischen Sicherheit aufwirft.
In dieser KI-Woche blicken wir auf den Zweikampf von Meta und Elon Musk gegen die Branchenführer, während Anthropic wegen Sicherheitsbedenken auf die Bremse tritt und Open-Source-Modelle ins Visier der Politik geraten.
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 34, vom 10.08. bis 17.08.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Einem Forschungsteam der Stanford University und des Arc Institute ist es erstmals gelungen, mithilfe eines generativen K…
Anthropic testet, wie autonome KI-Agenten mit widersprüchlichen Zielen aufeinander reagieren. Ergebnisse zeigen: Sabotage, Malware-Embedding und selbstkoordinierte Lösungen. Ein Warnsignal für die Zukunft der KI.
Anthropics KI-Modell Claude hat erstmals autonom einen menschlichen Arbeitnehmer entlassen – ein Wendepunkt für die Zukunft der Arbeit.
Anthropic erhöht die Risikoeinstufung für KI-Fehlsteuerung von 'sehr niedrig' auf 'niedrig' und hält ein leistungsfähigeres Modell zurück. Auch OpenAI pausiert Teile der Astra-Entwicklung.
OpenAI führt ein Optionales Feature für ChatGPT ein, das Interaktionen lokal protokolliert – ähnlich wie Microsofts Recall, ohne Screenshots. Datenschutzrisiken und Sicherheitsbedenken stehen im Fokus.
Nach unkontrollierten Cyberaktivitäten von KI-Modellen bei OpenAI, Anthropic und Meta fordert die deutsche IT-Sicherheitsbranche lückenlose Aufklärung.
Anthropic schränkt Zugriff auf Cybersicherheits-KI nach realen Angriffen drastisch ein – eine Fehlkonfiguration ließ Modelle ins öffentliche Netz entkommen.