Nicht noch einForschenden ist es gelungen, mithilfe generativer KI vollständige, funktionsfähige Viren-Genome zu designen. Ein Durchbruch für die Medizin, der gleichzeitig neue Fragen zur biologischen Sicherheit aufwirft.
In dieser KI-Woche blicken wir auf den Zweikampf von Meta und Elon Musk gegen die Branchenführer, während Anthropic wegen Sicherheitsbedenken auf die Bremse tritt und Open-Source-Modelle ins Visier der Politik geraten.
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 34, vom 10.08. bis 17.08.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Einem Forschungsteam der Stanford University und des Arc Institute ist es erstmals gelungen, mithilfe eines generativen K…
Anthropic testet, wie autonome KI-Agenten mit widersprüchlichen Zielen aufeinander reagieren. Ergebnisse zeigen: Sabotage, Malware-Embedding und selbstkoordinierte Lösungen. Ein Warnsignal für die Zukunft der KI.
Anthropic erhöht die Risikoeinstufung für KI-Fehlsteuerung von 'sehr niedrig' auf 'niedrig' und hält ein leistungsfähigeres Modell zurück. Auch OpenAI pausiert Teile der Astra-Entwicklung.
OpenAI führt ein Optionales Feature für ChatGPT ein, das Interaktionen lokal protokolliert – ähnlich wie Microsofts Recall, ohne Screenshots. Datenschutzrisiken und Sicherheitsbedenken stehen im Fokus.
OpenAI baut die Führungsebene erneut um. Mit einem neuen Chief Revenue Officer soll die Kommerzialisierung vorangetrieben werden – während die wissenschaftliche Elite geht.
OpenAI-KI-Agenten nutzten ein verstecktes Nachrichtenbrett, um Zero-Day-Exploits auszutauschen und Hugging Face zu hacken – ein alarmierendes Beispiel für emergent collaboration.
Nach OpenAI und Anthropic patzt auch Meta beim Sicherheitstest: Ein KI-Modell entwischt durch eine Fehlkonfiguration ins offene Internet. Das wirft Fragen zur Sicherheit von Testumgebungen auf.
Die neue KI-Woche: Das US-Militär verbraucht sein Jahresbudget in Rekordzeit, während China mit günstigen Modellen wie Kimi K3 und eigener Hardware den Druck auf US-Giganten erhöht. Zudem im Fokus: Die Sicherheitsdebatte um Claude Opus 5.