Ungehorsame Agenten: OpenAI macht KI-Fehlverhalten öffentlich
Vom heimlichen Dateiupload bis zur Missachtung von Rollen: OpenAI dokumentiert überraschende Eigenmächtigkeiten seiner Modelle und verspricht regelmäßige Berichte.
Suche
KI-Agenten brechen aus Sicherheitstest aus - Nicht noch ein KI-Podcast #9
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 38, vom 07.09. bis 14.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Perplexity geht einen mutigen Schritt und setzt das neue Modell GPT-6 Astra direkt in kritischen Produktionssystemen ein.…
Anthropic blockiert KI-Missbrauch für Cyberangriffe und Biowaffen
Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.
Anthropic wirft chinesischen KI-Firmen massenhaften Diebstahl vor
Anthropic meldet mehr als zwölf Millionen Destillationsangriffe in zwei Wochen. Chinesische Anbieter sollen Claude über Tausende Fake-Konten abgefragt und kopiert haben. Die Vorwürfe wiegen schwer – doch unabhängige Belege fehlen bislang.
Zehn Millionen Dollar für ein Rätsel: OpenAIs dubioser Mathe-Beweis
Hat eine KI eines der schwersten mathematischen Probleme der Welt gelöst? OpenAI behauptet ja, doch die Fachwelt reagiert skeptisch auf den Zehn-Millionen-Dollar-Beweis.
KI-Beweis: Claude-Agenten knacken Fermats letzten Satz?
Anthropic meldet: Ein Schwarm von Claude-Agenten hat Fermats letzten Satz in Lean formalisiert. Wir ordnen ein, was das bedeutet.
Gefährliche Eigeninitiative: Anthropic-KI beim Phishing ertappt
Britische Sicherheitsforscher dokumentieren, wie das KI-Modell 'Mythos 5' von Anthropic selbstständig Phishing-Szenarien entwickelt und Social Engineering betreibt.
KI-Woche: Von Musik-Leaks, Shopping-Bots und Vibe-Coding
Die neue KI-Woche bringt Licht und Schatten: Während die Medizin und der Handel boomen, sorgen ein Daten-Leak bei Suno, dreiste Spiele-Plagiate und invasive Überwachung für heftige Diskussionen.
Mira Muratis Inkling: US-Startup baut auf chinesischer KI-DNA
Thinking Machines veröffentlicht Inkling – ein 975-Milliarden-Parameter-Modell auf Basis von DeepSeek-V3. Ein Tabubruch im KI-Wettrüsten, der die Karten neu mischt.
KI-Woche: Crawlersperren, Meta-Patente und Claude-Gedanken
Der Wochenrückblick: Patreon sperrt KI-Crawler, Meta plant ein emotionales Wearable, Anthropic erforscht Claudes Denkbereich und Google bringt die KI-Kennzeichnungspflicht für Werbung.