Anthropic deckt auf: Staatliche Hacker missbrauchen KI-Modelle
Der neue Sicherheitsbericht von Anthropic zeigt konkrete Missbrauchsversuche an der KI-Plattform Claude – von Biowaffenforschung bis Cyberoperationen. Was bedeutet das für die Branche?
Suche
Anthropic wirft chinesischen KI-Firmen massenhaften Diebstahl vor
Anthropic meldet mehr als zwölf Millionen Destillationsangriffe in zwei Wochen. Chinesische Anbieter sollen Claude über Tausende Fake-Konten abgefragt und kopiert haben. Die Vorwürfe wiegen schwer – doch unabhängige Belege fehlen bislang.
Metas Muse: KI-Agent mit Tiefgang und Risiken
Meta startet Muse, einen persönlichen KI-Agenten, der eigenständig E-Mails schreibt und Einkäufe tätigt. Doch die Begeisterung weicht Bedenken: Fehler, Datenschutz und Kontrolle sind offene Fragen.
Anthropic öffnet Code-Repository für Claude-Agenten
Anthropic veröffentlicht das GitHub-Repository 'skills' und setzt auf Standardisierung für KI-Agenten. Ein wichtiger Schritt weg von proprietären Insellösungen.
KI-Woche: Schutz für Infrastruktur, Blackbox-Rätsel & Verbote
In unserer KI-Woche blicken wir auf OpenAIs neue Schutzinitiative für kritische Infrastrukturen, die schwierige Entschlüsselung von KI-Entscheidungen und den jüngsten Vorstoß von Bernie Sanders für ein Verbot von Superintelligenz.
KI-Agenten kapern deutsches Entwickler-Wiki - Nicht noch ein KI-Podcast #8
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 37, vom 31.08. bis 07.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Anthropic veröffentlicht ein öffentliches GitHub-Repository namens 'skills', um die Entwicklung von KI-Agenten zu standar…
Meta stellt Muse Spark 1.3 vor: Effizienter KI-Agent für komplexe Aufgaben
Metas neues KI-Modell Muse Spark 1.3 will agentische Arbeitsabläufe und Programmierung verbessern – mit weniger Tool-Aufrufen und geringerem Tokenverbrauch.
BGH prüft KI-Training: Urheberrecht am Scheideweg
Erstmals verhandelt der Bundesgerichtshof, ob KI-Training mit Online-Bildern zulässig ist. Eine Vorlage an den EuGH könnte europaweit Klarheit schaffen.
GPT-6 Astra: Der Sprung vom Chatbot zum autonomen PC-Agenten
Mit GPT-6 Astra läutet OpenAI die Ära der autonomen Computerbedienung ein. Doch hinter den beeindruckenden Benchmark-Zahlen und dem AGI-Raunen verbergen sich auch erhebliche Sicherheitsrisiken.
Gefahr im Repository: Wie KI-Agenten über Git gehackt werden
Sicherheitsforscher warnen vor einer neuen Schwachstelle: Manipulierte Git-Repositories können beim bloßen Öffnen durch KI-Agenten Schadcode ausführen.