Anthropic blockiert KI-Missbrauch für Cyberangriffe und Biowaffen
Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.
Suche
Anthropic deckt auf: Staatliche Hacker missbrauchen KI-Modelle
Der neue Sicherheitsbericht von Anthropic zeigt konkrete Missbrauchsversuche an der KI-Plattform Claude – von Biowaffenforschung bis Cyberoperationen. Was bedeutet das für die Branche?
Anthropic öffnet Code-Repository für Claude-Agenten
Anthropic veröffentlicht das GitHub-Repository 'skills' und setzt auf Standardisierung für KI-Agenten. Ein wichtiger Schritt weg von proprietären Insellösungen.
KI-Woche: Schutz für Infrastruktur, Blackbox-Rätsel & Verbote
In unserer KI-Woche blicken wir auf OpenAIs neue Schutzinitiative für kritische Infrastrukturen, die schwierige Entschlüsselung von KI-Entscheidungen und den jüngsten Vorstoß von Bernie Sanders für ein Verbot von Superintelligenz.
KI-Agenten kapern deutsches Entwickler-Wiki - Nicht noch ein KI-Podcast #8
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 37, vom 31.08. bis 07.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Anthropic veröffentlicht ein öffentliches GitHub-Repository namens 'skills', um die Entwicklung von KI-Agenten zu standar…
BGH prüft KI-Training: Urheberrecht am Scheideweg
Erstmals verhandelt der Bundesgerichtshof, ob KI-Training mit Online-Bildern zulässig ist. Eine Vorlage an den EuGH könnte europaweit Klarheit schaffen.
GPT-6 Astra: Der Sprung vom Chatbot zum autonomen PC-Agenten
Mit GPT-6 Astra läutet OpenAI die Ära der autonomen Computerbedienung ein. Doch hinter den beeindruckenden Benchmark-Zahlen und dem AGI-Raunen verbergen sich auch erhebliche Sicherheitsrisiken.
Gefahr im Repository: Wie KI-Agenten über Git gehackt werden
Sicherheitsforscher warnen vor einer neuen Schwachstelle: Manipulierte Git-Repositories können beim bloßen Öffnen durch KI-Agenten Schadcode ausführen.
Nvidia will Hugging Face für 14 Milliarden Dollar kaufen
Nvidia verhandelt über die Übernahme von Hugging Face. Ein Deal könnte die KI-Infrastruktur grundlegend verändern – und wirft Fragen zur Offenheit der Plattform auf.
EU stuft ChatGPT als sehr große Online-Suchmaschine ein
Die EU-Kommission unterstellt ChatGPT dem Digital Services Act. Das bedeutet strengere Regeln für OpenAI – und könnte wegweisend für andere KI-Assistenten sein.