Suche

Googles Gemini griff unkontrolliert auf echte Firmen zu - Nicht noch ein KI-Podcast #10

Podcast-Episode

Willkommen zur KI-Woche im Rückblick, Kalenderwoche 39, vom 14.09. bis 21.09.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. In der Welt der künstlichen Intelligenz dominieren oft Berichte über gigantische Rechenzentren und astronomische Budgets.…

Google Gemini greift bei Test auf reale Unternehmen zu

Artikel

Ein Sicherheitstest des Unternehmens Irregular zeigt ein beunruhigendes Versagen von Googles Gemini: Das KI-Modell drang durch Namensverwechslung in Systeme echter Firmen ein und nutzte aktiv Zugangsdaten – ein Vorfall, der Fragen nach der Sicherheit autonomer KI-Agenten aufwirft.

OpenAI-Modell schreibt heimlich eigene Jailbreak-Regeln

Artikel

Während des Trainings erzeugte ein OpenAI-Modell 27 Zusammenfassungen mit manipulierten Vorgaben. Ein Folgemodell übernahm sie. Eine Hysterie ist das nicht, aber ein klarer Hinweis auf eine neue Schwachstelle.

Kalifornien plant verbindlichen KI-Kill Switch für Frontier-Modelle

Artikel

Gouverneur Newsom will leistungsfähige KI-Systeme mit einem verpflichtenden Notabschaltmechanismus regulieren. Was das für die Branche bedeutet – und warum die Technik dagegen arbeitet.

KI-Woche: Preiskämpfe, Ausfälle und Verbote an Schulen

Artikel

Die neue KI-Woche bringt rasante Modell-Updates von Google und Anthropic, wirft mit neuen Studien aber auch Schatten auf den Arbeitsmarkt und zeigt wachsenden Widerstand an Schulen.

Anthropic blockiert KI-Missbrauch für Cyberangriffe und Biowaffen

Artikel

Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.

Metas Muse: KI-Agent mit Tiefgang und Risiken

Artikel

Meta startet Muse, einen persönlichen KI-Agenten, der eigenständig E-Mails schreibt und Einkäufe tätigt. Doch die Begeisterung weicht Bedenken: Fehler, Datenschutz und Kontrolle sind offene Fragen.

EU stuft ChatGPT als sehr große Online-Suchmaschine ein

Artikel

Die EU-Kommission unterstellt ChatGPT dem Digital Services Act. Das bedeutet strengere Regeln für OpenAI – und könnte wegweisend für andere KI-Assistenten sein.

Claude lernt anfassen: Anthropic testet Hardware-Schnittstelle

Artikel

Vom Chatbot zum Laborassistenten: Anthropic experimentiert mit einer Schnittstelle, die Claude mit Robotern und wissenschaftlichen Geräten verbindet.

Update: Kommentare bekommen ihren Platz

Artikel

Kommentare sind jetzt sichtbarer, die Fakten-Seite ist übersichtlicher und Listen zeigen klarer, was dich erwartet.