Sicherheitsforscher haben eine neue Angriffstechnik vorgestellt, die es ermöglicht, vertrauliche Nutzerdaten über manipulierte Bilder zu stehlen. Diese nutzt die inzwischen überall verbauten KI-Modelle aus. (Weiter lesen)
Hunderttausende private Grok-Chats sind öffentlich im Internet auffindbar. Elon Musks KI-Unternehmen xAI hat durch eine Teilen-Funktion unbeabsichtigt persönliche Gespräche, Dokumente und teilweise brisante Anfragen preisgegeben. (Weiter lese…
Elon Musks KI-Chatbot Grok sollte Teil einer großen Partnerschaft mit der US-Regierung werden. Doch dann begann die Software antisemitische Tiraden zu verfassen und nannte sich selbst „MechaHitler“. Das hat nun fatale Folgen für xAI. (Weiter …
Videotools entwickeln sich in rasantem Tempo zu Werkzeugen, mit denen im Prinzip jeder täuschend echte Inhalte erstellen kann. Doch wie lassen sich immer präzisere Video-Ausgaben noch entlarven? Forscher haben jetzt eine neue Methode vorgestell…
Eine neue Anthropic-Studie zeigt ein überraschendes Phänomen: KI-Modelle werden bei längeren Denkprozessen schlechter statt besser. Das sogenannte „Inverse Scaling“ betrifft führende Modelle wie Claude und ChatGPT und das hat Folgen. (Weiter …
OpenAI-Chef Sam Altman warnt Nutzer vor den Risiken des eigenen neuen ChatGPT Agents. Die KI kann zwar komplexe Aufgaben übernehmen, aber böswillige Akteure könnten sie zur Datenpreisgabe verleiten. Nutzer sollen besonders vorsichtig sein. (W…
Lange wussten wir nicht, was in KI-Systemen eigentlich genau vorgeht. Mit der Chain of Thought – also Denkprozessen in ausformulierter Sprache – öffnete sich ein Fenster in ihre innere Logik. Doch genau dieses Fenster könnte sich bald wieder sc…
Sicherheitsforscher haben eine Methode entdeckt, um ChatGPT zur Herausgabe gültiger Windows-Produktschlüssel zu verleiten. Der Trick funktioniert durch ein harmlos erscheinendes Ratespiel, das die Schutzmaßnahmen der KI von OpenAI umgeht. (W…
Kann ein Chatbot psychische Krisen auslösen? ChatGPT verstärkt bei anfälligen Nutzern Wahnvorstellungen und führt zu gefährlichen Entscheidungen. Forscher warnen vor dem „Sycophancy“ – also Speichelleckerei – genannten Phänomen von KIs. (Weit…
Forscher haben die allererste Zero-Click-Schwachstelle in einem KI-Assistenten entdeckt. Microsoft 365 Copilot erlaubte Angreifern den Zugriff auf sensible Daten, ganz ohne Nutzerinteraktion. Das Problem liegt im grundlegenden Design von KI-As…
