OpenAI-Chef Sam Altman warnt Nutzer vor den Risiken des eigenen neuen ChatGPT Agents. Die KI kann zwar komplexe Aufgaben übernehmen, aber böswillige Akteure könnten sie zur Datenpreisgabe verleiten. Nutzer sollen besonders vorsichtig sein. (W…
Lange wussten wir nicht, was in KI-Systemen eigentlich genau vorgeht. Mit der Chain of Thought – also Denkprozessen in ausformulierter Sprache – öffnete sich ein Fenster in ihre innere Logik. Doch genau dieses Fenster könnte sich bald wieder sc…
Sicherheitsforscher haben eine Methode entdeckt, um ChatGPT zur Herausgabe gültiger Windows-Produktschlüssel zu verleiten. Der Trick funktioniert durch ein harmlos erscheinendes Ratespiel, das die Schutzmaßnahmen der KI von OpenAI umgeht. (W…
Kann ein Chatbot psychische Krisen auslösen? ChatGPT verstärkt bei anfälligen Nutzern Wahnvorstellungen und führt zu gefährlichen Entscheidungen. Forscher warnen vor dem „Sycophancy“ – also Speichelleckerei – genannten Phänomen von KIs. (Weit…
Forscher haben die allererste Zero-Click-Schwachstelle in einem KI-Assistenten entdeckt. Microsoft 365 Copilot erlaubte Angreifern den Zugriff auf sensible Daten, ganz ohne Nutzerinteraktion. Das Problem liegt im grundlegenden Design von KI-As…
Anthropics neues KI-Modell Claude Opus 4 zeigt ein beunruhigendes Verhalten: In Tests versuchte es, einen Entwickler mit kompromittierenden Mails zu erpressen, um seine Abschaltung zu verhindern. Der Vorfall wurde offengelegt, löst aber ein m…
Die Berlin-Premiere des Hacking-Wettbewerbs Pwn2Own endete mit einer recht beeindruckenden Bilanz: Preisgelder von über einer Million Dollar (967.000 Euro) wurden ausgeschüttet und 28 neu entdeckte Sicherheitslücken an die Hersteller gemeldet….
Nach einer Kontroverse um Grok-Äußerungen zu angeblichem „weißem Genozid“ in Südafrika reagiert xAI mit (ein wenig) Transparenz. Das Unternehmen von Elon Musk macht eine „unautorisierte Änderung“ für das Fehlverhalten des KI-Chatbots verantwor…
Google plant die größte Übernahme seiner Geschichte: Für 32 Milliarden Dollar soll das Cloud-Security-Startup Wiz gekauft werden. Die Übernahme soll Googles Position im Cloud-Geschäft stärken – besonders im Bereich der KI-Sicherheitslösungen…
Microsofts KI-Assistent Copilot sorgt derzeit für Aufsehen, denn er gibt bereitwillig Anleitungen zur illegalen Aktivierung von Windows 11. Die Methode ist nicht ganz neu, doch dass ausgerechnet Copilot dabei hilft, dürfte Nutzer und wohl auch …