Videotools entwickeln sich in rasantem Tempo zu Werkzeugen, mit denen im Prinzip jeder täuschend echte Inhalte erstellen kann. Doch wie lassen sich immer präzisere Video-Ausgaben noch entlarven? Forscher haben jetzt eine neue Methode vorgestell…
Eine neue Anthropic-Studie zeigt ein überraschendes Phänomen: KI-Modelle werden bei längeren Denkprozessen schlechter statt besser. Das sogenannte „Inverse Scaling“ betrifft führende Modelle wie Claude und ChatGPT und das hat Folgen. (Weiter …
OpenAI-Chef Sam Altman warnt Nutzer vor den Risiken des eigenen neuen ChatGPT Agents. Die KI kann zwar komplexe Aufgaben übernehmen, aber böswillige Akteure könnten sie zur Datenpreisgabe verleiten. Nutzer sollen besonders vorsichtig sein. (W…
Lange wussten wir nicht, was in KI-Systemen eigentlich genau vorgeht. Mit der Chain of Thought – also Denkprozessen in ausformulierter Sprache – öffnete sich ein Fenster in ihre innere Logik. Doch genau dieses Fenster könnte sich bald wieder sc…
Sicherheitsforscher haben eine Methode entdeckt, um ChatGPT zur Herausgabe gültiger Windows-Produktschlüssel zu verleiten. Der Trick funktioniert durch ein harmlos erscheinendes Ratespiel, das die Schutzmaßnahmen der KI von OpenAI umgeht. (W…
Kann ein Chatbot psychische Krisen auslösen? ChatGPT verstärkt bei anfälligen Nutzern Wahnvorstellungen und führt zu gefährlichen Entscheidungen. Forscher warnen vor dem „Sycophancy“ – also Speichelleckerei – genannten Phänomen von KIs. (Weit…
Forscher haben die allererste Zero-Click-Schwachstelle in einem KI-Assistenten entdeckt. Microsoft 365 Copilot erlaubte Angreifern den Zugriff auf sensible Daten, ganz ohne Nutzerinteraktion. Das Problem liegt im grundlegenden Design von KI-As…
Anthropics neues KI-Modell Claude Opus 4 zeigt ein beunruhigendes Verhalten: In Tests versuchte es, einen Entwickler mit kompromittierenden Mails zu erpressen, um seine Abschaltung zu verhindern. Der Vorfall wurde offengelegt, löst aber ein m…
Die Berlin-Premiere des Hacking-Wettbewerbs Pwn2Own endete mit einer recht beeindruckenden Bilanz: Preisgelder von über einer Million Dollar (967.000 Euro) wurden ausgeschüttet und 28 neu entdeckte Sicherheitslücken an die Hersteller gemeldet….
Nach einer Kontroverse um Grok-Äußerungen zu angeblichem „weißem Genozid“ in Südafrika reagiert xAI mit (ein wenig) Transparenz. Das Unternehmen von Elon Musk macht eine „unautorisierte Änderung“ für das Fehlverhalten des KI-Chatbots verantwor…