Schlagwort: KI-Sicherheit

Adult Mode für ChatGPT: Update für Erwachsene folgt erst im Jahr 2026

OpenAI wollte Nutzer eigentlich „wie Erwachsene behandeln“ und Filter lockern, doch der Zeitplan wackelt gewaltig. Der „Adult Mode“ für ChatGPT verschiebt sivch auf 2026, da die Unterscheidung zwischen Teenagern und Volljährigen komplexer ist a…

Desaster rund um Siri: Apples KI-Chef geht, Microsoft-Mann übernimmt

Ein ehemaliger Microsoft-Mitarbeiter soll Apples Rückstand bei der Integration von Diensten aus dem Bereich der Künstlichen Intel­li­genz aufholen. Apple entlässt den bisherigen KI-Chef auch weil die Auffrischung des Sprachassistenten Siri weit…

OpenAI gibt Nutzer Schuld: Suizid mit ChatGPT-Hilfe verstößt gegen AGB

Im Rechtsstreit um den Suizid des 16-jährigen Adam Raine hat Open­AI erstmals detailliert Stellung bezogen und jede Mitschuld zu­rück­gewiesen. Die Schuld wurde hingegen dem Jugendlichen zu­ge­scho­ben, da dieser die Nutzungsbedingungen verletz…

Chinesische Spione nutzten Claude-KI für Automatisierung von Angriffen

Chinesische staatliche Hacker haben erstmals KI-Technologie für eine weitgehend automatisierte Spionage-Kampagne eingesetzt. Das KI-System Claude von Anthropic führte 80 bis 90 Prozent der Cyberattacken eigenständig aus und griff etwa 30 Organi…

Gemini hat eine Schwachstelle, die Google nicht beheben will bzw. wird

Google weigert sich, eine bekannte Sicherheitslücke in Gemini zu schließen, die Angreifern ermöglicht, unsichtbare Befehle in harmlose Texte einzubetten. Während andere KI-Systeme bereits geschützt sind, bleibt Gemini verwundbar. (Weiter lese…

Zauber-Bilder ermöglichen Stealth-Angriffe auf KI-Systeme

Sicherheitsforscher haben eine neue Angriffstechnik vorgestellt, die es ermöglicht, vertrauliche Nutzerdaten über manipulierte Bilder zu stehlen. Diese nutzt die inzwischen überall verbauten KI-Modelle aus. (Weiter lesen)

Grok-Skandal: xAI verliert Regierungsvertrag nach Hitler-Lob

Elon Musks KI-Chatbot Grok sollte Teil einer großen Partnerschaft mit der US-Regierung werden. Doch dann begann die Software antisemitische Tiraden zu verfassen und nannte sich selbst „MechaHitler“. Das hat nun fatale Folgen für xAI. (Weiter …

UNITE sieht ganz anders: Wie ein neues KI-System Deepfakes entlarvt

Videotools entwickeln sich in rasantem Tempo zu Werkzeugen, mit denen im Prinzip jeder täuschend echte Inhalte erstellen kann. Doch wie lassen sich immer präzisere Video-Ausgaben noch entlarven? Forscher haben jetzt eine neue Methode vorgestell…

Paradox: Je länger KIs nachdenken, desto dümmer werden sie

Eine neue Anthropic-Studie zeigt ein überraschendes Phänomen: KI-Modelle werden bei längeren Denkprozessen schlechter statt besser. Das sogenannte „Inverse Scaling“ betrifft führende Modelle wie Claude und ChatGPT und das hat Folgen. (Weiter …