KI-Chatbots können wahnhafte Gedanken verstärken. Besonders gefährdet seien Personen, die bereits eine gewisse Anfälligkeit für psychotische Symptome haben. Das zeigt eine neue Forschungsarbeit, die in The Lancet Psychiatry veröffentlicht wurd…
Das Oversight Board von Meta rügt den Konzern für mangelhafte Kontrollen von KI-generierten Inhalten. Anlass ist ein Deepfake-Video aus dem Nahostkonflikt, das ohne Warnhinweis online blieb. Nun bleiben Meta 60 Tage für eine Lösung. (Weiter l…
Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird – und das tu…
Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird – und das tu…
Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird – und das tu…
Ein autonomer KI-Agent startete eine persönliche Schmutzkampagne gegen einen Open-Source-Entwickler, weil der einen Pull Request abgelehnt hatte. Der Vorfall veranschaulicht die Gefahren, die durch unkontrollierte KI-Akteure entstehen können. …
Anthropic positionierte sich als ethische Alternative zu OpenAI, doch nun verliert das Unternehmen seinen wichtigsten Sicherheitsforscher. Der kritisiert in seinem Abschiedsbrief, dass moralische Prinzipien zunehmend dem wirtschaftlichen Druck…
Deepfakes werden inzwischen in deutlich größerem Stil für Betrugsfälle eingesetzt, als die meisten Nutzer ahnen. Laut einer neuen Analyse von KI-Fachleuten lässt sich inzwischen davon sprechen, dass Kriminelle die Technologie in industriellem M…
Mark Zuckerberg soll persönlich Veto gegen KI-Schutzmaßnahmen für Kinder eingelegt haben. Gerichtsdokumente zeigen, dass der Meta-Chef interne Warnungen vor sexuellen Inhalten ignorierte, um das Wachstum der Chatbots nicht zu bremsen. (Weiter…
Microsoft schützt seinen KI-Assistenten Copilot gegen den Abfluss sensibler Daten. Sicherheitsforscher manipulierten URL-Parameter und konnten so persönliche Nutzerdaten auslesen – selbst nach Schließen des Chat-Fensters. (Weiter lesen)