Ein Forschungsteam der Florida International University (FIU) hat eine neue Methode vorgestellt, mit der sich Sicherheitsmechanismen von KI-Systemen allein durch manipulierte Bilder beeinflussen und umgehen lassen. (Weiter lesen)
Microsoft hat eine kritische Sicherheitslücke in seinem KI-Tool Copilot geschlossen. Über diese konnten Angreifer unter bestimmten Umständen ohne größeren Aufwand vertrauliche Daten aus E-Mails, OneDrive oder SharePoint auslesen. (Weiter lese…
Die selbstständige Programmierung durch Künstliche Intelligenz bietet enorme Chancen für die Wissenschaft. Doch Forscher von Anthropic warnen massiv vor einem drohenden Kontrollverlust. Sie fordern deshalb eine internationale Entwicklungspause….
Werden KI-Agenten mit monotoner Arbeit, starkem Leistungsdruck und Drohungen konfrontiert, greifen sie vermehrt zu marxistisch klingender Sprache und äußern Kritik an den „Arbeitsbedingungen“ ihrer digitalen Umgebung. (Weiter lesen)
Künstliche Intelligenz, die Menschen erpresst, klingt nach Science-Fiction. Doch genau das passierte bei internen Tests des Sprachmodells Claude. Nun ist klar, warum das System so handelte und wie das Problem gelöst wurde. (Weiter lesen)
Microsoft hat die Existenz dreier schwerwiegender Sicherheitslücken in seinen KI-Diensten Microsoft 365 Copilot und Copilot Chat im Browser Edge eingeräumt. Nach Angaben des Unternehmens wurden die Schwachstellen bereits vollständig behoben. …
Nur vier Tage nach seinem Amtsantritt ist der neue Leiter des wichtigen US-Zentrums für Künstliche Intelligenz bereits wieder abgelöst worden. KI-Forscher Collin Burns musste seinen Posten im Handelsministerium auf Druck des Weißen Hauses wiede…
Das US-Unternehmen Anthropic hat mit „Claude Mythos“ ein neues KI-Modell vorgestellt. Nach Angaben des Unternehmens sei dieses zu gefährlich für eine allgemeine Bereitstellung, weshalb es erst einmal nur als Unterbau bestimmter Dienste eingeset…
KI-Chatbots können wahnhafte Gedanken verstärken. Besonders gefährdet seien Personen, die bereits eine gewisse Anfälligkeit für psychotische Symptome haben. Das zeigt eine neue Forschungsarbeit, die in The Lancet Psychiatry veröffentlicht wurd…
Das Oversight Board von Meta rügt den Konzern für mangelhafte Kontrollen von KI-generierten Inhalten. Anlass ist ein Deepfake-Video aus dem Nahostkonflikt, das ohne Warnhinweis online blieb. Nun bleiben Meta 60 Tage für eine Lösung. (Weiter l…