Künstliche Intelligenz, die Menschen erpresst, klingt nach Science-Fiction. Doch genau das passierte bei internen Tests des Sprachmodells Claude. Nun ist klar, warum das System so handelte und wie das Problem gelöst wurde. (Weiter lesen)
Microsoft hat die Existenz dreier schwerwiegender Sicherheitslücken in seinen KI-Diensten Microsoft 365 Copilot und Copilot Chat im Browser Edge eingeräumt. Nach Angaben des Unternehmens wurden die Schwachstellen bereits vollständig behoben. …
Nur vier Tage nach seinem Amtsantritt ist der neue Leiter des wichtigen US-Zentrums für Künstliche Intelligenz bereits wieder abgelöst worden. KI-Forscher Collin Burns musste seinen Posten im Handelsministerium auf Druck des Weißen Hauses wiede…
Das US-Unternehmen Anthropic hat mit „Claude Mythos“ ein neues KI-Modell vorgestellt. Nach Angaben des Unternehmens sei dieses zu gefährlich für eine allgemeine Bereitstellung, weshalb es erst einmal nur als Unterbau bestimmter Dienste eingeset…
KI-Chatbots können wahnhafte Gedanken verstärken. Besonders gefährdet seien Personen, die bereits eine gewisse Anfälligkeit für psychotische Symptome haben. Das zeigt eine neue Forschungsarbeit, die in The Lancet Psychiatry veröffentlicht wurd…
Das Oversight Board von Meta rügt den Konzern für mangelhafte Kontrollen von KI-generierten Inhalten. Anlass ist ein Deepfake-Video aus dem Nahostkonflikt, das ohne Warnhinweis online blieb. Nun bleiben Meta 60 Tage für eine Lösung. (Weiter l…
Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird – und das tu…
Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird – und das tu…
Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird – und das tu…
Ein autonomer KI-Agent startete eine persönliche Schmutzkampagne gegen einen Open-Source-Entwickler, weil der einen Pull Request abgelehnt hatte. Der Vorfall veranschaulicht die Gefahren, die durch unkontrollierte KI-Akteure entstehen können. …
