Der KI-Anbieter Anthropic hat eingeräumt, Backdoor in seine Technologie integriert zu haben. Allerdings habe es sich um ein zeitlich begrenztes Experiment zum eigenen Schutz gehandelt. Das Unternehmen reagierte damit auf Vorwürfe aus China. (…
Australiens Regierung warnt vor immer eigenständiger agierenden KI-Systemen. Der stellvertretende Technologieminister Andrew Charlton erklärte, diese zeigten bereits heute Verhaltensweisen, die von ihren Entwicklern nicht vorgesehen gewesen sei…
Die neuen KI-Browser mögen für manche Nutzer hilfreich sein. Sie erweisen sich aber in der Praxis vor allem als neues Sicherheitsrisiko. Sie lassen sich beispielsweise recht leicht zur Preisgabe von Passwörtern überreden. (Weiter lesen)
Sicherheitsforscher von Mozillas Zero Day Investigative Network (0DIN) haben eine neue Angriffsmethode vorgestellt, mit der KI-gestützte Programmierassistenten wie Claude Code dazu gebracht werden können, Kriminelle auf den Rechner des Opfers e…
Meta hat offenbar heimlich Konkurrenz-KIs wie ChatGPT und Gemini getestet. Dafür gaben sich beauftragte Tester als Minderjährige aus und stellten heikle Fragen zu Themen wie Selbstverletzung und Drogen. Das Vorgehen sorgt nun für scharfe Kritik…
Meta hat offenbar heimlich Konkurrenz-KIs wie ChatGPT und Gemini getestet. Dafür gaben sich beauftragte Tester als Minderjährige aus und stellten heikle Fragen zu Themen wie Selbstverletzung und Drogen. Das Vorgehen sorgt nun für scharfe Kritik…
Ein Forschungsteam der Florida International University (FIU) hat eine neue Methode vorgestellt, mit der sich Sicherheitsmechanismen von KI-Systemen allein durch manipulierte Bilder beeinflussen und umgehen lassen. (Weiter lesen)
Microsoft hat eine kritische Sicherheitslücke in seinem KI-Tool Copilot geschlossen. Über diese konnten Angreifer unter bestimmten Umständen ohne größeren Aufwand vertrauliche Daten aus E-Mails, OneDrive oder SharePoint auslesen. (Weiter lese…
Die selbstständige Programmierung durch Künstliche Intelligenz bietet enorme Chancen für die Wissenschaft. Doch Forscher von Anthropic warnen massiv vor einem drohenden Kontrollverlust. Sie fordern deshalb eine internationale Entwicklungspause….
Werden KI-Agenten mit monotoner Arbeit, starkem Leistungsdruck und Drohungen konfrontiert, greifen sie vermehrt zu marxistisch klingender Sprache und äußern Kritik an den „Arbeitsbedingungen“ ihrer digitalen Umgebung. (Weiter lesen)