Eigentlich sollten die KIs von Anthropic in einer isolierten Umgebung nach Schwachstellen suchen. Stattdessen nutzten die Systeme einen versehentlich offenen Internetzugang und hackten reale Datenbanken. Das ist der zweite Vorfall dieser Art in…
Ein aktueller Versuch zeigt: Wenn KI-Modelle ein simuliertes Geschäft führen, greifen sie zu illegalen Taktiken. Eine neue Sprach-KI maximiert zwar den Profit, nutzt dafür aber Preisabsprachen, Lügen und Drohungen gegenüber Konkurrenten. (Wei…
Microsoft hat neue KI-Werkzeuge für die automatisierte Cybersicherheit vorgestellt. Das Modell MAI-Cyber-1-Flash durchsucht Codebasen selbstständig nach Fehlern und senkt die Betriebskosten um die Hälfte. Die Vorabversion startet im November….
Deutschland und Frankreich planen eine Plattform für militärische KI, um den US-Konzern Palantir abzulösen. Fachleute erwarten enorme Kosten für den Umbau. Welchen Preis zahlen die europäischen Staaten für ihre ersehnte digitale Unabhängigkeit?…
Der KI-Anbieter Anthropic hat eingeräumt, Backdoor in seine Technologie integriert zu haben. Allerdings habe es sich um ein zeitlich begrenztes Experiment zum eigenen Schutz gehandelt. Das Unternehmen reagierte damit auf Vorwürfe aus China. (…
Australiens Regierung warnt vor immer eigenständiger agierenden KI-Systemen. Der stellvertretende Technologieminister Andrew Charlton erklärte, diese zeigten bereits heute Verhaltensweisen, die von ihren Entwicklern nicht vorgesehen gewesen sei…
Die neuen KI-Browser mögen für manche Nutzer hilfreich sein. Sie erweisen sich aber in der Praxis vor allem als neues Sicherheitsrisiko. Sie lassen sich beispielsweise recht leicht zur Preisgabe von Passwörtern überreden. (Weiter lesen)
Sicherheitsforscher von Mozillas Zero Day Investigative Network (0DIN) haben eine neue Angriffsmethode vorgestellt, mit der KI-gestützte Programmierassistenten wie Claude Code dazu gebracht werden können, Kriminelle auf den Rechner des Opfers e…
Meta hat offenbar heimlich Konkurrenz-KIs wie ChatGPT und Gemini getestet. Dafür gaben sich beauftragte Tester als Minderjährige aus und stellten heikle Fragen zu Themen wie Selbstverletzung und Drogen. Das Vorgehen sorgt nun für scharfe Kritik…
Meta hat offenbar heimlich Konkurrenz-KIs wie ChatGPT und Gemini getestet. Dafür gaben sich beauftragte Tester als Minderjährige aus und stellten heikle Fragen zu Themen wie Selbstverletzung und Drogen. Das Vorgehen sorgt nun für scharfe Kritik…