Schlagwort: Prompt Injection

Chinesische Spione nutzten Claude-KI für Automatisierung von Angriffen

Chinesische staatliche Hacker haben erstmals KI-Technologie für eine weitgehend automatisierte Spionage-Kampagne eingesetzt. Das KI-System Claude von Anthropic führte 80 bis 90 Prozent der Cyberattacken eigenständig aus und griff etwa 30 Organi…

Experten schlagen Alarm: OpenAIs KI-Browser voller Sicherheitslücken

OpenAI stellte letzte Woche seinen neuen KI-Browser Atlas vor. Schon wenige Stunden später entdeckten Sicherheitsexperten mehrere kritische Schwachstellen. Prompt-Injection-Angriffe können den Browser gegen seine eigenen Nutzer wenden. (Weite…

„Revolutionärer“ Atlas-Browser ist nur Chromium mit Datenschutz-Fails

OpenAI hat mit ChatGPT Atlas einen eigenen Webbrowser vorgestellt, der nach Angaben des Unternehmens das Surfen im Internet neu definieren soll. In der Realität bekommt man aber ein modifiziertes Chromium mit integriertem Chatbot und Datenschut…

Jeder Angriff anders: Erste KI-generierte Ransomware im Umlauf

Sicherheitsforscher haben die Ransomware entdeckt, deren Schadcode eindeutig von einer KI generiert wurde. Es ist damit zu rechnen, dass dadurch viel häufigere und schnellere Betrugs-Kampagnen zu sehen sein werden. (Weiter lesen)

Zauber-Bilder ermöglichen Stealth-Angriffe auf KI-Systeme

Sicherheitsforscher haben eine neue Angriffstechnik vorgestellt, die es ermöglicht, vertrauliche Nutzerdaten über manipulierte Bilder zu stehlen. Diese nutzt die inzwischen überall verbauten KI-Modelle aus. (Weiter lesen)

Betrügen war nie einfacher: KI-Browser sind ein Segen für Scammer

KI-Browser wie Perplexitys Comet versprechen autonomes Surfen – doch Sicherheitsforscher zeigen alarmierende Schwachstellen auf. Denn die neuen, angeblichen „intelligenten“ Browser fallen auf Phishing-Seiten herein und geben sogar Zahlungsdaten…

Gefangen im eigenen Zuhause: Gemini lässt Hacker Smart Home kapern

Sicherheitsforscher demonstrieren, wie sich mit Googles KI-Assistent Gemini über manipulierte Kalendereinträge Smart-Home-Geräte fernsteuern lassen. Die Angriffe erfolgen verzögert und sind ein echtes Risiko für die Nutzer in ihren eigenen vier…

An Scannern vorbei: Kriminelle verstecken Malware in DNS-Einträgen

Kriminelle haben es geschafft, Malware in DNS-Einträgen zu verstecken. Dies ist besonders effektiv, da die Anfragen zur Adressauflösung im Vergleich zu Web- und E-Mail-Inhalten kaum von Filtern überwacht werden. (Weiter lesen)