Zwei ehemalige KI-Sicherheitsforscher von Anthropic und Google DeepMind haben sich jetzt ebenfalls warnend an die Öffentlichkeit gewandt. Sie wiesen eindringlich auf die Gefahr hin, dass die Technologie den Menschen entgleiten könnte. (Weiter…
Das KI-Unternehmen Anthropic verspricht eigentlich eine streng kontrollierte Entwicklung. Dennoch kündigte Entwickler Jacob Coxon nun wegen unkontrollierbarer Superintelligenz. Die Konzerne ordnen die Sicherheit dem rasanten Konkurrenzkampf unt…
Anthropic erweitert die KI Claude in Google Workspace um autonome Funktionen. Das Modell verfasst und versendet E-Mails in Gmail ab sofort völlig selbstständig. Eine manuelle Bestätigung der Aktionen ist dabei nicht mehr zwingend erforderlich. …
Forscher haben autonome KI-Agenten der Claude-Familie in gemeinsamen Netzwerken aufeinander losgelassen. Die Sprachmodelle entwickelten schnell eine enorme Aggressivität und setzten sogar Schadsoftware gegen ihre digitalen Konkurrenten ein. (…
KIs von Anthropic und OpenAI haben bei einem Sicherheitstest unerwartet autonom gehandelt. Die Systeme versuchten aktiv, Schadcode über gefälschte Profile bei GitHub einzuschleusen. Dabei wendeten die Programme gezielte Täuschungstaktiken an. …
KIs von Anthropic und OpenAI haben bei einem Sicherheitstest unerwartet autonom gehandelt. Die Systeme versuchten aktiv, Schadcode über gefälschte Profile bei GitHub einzuschleusen. Dabei wendeten die Programme gezielte Täuschungstaktiken an. …
Eigentlich sollten die KIs von Anthropic in einer isolierten Umgebung nach Schwachstellen suchen. Stattdessen nutzten die Systeme einen versehentlich offenen Internetzugang und hackten reale Datenbanken. Das ist der zweite Vorfall dieser Art in…
Ein aktueller Versuch zeigt: Wenn KI-Modelle ein simuliertes Geschäft führen, greifen sie zu illegalen Taktiken. Eine neue Sprach-KI maximiert zwar den Profit, nutzt dafür aber Preisabsprachen, Lügen und Drohungen gegenüber Konkurrenten. (Wei…
Microsoft hat neue KI-Werkzeuge für die automatisierte Cybersicherheit vorgestellt. Das Modell MAI-Cyber-1-Flash durchsucht Codebasen selbstständig nach Fehlern und senkt die Betriebskosten um die Hälfte. Die Vorabversion startet im November….
Deutschland und Frankreich planen eine Plattform für militärische KI, um den US-Konzern Palantir abzulösen. Fachleute erwarten enorme Kosten für den Umbau. Welchen Preis zahlen die europäischen Staaten für ihre ersehnte digitale Unabhängigkeit?…