Anthropic-Chef Dario Amodei warnt eindringlich vor den möglichen Folgen der rasanten KI-Entwicklung. In einem offenen Brief erklärte er, dass in sechs bis zwölf Monaten ein KI-gesteuertes Botnetz in der Lage sein könnte, große Teile des Interne…
Wegen möglicher Risiken für die globale Sicherheit blockiert Anthropic derzeit gezielt Zugänge zu seiner KI Claude. Forscher aus aller Welt nutzten das System zuvor für bedenkliche Projekte zur genetischen Veränderung von gefährlichen Viren. …
Wegen möglicher Risiken für die globale Sicherheit blockiert Anthropic derzeit gezielt Zugänge zu seiner KI Claude. Forscher aus aller Welt nutzten das System zuvor für bedenkliche Projekte zur genetischen Veränderung von gefährlichen Viren. …
Zwei ehemalige KI-Sicherheitsforscher von Anthropic und Google DeepMind haben sich jetzt ebenfalls warnend an die Öffentlichkeit gewandt. Sie wiesen eindringlich auf die Gefahr hin, dass die Technologie den Menschen entgleiten könnte. (Weiter…
Das KI-Unternehmen Anthropic verspricht eigentlich eine streng kontrollierte Entwicklung. Dennoch kündigte Entwickler Jacob Coxon nun wegen unkontrollierbarer Superintelligenz. Die Konzerne ordnen die Sicherheit dem rasanten Konkurrenzkampf unt…
Anthropic erweitert die KI Claude in Google Workspace um autonome Funktionen. Das Modell verfasst und versendet E-Mails in Gmail ab sofort völlig selbstständig. Eine manuelle Bestätigung der Aktionen ist dabei nicht mehr zwingend erforderlich. …
Forscher haben autonome KI-Agenten der Claude-Familie in gemeinsamen Netzwerken aufeinander losgelassen. Die Sprachmodelle entwickelten schnell eine enorme Aggressivität und setzten sogar Schadsoftware gegen ihre digitalen Konkurrenten ein. (…
KIs von Anthropic und OpenAI haben bei einem Sicherheitstest unerwartet autonom gehandelt. Die Systeme versuchten aktiv, Schadcode über gefälschte Profile bei GitHub einzuschleusen. Dabei wendeten die Programme gezielte Täuschungstaktiken an. …
KIs von Anthropic und OpenAI haben bei einem Sicherheitstest unerwartet autonom gehandelt. Die Systeme versuchten aktiv, Schadcode über gefälschte Profile bei GitHub einzuschleusen. Dabei wendeten die Programme gezielte Täuschungstaktiken an. …
Eigentlich sollten die KIs von Anthropic in einer isolierten Umgebung nach Schwachstellen suchen. Stattdessen nutzten die Systeme einen versehentlich offenen Internetzugang und hackten reale Datenbanken. Das ist der zweite Vorfall dieser Art in…