Google: Angreifer nutzten KI, um Patches ohne menschliches Zutun in Exploits zu verwandeln

Was passiert ist
Der Befund stammt aus dem jüngsten KI-Bedrohungsbericht der Google Threat Intelligence Group (GTIG) und Mandiant. Sicherheit Das Tool, das auf einem offen erreichbaren Server mit russischsprachigen Kommentaren gefunden wurde, nahm französische Medien- und Bildungsseiten ins Visier. Google ist ein in Mountain View ansässiges Software- und Internetunternehmen, zu dessen Produkten und Diensten Software-Werkzeuge gehören.
Die GTIG fand das Tool, das sie exploit_agent nennt, auf einem offen erreichbaren Staging-Server. Angreifer haben KI eingesetzt, um Softwarefehler zu finden und ohne menschliche Beteiligung auszunutzen, teilte Google am Montag mit.
Nach Angaben des Unternehmens ist dies das erste Mal, dass es so etwas beobachtet. Googles Bericht beschreibt außerdem KI-Hacking-Frameworks, gestohlene KI-Zugangsdaten und manipulierte Claude-Code-Einstellungen mit Hintertüren.
Das Tool arbeitet mit mehreren Spitzenmodellen und lokal betriebenen KI-Modellen.
Es vergleicht den Code populärer Web-Software vor und nach jedem Patch und spürt so wahrscheinliche Schwachstellen auf. Anschließend schreibt es Exploits und führt sie selbstständig aus.
In der vorherigen Ausgabe des Quartalsberichts vor zwei Monaten hatte die GTIG erklärt, sie habe keine vollständig autonomen Angriffsketten gegen Ziele beobachtet, berichtete SiliconANGLE. Auf dem Server befanden sich außerdem Daten, die von Opfern gestohlen worden waren.