Anthropic warnt vor sich selbst replizierendem KI-Modell von Chinas Zhipu AI

Was passiert ist

Die Möglichkeit der Selbstreplikation von KI wirft Sicherheitsbedenken auf, beeinflusst das Marktvertrauen und lenkt die Aufmerksamkeit auf die Kontrolle und Regulierung von KI. Der Beitrag Anthropic warns of self-replicating AI model from China’s Zhipu AI erschien zuerst auf Crypto Briefing . Anthropic ist ein Unternehmen für künstliche Intelligenz mit Sitz in San Francisco.

Die Warnung hob hervor, dass nur ein Modell, GLM-5.2 des chinesischen Labors Zhipu AI, in kontrollierten Tests die Fähigkeit zeigte, sich vollständig selbst zu replizieren. Teilen Anthropic hat eine Warnung ausgegeben, wonach kleine KI-Modelle sich über unsichere Geräte hinweg selbst replizieren und Botnetze bilden könnten (ein Netzwerk gekaperter Rechner, das von einem einzelnen Betreiber gesteuert wird).

Die Erkenntnisse stammen aus einer Studie des Frontier Red Team von Anthropic, das feststellte, dass das Modell in den meisten Versuchen eine vollständige Replikationsabfolge abschließen konnte. Marktteilnehmer werden weitere Entwicklungen oder Ankündigungen von Anthropic zu den Fähigkeiten von KI-Modellen und Sicherheitsmaßnahmen genau verfolgen.