TypeSafes Jev ist laut Sicherheitsanbieter „noch anfälliger für Angriffe“ als LLMs

Was passiert ist

Obwohl das Jev-Modell, das TypeSafe letzten Monat eingeführt hat, gegenüber herkömmlichen LLMs erhebliche Vorteile beansprucht, argumentiert ein am Mittwoch veröffentlichter Sicherheitsbericht, dass sein schlanker Ansatz es gegenüber herkömmlichen LLMs bei bestimmten Angriffsarten verwundbarer macht. „In manchen Fällen ist [Jev] sogar anfälliger für Angriffe, wobei sowohl adversariale Textangriffe als auch Prompt Injection die Ausgaben des Modells stören und zu falschen und potenziell verheerenden Aktionen führen können“, heißt es im Blogbeitrag der Forscher von HiddenLayer.

TypeSafe hat auf mehrere Anfragen zur Stellungnahme nicht reagiert. Es gibt offenbar eine Debatte darüber, ob Jev technisch gesehen ein großes Sprachmodell (LLM) ist: TypeSafe deutet an, dass dies nicht der Fall sei, HiddenLayer hingegen sagt, dass es offenbar eines sei. TypeSafe hat sogar einen Namen für die Kategorie geprägt: System One, was TypeSafe als „eine neue Klasse von Frontier-Modellen beschreibt, die dafür entwickelt wurden, schnelle, strukturierte Entscheidungen zu treffen, die Software direkt nutzen kann“.