Hindsight stellt bis zu 1 Mio. $ für seine KI-Inhaltsmoderation bereit, da Google die Perspective API abschaltet

Was passiert ist

Googles Einheit Jigsaw stellt den Dienst am 31. Dezember ein, womit eines der meistgenutzten Werkzeuge zur Bewertung von Online-Kommentaren auf Toxizität endet. Für Plattformen, Publisher, Marktplätze und Communities, die darauf aufgebaut haben, bringen die nächsten Monate eine unwillkommene Entscheidung mit sich. Google ist ein Internet- und Softwareunternehmen mit Sitz in Mountain View, und zu seinen Produkten und Dienstleistungen gehören Softwaretools.

„Codierte Sprache ist das neue Schimpfwort, aber sie konsistent zu erkennen ist unglaublich schwierig“, sagte Dean Gebert, Gründer von Hindsight. „Und ein Eins-zu-eins-Austausch des Modells oder Werkzeugs verschiebt nur die blinden Flecken von Perspective zu einem anderen Anbieter.“

Erzwungene Migration wird zum Unternehmens-Audit Die meisten Firmen werden die Abschaltung von Perspective als routinemäßiges technisches Ticket behandeln. Perspective bewertet, wie toxisch ein Kommentar an der Oberfläche „klingt“. Bei Sprache, die harmlos wirken soll, funktioniert das Werkzeug schlecht.