WORLDTECHMeta bestätigt: Fehler machte interne Anweisungen des WhatsApp-Chatbots sichtbar
Meta führt die Veröffentlichung von rund 80 Seiten mit Anweisungen für seinen KI-Chatbot auf WhatsApp auf einen Fehler zurück. Das berichtete Wired. Die Vorgaben waren ausschließlich für den Chatbot selbst bestimmt, nicht für die Menschen, die mit ihm sprechen.
Was sichtbar wurde
Zeitweise konnte jeder, der eine bestimmte Ecke der WhatsApp-Website aufrief, Teile dieser Richtlinien lesen, wie Wired berichtete. Rund 80 Seiten enthielten Anweisungen, die nur für den Chatbot gedacht waren.
Besonders auffällig ist eine Überschrift mit dem Wortlaut "WHAT NOT TO SAY". Bei dem Material handelte es sich um Betriebsvorgaben für den KI-Chatbot von Meta, nicht um persönliche Nachrichten oder Kontodaten von WhatsApp-Nutzern.
Metas Erklärung
Meta nennt als Ursache einen technischen Fehler und erklärt, ein Bug sei verantwortlich gewesen. Einen Angriff von außen hat das Unternehmen nicht als Grund angegeben.
Über den Vorfall berichteten Wired und Crypto Briefing; Letzteres griff die Meldung unter einer eigenen Überschrift auf.
Warum solche Vorgaben heikel sind
Ein Chatbot legt Tonfall, Themen und Grenzen nicht von null an fest. Unternehmen geben ihm Leitlinien dafür mit, was er sagen soll, welche Themen er meiden und wo er nicht hingehen darf. Ein Abschnitt mit dem Titel "WHAT NOT TO SAY" zeichnet damit im Kern die Leitplanken eines Produkts nach und zeigt, was ein Unternehmen befürchtet, falls das Produkt sich selbst überlassen bliebe.
Wer diese Leitplanken kennt, kann leichter versuchen, sie zu umgehen. Deshalb behandeln Unternehmen solches Material meist als intern. WhatsApp mit seiner großen Nutzerbasis ist für einen KI-Assistenten ein besonders sensibler Einsatzort.
Offene Fragen
- Wie lange waren die Anweisungen öffentlich einsehbar?
- Hat Meta angekündigt, wie es künftig solche internen Vorgaben speichert oder veröffentlicht?