WORLDTECHMicrosoft warnt: KI-Agenten sind nicht vertrauenswürdig, und baut sie trotzdem weiter aus
Microsoft warnt laut einem Bericht von TechPowerUp, dass Frontier-KI-Modelle und die darauf aufbauenden Agenten nicht vollständig vertrauenswürdig sind. Trotzdem rollt der Konzern KI-Funktionen weiter über seine Produkte aus, auch auf Consumer-PCs.
Warnung neben weiterem Ausbau
TechPowerUp berichtet, Microsoft argumentiere in einem separaten Nachrichtenbeitrag, dass Frontier-Modelle und die darauf laufenden Agenten nicht vertrauenswürdig seien. Der Bericht stellt dies als auffälligen Gegensatz zur fortgesetzten Einbindung von KI in das Produktportfolio dar.
Dem Bericht zufolge bedeutet die Warnung nicht, dass Microsoft die Einführung neuer KI-Funktionen stoppt, obwohl dem Konzern die Risiken dieser Produkte auf Consumer-PCs bewusst sind.
Copilot-Steuerfunktionen unter Windows 11
Der Bericht verweist auf den KI-Begleiter Copilot auf PCs mit Windows 11. Er enthält Funktionen, die einige Aktionen auf dem Rechner steuern können, allerdings nur mit Zustimmung des Nutzers.
Die Haltung des Konzerns beschreibt der Bericht so, dass das Vertrauensproblem nicht darin liegt, dass Modelle von Natur aus bösartig seien. Vielmehr seien Frontier-Modelle unabhängig von ihrer Herkunft nach Darstellung des Berichts nicht vertrauenswürdig.
Offene Fragen
- Wie weit reicht Microsofts Position zur Vertrauenswürdigkeit von Agenten über den zitierten Beitrag hinaus?