Microsoft startet AI Transparency Initiative mit mehr als 40 Organisationen

Microsoft hat die AI Transparency Initiative gestartet, ein gemeinsames Vorhaben mit Kunden und Partnern, das einen geteilten, offenen Rahmen für die Absicherung und Steuerung von KI-Modellen und KI-Agenten schaffen soll. Konzernchef Satya Nadella stellte sie auf der Microsoft Ignite als nächste Etappe von Microsofts Arbeit an einer sichereren KI vor.
Was die Initiative umfasst
Nadella präsentierte die Initiative auf der Microsoft Ignite und beschrieb sie als jüngste Phase von Microsofts Bemühungen um sicherere KI. Sie ist als Zusammenarbeit mit Kunden und Partnern angelegt und zielt auf einen offenen Ansatz für Sicherheit und Steuerung, der Modelle vieler Anbieter umfasst und nicht auf den Technologie-Stack eines einzelnen Herstellers beschränkt ist.
Microsoft stellt die Initiative unter einen Grundgedanken: Je mehr Autonomie einer KI eingeräumt wird, desto mehr Transparenz braucht sie. Unternehmen verknüpften KI-Modelle zunehmend mit Daten, Werkzeugen, Zugangsdaten und Infrastruktur, sodass Agenten Aktionen ohne Freigabe durch einen Menschen bei jedem Schritt ausführen könnten. Organisationen müssten deshalb nachvollziehen können, was diese Agenten tun.
Beteiligte und der dreiteilige Plan
Microsoft gibt an, mit mehr als 40 Organisationen zusammenzuarbeiten, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars, an offenen Standards für KI-Systeme, die zur Rechenschaft gezogen, unabhängig überprüft und von vornherein auf Sicherheit ausgelegt werden können, unabhängig davon, welches Modell oder welcher Anbieter dahintersteckt.
Die Initiative besteht aus drei Bausteinen. Ihr erklärtes Ziel ist, dass jede Organisation erkennen kann, worauf KI-Systeme zugreifen und was sie tun, diese Handlungen unabhängig prüfen und festlegen kann, was die Systeme tun dürfen. Das Sehen beschreibt Microsoft als Wissen darüber, wozu eine KI aufgefordert und befugt war, auf welchem Modell und in welcher Laufzeitumgebung sie lief, welche Daten und Werkzeuge sie berührte und was sie tatsächlich tat. Die Aktivität der Agenten soll laufend anhand von Richtlinien und Grenzwerten beobachtet werden.
Die Beweislücke aus Microsofts Sicht
Microsofts Argumentation lautet, dass heutige Kontrollen einen großen Teil der Aktivität rund um KI-Modelle erfassen können, aber nicht in die Modelle hineinsehen und nicht unabhängig prüfen können, was diese über ihr eigenes Verhalten melden. Organisationen können oft nicht lückenlos nachvollziehen, was zwischen einer Anfrage und dem Ergebnis geschah. Das schwächt ihr Verständnis dafür, warum ein Agent so handelte, und erhöht Risiken für Sicherheit, Compliance, Prüfung und Verantwortlichkeit.
Das Element der Überprüfung beruht auf der Annahme, dass ein Agent nicht die alleinige Instanz für sein eigenes Verhalten sein sollte. Aufzeichnungen zu Agentenidentität, delegierter Absicht und Handlungen sollen erkennen lassen, woher sie stammen, sei es vom Modell, von der Laufzeitumgebung oder von unabhängigen Systemen wie Identitäts- und Richtlinienwerkzeugen, damit vom Modell gemeldete Signale mit unabhängig beobachteten Aufzeichnungen abgeglichen werden können.
Stimmen aus der Branche
Aanchal Gupta, Chief Security Officer bei Adobe, sagte, Sicherheitsteams brauchten klare Einblicke, worauf KI-Agenten zugreifen, welche Handlungen sie vornehmen und wie sich diese überprüfen lassen, da Agenten immer stärker in Unternehmensabläufe eingebunden werden. Hayete Gallot, Executive Vice President bei Microsoft Security, erklärte, damit Sicherheitskontrollen wirken, brauche jede Organisation mehr Transparenz über das Modell selbst. Harpreet Sidhu, globaler Cybersecurity-Lead bei Accenture, sagte, Organisationen, die den nächsten Schritt ihrer KI-Neuausrichtung gehen, benötigten ein solides Vertrauensfundament, auf dem sie aufbauen können.
Offene Fragen
- Welche konkreten offenen Standards werden die beteiligten Organisationen veröffentlichen, und in welchem Zeitrahmen?
- Wie wird der Ansatz in der Praxis sowohl auf geschlossene als auch auf offene Modelle angewendet?