WORLDTECHTokenomics im großen Maßstab: Amazon-Bedrock-Ausgaben pro IAM-Prinzipal mit CUR 2.0 und AWS Budgets erfassen und begrenzen
Was passiert ist
Amazon Bedrock erfasst bei jeder Inferenzanfrage die Identität des AWS Identity and Access Management (IAM)-Prinzipals, also des IAM-Benutzers oder der IAM-Rolle. Mit ausschließlich AWS-eigenen Funktionen erhalten Sie für jede Identität Transparenz über die Amazon-Bedrock-Kosten und durchsetzbare Ausgabenlimits, und im gängigen Fall ist dafür kein Anwendungscode nötig. Amazon Web Services ist ein Cloud-Computing-Unternehmen mit Sitz in Seattle.
Die Ausgaben werden über IAM-Prinzipal-Tags zugeordnet, mit CUR 2.0 oder Cost Explorer berichtet und mit AWS-Budgetaktionen durchgesetzt, die eine Deny-Richtlinie anwenden, sobald ein Schwellenwert überschritten wird. Ausgaben für generative KI sind nur schwer zuzuordnen.
Dieser Ansatz ermöglicht eine Steuerung nahezu in Echtzeit, erfordert jedoch Code, den Sie selbst besitzen und betreiben müssen. Der Ansatz stützt sich auf drei Elemente: die IAM-Prinzipal-Zuordnung, die Amazon Bedrock automatisch erfasst; AWS Cost and Usage Reports (CUR) 2.0 oder AWS Cost Explorer für die Berichterstattung; sowie AWS Budgets mit Budgetaktionen für die Durchsetzung.
Lösungsüberblick: Die Lösung besteht aus drei Teilen: zuordnen, berichten und durchsetzen. Dies geschieht automatisch, ohne Änderungen an Ihren Modellinferenzaufrufen in Amazon Bedrock.
Teilen sich mehrere Personen eine Rolle, fügen Sie detailliertere Angaben pro Benutzer mit Sitzungs-Tags hinzu, die bei der Übernahme der Rolle übergeben werden. Hat jede Person oder Anwendung eine eigene Rolle, genügen Prinzipal-Tags auf der Rolle.
Aktivieren Sie diese Tags als Kostenzuordnungs-Tags und lesen Sie die Daten entweder in Cost Explorer für eine reine Konsolenansicht oder in einem CUR-2.0-Datenexport für detaillierte Einzelpositionsanalysen und SQL-Abfragen. Erstellen Sie ein AWS-Budget, das auf Amazon Bedrock beschränkt und auf eine Identität oder einen Tag-Wert gefiltert ist, und hängen Sie anschließend eine Budgetaktion an, die eine IAM-Deny-Richtlinie anwendet, sobald der Schwellenwert überschritten wird.