规模化代币经济学:借助CUR 2.0和AWS Budgets按IAM主体追踪并限制Amazon Bedrock支出
由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

事件经过
Amazon Bedrock captures the AWS Identity and Access Management (IAM) principal identity, the IAM user or role, for every inference request. 借助仅使用AWS原生功能的方案,你无需为常见场景编写应用代码,即可获得按身份划分的Amazon Bedrock成本可见性以及可强制执行的支出限额。Amazon Web Services是一家总部位于西雅图的云计算公司。
使用IAM主体标签归集支出,通过CUR 2.0或Cost Explorer生成报告,并借助AWS Budgets操作在超过阈值时应用拒绝(Deny)策略进行强制执行。生成式AI支出很难归因。
这种方法可提供近实时的控制,但它需要你自行开发和运营代码。该方法依赖三项要素:Amazon Bedrock自动记录的IAM主体归因;用于报告的AWS成本和使用情况报告(CUR)2.0或AWS Cost Explorer;以及用于强制执行的、带有预算操作的AWS Budgets。
解决方案概述
该解决方案包含三个部分:归因、报告和强制执行。这些过程自动完成,无需更改Amazon Bedrock模型推理调用。
如果多人共用同一角色,可在承担角色时通过会话标签传递额外的按用户细节。如果每个人或应用都有自己的角色,角色上的主体标签即已足够。
将这些标签激活为成本分配标签,然后可在Cost Explorer中以控制台视图查看数据,或在CUR 2.0数据导出中进行逐行明细分析和SQL查询。创建一个范围限定于Amazon Bedrock、并筛选到单一身份或标签值的AWS预算,然后附加一个预算操作,在超过阈值时应用拒绝(Deny)IAM策略。