OpenAI对推理轨迹失窃问题的8月修复很快被绕过

事件经过

OpenAI已确认该漏洞、完成了缓解，并为发现该漏洞的人支付了漏洞赏金。问题在于，OpenAI在8月已针对此问题部署了缓解措施，起因是一份名为Stolen Thoughts的研究报告披露了一个类似的漏洞，该漏洞可导致推理轨迹被窃取，可能带来的后果包括大规模数据提取，以及攻击者执行隐形提示注入、植入恶意载荷以污染公开的智能体运行记录。OpenAI是一家总部位于旧金山的人工智能公司。

网络安全研究公司Xint于周一发布了OpenAI API中一个漏洞的细节，该漏洞会泄露前沿OpenAI模型的原始推理轨迹，并揭示了其他数据泄露的风险。OpenAI未回应置评请求。

此类修复后又被绕过的情况正在成为主要AI厂商的普遍现象：AWS本月早些时候报告称，其已在4月修复了一个漏洞，但到了9月又不得不重新修复。绕过缓解措施Xint将当前这一漏洞称为压缩走私（compaction smuggling）。