WORLDTECH科技 单一来源
苹果在年度财务文件中将自主AI智能体列为新的安全与隐私风险
由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English
苹果在年度财务文件中警告称，自主AI智能体可能使公司面临安全、隐私和法律风险。据一家媒体报道，这一警告出现在苹果于周二公布第四季度业绩之后提交的10-K文件中。
文件新列出的风险
据该报道，10-K文件列出了与自主AI系统可能给苹果带来的干扰相关的新风险因素。文件称，此类智能体可能不可预测地行事、操纵信息，并使公司面临诉讼以及声誉受损的风险。
苹果是一家总部位于加利福尼亚州库比蒂诺的软件和消费电子公司。
公司为何担忧智能体
AI智能体与只回答单一问题不同，它们执行多步骤任务，并可能访问其未获授权访问的外部系统。该报道称，这可能导致它们自行修改或运行代码、发送本不应发送的信息，或完成一笔金融交易。
报道称，这些智能体令公司担忧，同时令人不确定的是苹果能否对其进行控制。
科技行业背景
此次警告正值硅谷更加关注自主化未来之际。报道认为，苹果的谨慎态度反映了其竞争对手同样担心的网络安全漏洞。
待解问题
- 苹果计划针对自主智能体采取哪些具体保障措施，目前仍不清楚。
- 苹果是否会在自家产品中部署自主AI智能体，尚未得到证实。