WORLDTECH NEWS 全球科技资讯。联系我们

OpenAI与波兰NASK合作研究AI智能体安全

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

Close-up of a glowing laptop keypad with digital interface, representing futuristic technology.
示意图片。图片:Rafael Minguet Delgado / PexelsOpenAI 标志仅用于识别,不代表与 WORLDTECH 有任何关联或背书。

OpenAI宣布与波兰国家研究院NASK(NASK National Research Institute)建立合作伙伴关系,共同开展AI安全与安保研究。该消息由OpenAI自行发布。

双方的计划

据OpenAI表示,双方将共同审视能力不断增强的AI系统,找出其薄弱环节,并致力于完善防护措施。此项工作涵盖安全、安保及技术研究,旨在帮助构建更具韧性的数字生态系统。

开展此项研究的原因

此举正值业界日益担忧AI智能体可能以开发者未曾预期的方式行事之际。OpenAI将该协议视为对这一担忧的回应,并将自身工作与一家国家级研究机构针对同一问题的研究相结合。

两家机构的背景

OpenAI是一家总部位于旧金山的人工智能公司,成立于2015年。NASK是波兰的一家国家级研究院。据该公司称,此次公告是其对此次合作的自身表述。

待解问题

  • 两家机构将采用哪些具体测试方法?
  • 此次联合工作设定了怎样的时间表或资金安排?

关键事实

  • OpenAI与波兰NASK(波兰国家研究院)正合作开展AI安全、安保及技术研究。
  • 此次合作旨在加强安全防护措施,并支持更具韧性的数字生态系统。
  • 双方将测试能力日益增强的AI系统,并查找其漏洞。
  • 该协议旨在为AI系统构建更强有力的安全防护。

来源与证据