腾讯AI负责人警告生物领域的模型风险正在逼近

姚顺雨在香港的发言

据《南华早报》报道，姚顺雨周六在香港一场科学活动上表示，AI模型的网络能力，以及很快将出现的生物能力，将达到一个门槛，届时危害将真正成为可能。该媒体是唯一报道这一言论的来源。

姚顺雨还在同一场合提出，生物风险可能比网络风险更难管控。

与Hy4发布同期

此番言论发表前数日，腾讯推出了Hy4，该公司表示其训练未使用进攻性黑客数据。这一时间安排使姚顺雨的警告与该公司的一次新模型发布相互映照。

开源模型的安全责任

姚顺雨表示，发布开源模型的中国企业需要非常重视安全问题，开源模型任何人都可以下载和修改。开源模型在发布后仍可能被改动，这也是他特别点名这类开发者的原因。