WORLDTECHTencent-KI-Chef warnt: Modelle bald auch in der Biologie riskant
Tencents oberster KI-Wissenschaftler Yao Shunyu warnt, dass KI-Modelle bald auch in der Biologie realen Schaden anrichten können, so wie sie es bereits in der Cybersicherheit können. Er äußerte sich bei einer Wissenschaftsveranstaltung in Hongkong, wie die South China Morning Post berichtet.
Was Yao in Hongkong sagte
Bei einer Wissenschaftsveranstaltung in Hongkong am Samstag erklärte Yao laut South China Morning Post, dass die Cyberfähigkeiten von KI-Modellen und bald auch ihre biologischen Fähigkeiten eine Schwelle erreichen würden, ab der Schaden tatsächlich möglich sei. Die Zeitung ist die einzige Quelle für diese Äußerungen.
Yao argumentierte außerdem, Biologierisiken könnten schwerer zu kontrollieren sein als Cyberrisiken, ein Punkt, den er im selben Auftritt machte.
Zeitliche Nähe zur Hy4-Einführung
Die Äußerungen fielen nur wenige Tage nach der Einführung von Hy4, das Tencent ohne offensive Hacking-Daten trainiert haben will. Die Warnung steht damit in zeitlicher Nähe zu einer neuen Modellveröffentlichung des Unternehmens.
Sicherheitspflichten bei offenen Modellen
Chinesische Unternehmen, die offene Modelle veröffentlichen, die jeder herunterladen und verändern kann, müssten Sicherheit sehr ernst nehmen, sagte Yao. Gerade offene Modelle lassen sich nach der Veröffentlichung verändern, weshalb er diese Entwickler besonders nannte.