企业

OpenAI 紧锣密鼓:组建新安全团队,启动下一代前沿模型训练

新委员会将负责向OpenAI董事会提出“有关OpenAI项目和运营的关键安全决策”的建议。

当地时间5月28日,OpenAI在官网宣布,董事会成立安全与安保委员会。

新委员会将负责向OpenAI董事会提出“有关OpenAI项目和运营的关键安全决策”的建议。

委员会成员包括Sam Altman、Bret Taylor、Adam D’Angelo等。

与此同时,OpenAI安全团队的前联合负责人Jan Leike在社交媒体宣布,他将加入OpenAI的竞争对手Anthropic。

本月早些时候在OpenAI超级对齐团队(Superalignment)另一位负责人Ilya Sutskever从公司辞职后,团队解散了。离开时,雷克批评了OpenAI,称“安全文化和流程已经让位于靓丽的产品。

此外,OpenAI还透露,近期已开始训练其下一代前沿模型,并预计将使他们在通往AGI之路上达到更高的能力水平。

随着OpenAI构建的AI越来越接近人类智慧的水平,公司在通用人工智能方面的表述也变得更加谨慎。

OpenAI全球事务副总裁Anna Makanju周二接受采访时表示,OpenAI的使命是构建可以做到“当前人类认知水平”任务的通用智能。

24快报
JSON抓取失败