“前沿大模型越来越不相信「局外人」。”

Meta的超级智能实验室,又完成了一次关键的人才引进。

事情要从一笔看似低调的招聘说起。据外媒报道,Meta近期从企业级AI安全初创公司Virtue AI挖走了三位创始人及其核心团队成员,并将整个团队编入自家的超级智能实验室(MSL)。这笔交易更接近“收购式招聘”,具体金额和条款目前尚未披露。

被挖来的Virtue AI创始人李博和宋晓冬,将直接向Nat Friedman汇报。这位前GitHub CEO现在是MSL的联合负责人,同时掌管着实验室旗下的“产品与应用研究”团队。

李博和宋晓冬,并非典型的创业者,而是AI安全领域久经沙场的研究者。李博曾任伊利诺伊大学厄巴纳-香槟分校的计算机科学教授,长期专注于大模型的安全与可信性研究;宋晓冬则是加州大学伯克利分校的计算机科学教授、麦克阿瑟“天才奖”得主,在网络安全和AI安全领域深耕超过二十年。

Meta这次挖角,绝不仅仅是多了几位AI人才那么简单。从战略层面看,这本质上是给自己的超级智能计划补上了安全这块短板。

Virtue AI这家公司,本身就是做企业级AI安全和治理的,创始团队在对抗式机器学习领域有深厚的积累。通俗点说,他们干的事情不是教模型怎么更好地回答问题,而是让模型在复杂、甚至充满恶意和不可控的环境下,尽量少犯错、少被攻击、少输出有害内容。

这种能力,在今天这场AI竞赛中,早已不是可有可无的边缘功能。

Virtue AI此前推出过一套AI安全产品,包括用于自动化红队测试的VirtueRed,以及用于实时拦截有害输出的VirtueGuard。前者主要用来发现提示注入、越狱这类模型漏洞,后者则更像是部署在模型输出链路上的安全阀,帮助企业降低实际部署中的风险。

对于Meta来说,这正是它接下来无论如何也绕不开的一环。MSL实验室成立的目标,是整合Meta内部AI研究力量(包括Llama开源模型和FAIR研究团队),朝着更强大的前沿模型乃至所谓的“超级智能”推进。

但模型越强大,安全问题就越不可能单纯靠外部工具来解决。这也正是Virtue AI团队真正值钱的地方——他们不是普通的AI应用团队,而是一支长期研究模型攻击、防御、评估和治理的安全团队,其成员甚至参与过MMLU基准测试的开发。这些经验意味着,Meta可以在模型训练、测试、上线和产品化的每一个阶段,提前建立起更完整的安全防线。

这件事背后,折射出行业风向正在发生一个显著的转变。

前沿模型公司不再满足于把安全能力外包出去,而是开始把治理、内容过滤、风险评估这些关键能力全都收回自己手里。原因很简单:模型能力越强,安全问题就越复杂。

对Meta而言尤其如此——它一边押注开源模型,一边又计划把AI能力广泛接入消费级产品。开源带来扩散优势的同时,也带来了更复杂的滥用风险;消费级产品意味着巨大的用户规模,任何安全失误都会被快速放大,后果相当棘手。


本文转载于:https://www.163.com/dy/article/L1GIA1C905118HA4.html 如有侵犯,请联系zhengruancom@outlook.com删除。
免责声明:正软商城发布此文仅为传递信息,不代表正软商城认同其观点或证实其描述。