Meta发布AI框架，承诺推出开放的人工通用智能，但对高风险系统实施严格管控lg...

Meta AI框架政策导读

• Meta发布AI框架政策

• 高风险与关键风险系统的定义

• Meta的风险评估与分类标准

• Meta的开放AI策略与面临的挑战

• 总结与展望

• 名词解释

• 相关大事件

• 专家点评

Meta发布AI框架政策

根据TodayUSstock.com报道，Meta首席执行官马克·扎克伯格曾承诺将人工通用智能（AGI）普及，表示未来将开放AI系统以支持各种任务。然而，Meta在一份新的政策文件中表示，对于某些开发的AI系统，可能不会将其公开发布，尤其是在某些特定场景下。

高风险与关键风险系统的定义

Meta在其《前沿AI框架》中定义了两种类型的AI系统，这些系统被认为是过于危险，无法公开发布：高风险系统和关键风险系统。

根据Meta的定义，高风险和关键风险系统都可能对网络安全、化学、以及生物攻击提供支持，不同之处在于，关键风险系统可能导致“无法缓解的灾难性结果”，而高风险系统虽然会使攻击更容易实施，但并不如关键风险系统那样可靠或易于实现。

Meta的风险评估与分类标准

Meta表示，AI系统的风险评估并非基于单一的实证测试，而是结合了内外部研究人员的意见，并经过“高级决策者”的审查。Meta解释道，由于目前的评估科学尚未足够成熟，无法提供明确的定量指标，因此风险分类更依赖于专家意见。

如果Meta认为某个系统属于高风险类别，公司将限制系统的内部使用，并在实施风险缓解措施后再考虑发布。而若被评定为关键风险系统，Meta将采取不明确的安全措施，防止该系统被泄露，并暂停开发直到该系统可以减少危险。

Meta的开放AI策略与面临的挑战

Meta的《前沿AI框架》可能是对公司“开放”AI策略的回应，尤其是在公司此前因其开放的AI发布方式而受到批评的背景下。与OpenAI将其AI系统通过API加以封锁的策略不同，Meta采用了开放发布的方式，但这一策略也带来了不少挑战。

尽管Meta的Llama系列AI模型在全球下载量超过数亿次，但Llama也被美国对手用于开发防御性聊天机器人，这揭示了开放策略可能带来的潜在风险。

总结与展望

Meta的《前沿AI框架》标志着其在AI开发和发布过程中迈出了更加谨慎的步伐。尽管Meta依旧坚持“开放”发布的理念，但对高风险和关键风险系统的严格限制，也显示了公司在确保AI技术安全性方面的责任感。随着AI技术的不断发展，Meta的策略可能会进一步演变，以适应更复杂的技术和社会环境。

名词解释

• 人工通用智能（AGI）：指能够完成任何人类能够完成的任务的AI系统。

• 高风险系统：指那些可能会帮助实施网络攻击、化学或生物攻击的AI系统，但这些系统的攻击效果并不一定具有高度可靠性。

• 关键风险系统：指那些可能导致灾难性后果的AI系统，如大规模生物武器扩散或无法缓解的网络攻击。

相关大事件

• 2025年2月：Meta发布《前沿AI框架》，明确规定了高风险与关键风险AI系统的发布限制。

• 2024年12月：Meta因Llama系列AI模型的下载量激增而面临的安全问题引发广泛关注。

专家点评

“Meta的前沿AI框架展现了公司在推动AI技术进步时对安全和风险管理的高度重视。随着AI技术的快速发展，制定有效的发布政策将变得越来越重要。” —— AI技术专家张伟，2025年2月。

“Meta的开放策略可能带来短期的技术优势，但从长远来看，如何平衡开放性和安全性将是公司面临的最大挑战。” —— 网络安全专家李娜，2025年2月。