上云资讯 - 来上云吧，企业上云一站式服务

2025-01-14 11:25:23 145人关注

尴尬！Meta 的 AI 安全系统被 “空格”攻击轻松绕过

最近，Meta 推出了一款名为 Prompt-Guard-86M 的机器学习模型，旨在检测和应对提示注入攻击。这类攻击通常是通过特殊的输入，让大型语言模型（LLM）表现得不当或者规避安全限制。不过，令人惊讶的是，这款新系统自身却也暴露了被攻击的风险。