- 上云资讯 -
2025-03-22 12:27:21 125人关注
黑客利用 “损坏” pickle 文件在 HuggingFace 上传恶意 AI 模型
近日，网络安全研究人员发现，在知名机器学习平台 HuggingFace 上，有两个恶意的机器学习模型悄然上传。这些模型使用了一种新奇的技术，通过 “损坏” 的 pickle 文件成功规避了安全检测，令人担忧。
2025-01-27 13:23:44 85人关注
微软AI安全报告揭示：最有效的攻击源自“快速工程”而非复杂技术
自2021年以来，微软的 AI 安全团队对100多种生成式 AI 产品进行了测试，以寻找薄弱环节和道德问题。他们的发现挑战了一些关于 AI 安全的常见假设，并强调了人类专业知识的持续重要性。
Microsoft AI安全报告 AI安全攻击 Prompt Engineering技巧 AI安全威胁 Microsoft AI安全研究
2025-01-01 12:37:43 195人关注
警惕！黑客利用 ChatGPT 漏洞植入虚假记忆，窃取用户信息
最近，安全研究员约翰・瑞贝格（Johann Rehberger）发现了一个关于 ChatGPT 的漏洞，这个漏洞可能让黑客在用户的长期记忆中植入虚假的信息和恶意指令。