- 上云资讯 -
阿里云云原生
阿里云开发者
腾讯云开发者
火山引擎开发者社区
魔搭ModelScope社区
微软科技
Azure云科技
Zilliz
OpenAI
Anthropic
Gemini
LangChain
Hugging Face
Mistral
2025-01-11 07:41:14 127人关注
OpenAI 为何迟迟不推出 AI 代理？担忧“提示注入” 攻击
随着人工智能技术的迅猛发展，许多公司纷纷推出各自的 “AI 代理” 系统，这些代理能够自主与环境互动，完成无需人类干预的任务。微软和 Anthropic 等公司已率先推出了自己的 AI 代理，而行业领导者 OpenAI 却迟迟未能发布自己的版本，这背后的原因令人深思。
2025-01-11 03:20:10 82人关注
MacOS 15.1 Beta 1版本Apple Intelligence容易受“提示注入” 攻击
最近，一位开发者在 MacOS15.1Beta1中成功操控了苹果的新 AI 系统 ——Apple Intelligence，利用了一种被称为 “提示注入” 的攻击方式，轻而易举地让这个 AI 绕过了它原本的指令，开始响应任意提示。这一事件引发了业界的广泛关注。