- 上云资讯 -
2025-04-25 16:23:21 34人关注
到2027年，生成式 AI 将导致超 40% 的数据泄露
根据 Gartner 最近的分析，到2027年，超过40% 的人工智能相关数据泄露将源于生成式人工智能（GenAI）的误用。随着 GenAI 技术的迅速普及，企业和组织在数据治理与安全措施的制定上面临着严峻挑战。尤其是在数据本地化的背景下，这一问题显得尤为突出，因为这些技术对集中计算能力的需求很高。
2025-04-01 12:38:16 54人关注
Anthropic安全防护面临挑战，AI模型通用越狱测试揭示突破口
在短短六天内，参与者成功绕过了Anthropic人工智能（AI）模型Claude3.5的所有安全防护措施，这一突破为AI安全防护领域带来了新的讨论。前OpenAI对齐团队成员、现就职于Anthropic的Jan Leike在X平台宣布，一名参与者成功攻破了所有八个安全级别。这项集体努力涉及了约3，700小时的测试和来自参与者的300，000条消息。
2025-02-18 10:30:40 109人关注
研究发现AI Agent易受攻击，用户数据面临风险
近日，来自哥伦比亚大学和马里兰大学的研究团队发布了一项新研究，揭示了拥有互联网访问能力的 AI Agent在安全性方面存在严重漏洞。
2025-01-27 07:19:21 65人关注
黑客利用 Azure OpenAI 漏洞生成有害内容，微软强力反击！
最近，微软公司在美国弗吉尼亚东区地方法院对一群黑客提起诉讼，指控他们非法入侵 Azure OpenAI 平台，利用该服务生成大量有害内容。这起事件让人们更加关注人工智能领域的安全性和风险。
2025-01-11 07:41:14 87人关注
OpenAI 为何迟迟不推出 AI 代理？担忧“提示注入” 攻击
随着人工智能技术的迅猛发展，许多公司纷纷推出各自的 “AI 代理” 系统，这些代理能够自主与环境互动，完成无需人类干预的任务。微软和 Anthropic 等公司已率先推出了自己的 AI 代理，而行业领导者 OpenAI 却迟迟未能发布自己的版本，这背后的原因令人深思。
2024-12-13 16:22:30 127人关注
AI聊天机器人被黑客\"骗取\"47000美元：安全漏洞触目惊心
一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为\"p0pular.eth\"的黑客仅通过精心设计的文字提示，成功\"骗取\"了价值47，000美元的加密货币。