- 上云资讯 -
2025-04-25 16:23:21 81人关注
到2027年，生成式 AI 将导致超 40% 的数据泄露
根据 Gartner 最近的分析，到2027年，超过40% 的人工智能相关数据泄露将源于生成式人工智能（GenAI）的误用。随着 GenAI 技术的迅速普及，企业和组织在数据治理与安全措施的制定上面临着严峻挑战。尤其是在数据本地化的背景下，这一问题显得尤为突出，因为这些技术对集中计算能力的需求很高。
2025-04-01 12:38:16 99人关注
Anthropic安全防护面临挑战，AI模型通用越狱测试揭示突破口
在短短六天内，参与者成功绕过了Anthropic人工智能（AI）模型Claude3.5的所有安全防护措施，这一突破为AI安全防护领域带来了新的讨论。前OpenAI对齐团队成员、现就职于Anthropic的Jan Leike在X平台宣布，一名参与者成功攻破了所有八个安全级别。这项集体努力涉及了约3，700小时的测试和来自参与者的300，000条消息。
2025-02-18 10:30:40 262人关注
研究发现AI Agent易受攻击，用户数据面临风险
近日，来自哥伦比亚大学和马里兰大学的研究团队发布了一项新研究，揭示了拥有互联网访问能力的 AI Agent在安全性方面存在严重漏洞。
2025-01-27 07:19:21 109人关注
黑客利用 Azure OpenAI 漏洞生成有害内容，微软强力反击！
最近，微软公司在美国弗吉尼亚东区地方法院对一群黑客提起诉讼，指控他们非法入侵 Azure OpenAI 平台，利用该服务生成大量有害内容。这起事件让人们更加关注人工智能领域的安全性和风险。
2025-01-18 21:11:39 308人关注
OpenAI遭遇数据泄露事件带来警示：AI 公司成为黑客的宝库
最近有报道称 OpenAI 系统遭遇数据泄露事件，但不用担心您的 ChatGPT 会话内容是否被获取。虽然这次黑客攻击本身似乎只是肤浅的，但这提醒了我们，AI 公司已迅速成为黑客最渴望攻击的目标之一。
OpenAI数据泄露警告 OpenAI数据泄露事件 OpenAI安全漏洞 OpenAI数据安全风险 OpenAI隐私保护问题
2025-01-18 14:36:24 102人关注
报道称OpenAI内部论坛曾遭黑客入侵，机密被盗
近日，据《纽约时报》报道，知名人工智能公司OpenAI的内部论坛遭到黑客攻击，引发了一系列安全问题。黑客成功获取了有关公司人工智能技术设计的详细信息，尽管并未侵入OpenAI实际构建AI的系统。
2025-01-11 07:41:14 125人关注
OpenAI 为何迟迟不推出 AI 代理？担忧“提示注入” 攻击
随着人工智能技术的迅猛发展，许多公司纷纷推出各自的 “AI 代理” 系统，这些代理能够自主与环境互动，完成无需人类干预的任务。微软和 Anthropic 等公司已率先推出了自己的 AI 代理，而行业领导者 OpenAI 却迟迟未能发布自己的版本，这背后的原因令人深思。
2025-01-01 22:37:17 76人关注
OpenAI 官方账号被黑，竟推广虚假加密货币！
近日，OpenAI 官方在交平台 X 上的一个账号遭到黑客攻击，发布了一则虚假的加密货币广告。
2024-12-13 16:22:30 162人关注
AI聊天机器人被黑客\"骗取\"47000美元：安全漏洞触目惊心
一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为\"p0pular.eth\"的黑客仅通过精心设计的文字提示，成功\"骗取\"了价值47，000美元的加密货币。