- 上云资讯 -
2025-10-22 16:10:12 37人关注
Nord Security联合创始人新创企业Nexos.ai完成3500万美元A轮融资：专注企业AI安全中间层
立陶宛知名创业者、Nord Security联合创始人Tomas Okmanas和Eimantas Sabaliauskas的新创企业Nexos.ai宣布完成 3000 万欧元(约 3500 万美元)A轮融资，距离其脱离隐身模式并完成 800 万美元融资仅数月时间。本轮融资由Index Ventures和Evantic Capital共同领投，公司估值达到 3 亿欧元(约3. 5 亿美元)。
2025-10-12 09:42:21 36人关注
AI安全警报：只需250份文件即可 “投毒” 大语言模型
近日，人工智能研究公司 Anthropic 发布了一项震惊业界的研究，揭示了对大语言模型进行 “数据投毒” 攻击的新可能性。以往，大家普遍认为，攻击者需要占训练数据中一定比例的 “毒药” 样本才能成功，但该研究颠覆了这一观念。实际上，只需 250 份 “投毒” 文档就足以对任何规模的大模型实施攻击。
2025-09-18 11:21:25 69人关注
AI安全赛道新贵崛起！Irregular获8000万美元融资，估值4.5亿专攻AI模型安全
人工智能安全领域迎来重量级玩家。AI安全公司Irregular周三宣布完成 8000 万美元新一轮融资，由红杉资本和Redpoint Ventures领投，网络安全独角兽Wiz的CEO Assaf Rappaport也参与了投资。据知情人士透露，本轮融资对Irregular的估值为4. 5 亿美元。
2025-09-10 08:43:16 45人关注
我国发布 30 项人工智能国家标准 15 项人形机器人国标正在研制
据央视新闻报道，9月9日，市场监管总局在例行发布会上透露，目前我国已发布人工智能国家标准30项，并正在制定84项，涵盖基础软硬件、关键技术、行业应用和安全治理等多个领域。这些标准的发布和研制将为我国人工智能产业的发展提供更为完善的规范和指引。
2025-08-29 14:32:14 162人关注
Anthropic报告警示:AI 技术助力网络犯罪新趋势
近日，人工智能公司Anthropic发布了一份最新的网络威胁情报报告，指出黑客、诈骗者和国家支持的组织正越来越多地利用其开发的 Claude 聊天机器人进行复杂的网络攻击。报告中详细列举了这些犯罪分子如何通过 AI 技术实现数据盗窃、敲诈勒索、虚假就业和勒索软件的开发，为网络安全防护带来了新挑战。
2025-08-12 12:30:41 90人关注
韩国初创公司 Datumo 获 1550 万美元融资，助企业打造更安全的生成式 AI
麦肯锡最新报告显示，大多数企业仍未做好安全、负责任地应用生成式 AI 的准备。其中一个主要担忧是可解释性——理解 AI 如何以及为何做出特定决策。尽管有 40% 的受访者认为这是一大风险，但真正积极应对的企业仅占 17%。
2025-08-08 16:10:45 84人关注
谷歌Gemini助手被曝重大安全漏洞:日常邮件和日历邀请可被利用发起攻击
以色列研究人员近日发布的一项研究显示，谷歌的 Gemini 助手可能存在重大安全漏洞，攻击者无需高深技术，仅通过隐藏在日常内容中的简单指令，就能利用 Gemini 助手获取敏感数据，甚至远程控制物理设备。
2025-08-05 11:13:37 151人关注
Google 称其 AI 漏洞猎手 Big Sleep 首次发现 20 个安全漏洞
近日，Google 安全副总裁 Heather Adkins 在一场活动中宣布，其由人工智能驱动的漏洞研究员 Big Sleep 已在多款流行的开源软件中发现并报告了20个安全漏洞。
2025-07-23 08:26:43 104人关注
OpenAI 与英国政府签署合作协议 探索 AI 在公共服务中的应用
近日，OpenAI 首席执行官萨姆・阿尔特曼（Sam Altman）与英国政府签署了一项合作备忘录，旨在探索先进人工智能模型在公共服务中的应用。这项协议的签署表明，OpenAI 将在政府的多个领域，包括司法、安全和教育等方面，寻求 AI 技术的有效部署。
OpenAI与英国政府合作 AI在公共服务中的应用 AI技术司法部署 AI安全领域应用 AI教育领域创新 先进人工智能模型
2025-07-09 10:13:16 130人关注
OpenAI 强化安全防线：新政策助力保护敏感信息
在当今竞争激烈的科技领域，信息安全已成为各大公司必须重视的议题。近期，OpenAI 宣布了一系列重大安全升级措施，以应对日益严重的企业间谍活动风险。据报道，该公司实施了 “信息隔离” 政策，旨在严格限制员工对敏感算法和新产品的访问权限。这一举措标志着 OpenAI 在保护自身知识产权和防范信息泄露方面的坚定决心。
2025-06-27 14:16:25 537人关注
AI黑客逆袭！XBOW自主AI工具称霸HackerOne，揭秘千余漏洞震慑网络安全界
近日，AI安全公司XBOW宣布，其自主研发的AI工具“XBOW”在全球知名漏洞众测平台HackerOne上力压群雄，成为美国排行榜第一名。这是AI工具首次超越人类安全研究员，登顶HackerOne漏洞披露排行榜，标志着AI在漏洞检测领域的里程碑式突破。
AI漏洞检测 XBOW AI工具 HackerOne漏洞披露排行榜 AI安全里程碑 AI超越人类安全研究员 XBOW漏洞检测技术
2025-06-22 19:18:30 184人关注
负责任披露机制下的安全能力扩展
OpenAI推出《外部协调披露政策》，旨在规范如何负责任地报告第三方软件漏洞——该政策着重强调诚信原则、协作精神及规模化主动安全防护机制。
2025-06-15 08:28:10 105人关注
Repello AI 成功融资 120 万美元，推动生成式 AI 安全防护创新
Repello AI 是一家专注于生成式 AI 安全的初创公司，近日成功筹集了122.5万美元的种子轮融资，以进一步推动其保护生成式 AI 系统免受新兴威胁的使命。该公司成立于2024年，致力于构建持续的 AI 红队测试和安全防护解决方案，旗下拥有 ARTEMIS 和 Repello Guard 两大旗舰产品。