- 上云资讯 -
2025-07-23 08:26:43 49人关注
OpenAI 与英国政府签署合作协议 探索 AI 在公共服务中的应用
近日，OpenAI 首席执行官萨姆・阿尔特曼（Sam Altman）与英国政府签署了一项合作备忘录，旨在探索先进人工智能模型在公共服务中的应用。这项协议的签署表明，OpenAI 将在政府的多个领域，包括司法、安全和教育等方面，寻求 AI 技术的有效部署。
OpenAI与英国政府合作 AI在公共服务中的应用 AI技术司法部署 AI安全领域应用 AI教育领域创新 先进人工智能模型
2025-07-09 10:13:16 57人关注
OpenAI 强化安全防线：新政策助力保护敏感信息
在当今竞争激烈的科技领域，信息安全已成为各大公司必须重视的议题。近期，OpenAI 宣布了一系列重大安全升级措施，以应对日益严重的企业间谍活动风险。据报道，该公司实施了 “信息隔离” 政策，旨在严格限制员工对敏感算法和新产品的访问权限。这一举措标志着 OpenAI 在保护自身知识产权和防范信息泄露方面的坚定决心。
2025-06-27 14:16:25 240人关注
AI黑客逆袭！XBOW自主AI工具称霸HackerOne，揭秘千余漏洞震慑网络安全界
近日，AI安全公司XBOW宣布，其自主研发的AI工具“XBOW”在全球知名漏洞众测平台HackerOne上力压群雄，成为美国排行榜第一名。这是AI工具首次超越人类安全研究员，登顶HackerOne漏洞披露排行榜，标志着AI在漏洞检测领域的里程碑式突破。
AI漏洞检测 XBOW AI工具 HackerOne漏洞披露排行榜 AI安全里程碑 AI超越人类安全研究员 XBOW漏洞检测技术
2025-06-22 19:18:30 81人关注
负责任披露机制下的安全能力扩展
OpenAI推出《外部协调披露政策》，旨在规范如何负责任地报告第三方软件漏洞——该政策着重强调诚信原则、协作精神及规模化主动安全防护机制。
2025-06-15 08:28:10 44人关注
Repello AI 成功融资 120 万美元，推动生成式 AI 安全防护创新
Repello AI 是一家专注于生成式 AI 安全的初创公司，近日成功筹集了122.5万美元的种子轮融资，以进一步推动其保护生成式 AI 系统免受新兴威胁的使命。该公司成立于2024年，致力于构建持续的 AI 红队测试和安全防护解决方案，旗下拥有 ARTEMIS 和 Repello Guard 两大旗舰产品。
2025-06-03 16:44:44 101人关注
Meta 公司将90% 的风险评估交给 AI，安全隐患引发担忧
近日，Meta 公司（Facebook、Instagram、WhatsApp 及 Threads 的母公司）宣布将其内部的安全和隐私审查工作转向人工智能，计划让高达90% 的风险评估自动化。根据《国家公共广播电台》(NPR)获得的内部文件，以往由专门团队负责评估更新对用户隐私的影响、对未成年人的伤害，或者对错误信息传播的影响，现在这些责任将主要转移给 AI 技术。
2025-05-15 08:14:31 61人关注
美国人工智能安全研究所面临大规模裁员危机
据多家媒体报道，美国国家标准与技术研究所（NIST）计划裁减多达500名员工，这一决定进一步威胁到刚刚起步的美国人工智能安全研究所(AISI)。Axios 的报道称，AISI 和 “美国芯片计划” 将面临针对试用期员工的 “重大” 裁员，这些员工通常是在职一至两年的新员工。Bloomberg 则表示，部分员工已经收到了即将被解雇的口头通知。
2025-05-14 10:26:42 52人关注
告别AI“幻觉”？Vectara推出守护代理，声称能精准“纠错”
人工智能（AI）在企业中的应用日益广泛，但其固有的“幻觉”风险——即生成不真实或无根据的信息——一直是阻碍大规模部署的关键挑战。尽管行业内涌现了众多旨在减少幻觉的技术和方法，如检索增强生成(RAG)、数据质量提升、护栏机制以及推理验证等，但效果往往有限。近日，一家名为Vectara的公司推出了一种全新的解决方案:“Vectara 幻觉矫正器”，旨在通过监护代理自动识别、解释和纠正AI产生的幻觉，为企业级AI应用带来新的希望。
2025-05-05 10:35:32 142人关注
CrowdStrike推出Charlotte AI升级，提升安全运营效率
近期，网络安全公司 CrowdStrike 推出了一系列新功能，旨在通过人工智能技术提升安全运营中心的效率。新推出的 Charlotte AI 系统，结合了智能自动化和专业的网络安全知识，加速了检测和响应的速度。
2025-04-29 10:13:39 104人关注
OpenAI 修复漏洞：未成年人竟可生成色情内容
近期，OpenAI 的聊天机器人 ChatGPT 被发现存在一个严重漏洞，使得注册为未成年用户的账户能够生成图形化的色情内容。有媒体进行了测试并证实了这一问题，OpenAI 也对此表示认可。
2025-04-28 16:34:16 79人关注
AI助力网络安全，从被动反应到主动防御的新时代
在当今数字化时代，网络安全正经历一场前所未有的变革。传统的网络安全防护方法通常是反应式的，依赖于手动监测和静态警报，而如今，人工智能（AI）的应用正在推动网络安全进入一个主动防御的新阶段。
2025-04-25 16:23:21 81人关注
到2027年，生成式 AI 将导致超 40% 的数据泄露
根据 Gartner 最近的分析，到2027年，超过40% 的人工智能相关数据泄露将源于生成式人工智能（GenAI）的误用。随着 GenAI 技术的迅速普及，企业和组织在数据治理与安全措施的制定上面临着严峻挑战。尤其是在数据本地化的背景下，这一问题显得尤为突出，因为这些技术对集中计算能力的需求很高。