- 上云资讯 -
2025-07-09 10:13:16 58人关注
OpenAI 强化安全防线：新政策助力保护敏感信息
在当今竞争激烈的科技领域，信息安全已成为各大公司必须重视的议题。近期，OpenAI 宣布了一系列重大安全升级措施，以应对日益严重的企业间谍活动风险。据报道，该公司实施了 “信息隔离” 政策，旨在严格限制员工对敏感算法和新产品的访问权限。这一举措标志着 OpenAI 在保护自身知识产权和防范信息泄露方面的坚定决心。
2025-05-14 10:26:42 53人关注
告别AI“幻觉”？Vectara推出守护代理，声称能精准“纠错”
人工智能（AI）在企业中的应用日益广泛，但其固有的“幻觉”风险——即生成不真实或无根据的信息——一直是阻碍大规模部署的关键挑战。尽管行业内涌现了众多旨在减少幻觉的技术和方法，如检索增强生成(RAG)、数据质量提升、护栏机制以及推理验证等，但效果往往有限。近日，一家名为Vectara的公司推出了一种全新的解决方案:“Vectara 幻觉矫正器”，旨在通过监护代理自动识别、解释和纠正AI产生的幻觉，为企业级AI应用带来新的希望。
2025-02-15 12:28:31 95人关注
谷歌利用ai拦截 236 万款恶意应用在Google Play上架
随着 Android 用户数量突破30亿，谷歌在保护用户安全方面的压力与日俱增。为了应对日益猖獗的网络攻击，谷歌宣布加大对人工智能（AI）的投入，以提升恶意软件检测能力、加强隐私保护措施，并为开发者提供更完善的工具。通过这些努力，谷歌在过去一年中成功阻止了236万款违反政策的应用程序发布在 Google Play 商店。此外，谷歌还封禁了超过15万个意图发布有害应用的开发者账户。
Google AI 恶意应用拦截 Google AI安全防护 Google AI应用安全 Google AI阻止恶意应用
2025-02-03 10:26:44 168人关注
OpenAI 推出新 AI 安全方法，可主动推理规则拒绝危险请求！
OpenAI 公布了一种新的 AI 安全方法，旨在通过改变 AI 系统处理安全规则的方式来提升其安全性。这种新的 o 系列模型不再仅仅依赖于通过示例学习好与坏行为，而是能够理解并积极推理特定的安全指南。
2025-01-28 01:32:37 90人关注
微软打击恶意使用生成式 AI 的网络犯罪行为
近日，微软公司通过其数字犯罪部门（Digital Crimes Unit）采取法律行动，旨在打击那些利用生成式人工智能(AI)工具进行网络犯罪的行为。根据在维吉尼亚州东区提交的一份未公开的投诉，微软表示，尽管公司在不断努力提升其 AI 产品和服务的安全性，网络犯罪分子依然在不断创新，试图绕过安全防护措施以制造有害内容。
2025-01-20 20:33:40 182人关注
AI安全警报！Claude设备控制功能遭黑客突破，引发安全担忧
在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月，安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入，AI竟然可以被诱导下载并运行恶意软件。