- 上云资讯 -
2025-04-28 16:34:16 35人关注
AI助力网络安全，从被动反应到主动防御的新时代
在当今数字化时代，网络安全正经历一场前所未有的变革。传统的网络安全防护方法通常是反应式的，依赖于手动监测和静态警报，而如今，人工智能（AI）的应用正在推动网络安全进入一个主动防御的新阶段。
2025-04-08 16:33:43 94人关注
谷歌推全新AI安全模型Sec-Gemini v1，秒级洞悉网络攻击根源
谷歌在其官方安全博客上宣布推出一项令人瞩目的创新——Sec-Gemini v1，这是一款全新的实验性人工智能模型，专注于推动网络安全AI领域的发展。此举标志着谷歌在利用AI技术应对日益严峻的网络威胁方面迈出了重要一步。
2025-04-01 16:33:30 47人关注
Anthropic强化AI模型安全措施，确保技术负责任扩展
最近，人工智能公司 Anthropic 发布了其 “负责任扩展” 政策的最新更新，明确了哪些模型需要额外的安全保护。这一举措旨在确保在推出新技术前，能够有效防范可能的风险。
2025-03-30 16:38:37 50人关注
优刻得与 360 集团携手共推 AI 安全生态系统
近日，云计算和人工智能领域的先锋企业优刻得宣布与互联网安全巨头360集团达成战略合作。此次合作聚焦于优刻得的 DeepSeek 一体机与360的 AI 安全产品，旨在共同推动国产大模型的安全应用与创新。
2025-03-11 14:38:10 98人关注
Anthropic 推出“体质分类器”：成功阻止95% 的模型越狱尝试
人工智能公司 Anthropic 近日宣布开发了一种名为“体质分类器”的新安全方法，旨在保护语言模型免受恶意操纵。该技术专门针对“通用越狱”——一种试图系统性绕过所有安全措施的输入方式，以防止 AI 模型生成有害内容。
Anthropic Constitution Classifier 模型越狱防护 AI安全技术 大模型安全机制 Anthropic AI 安全创新
2025-02-15 14:13:31 123人关注
McAfee推出新 AI 工具，智能识别邮件和短信诈骗
在当今网络诈骗不断增多的背景下，知名安全软件公司McAfee在2025年国际消费电子展（CES2025）上推出了一款全新的人工智能诈骗检测工具。这一工具旨在帮助用户在受到诈骗之前，识别出各种邮件、短信和视频诈骗信息，提升个人信息的安全性。
2025-02-15 10:34:39 90人关注
OpenAI 引领 AI 安全新标准:重磅发布红队测试创新
OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了新的行业标准。
2025-02-03 10:26:44 117人关注
OpenAI 推出新 AI 安全方法，可主动推理规则拒绝危险请求！
OpenAI 公布了一种新的 AI 安全方法，旨在通过改变 AI 系统处理安全规则的方式来提升其安全性。这种新的 o 系列模型不再仅仅依赖于通过示例学习好与坏行为，而是能够理解并积极推理特定的安全指南。
2025-02-01 16:27:45 10468人关注
360无偿为DeepSeek提供安全服务 纳米AI搜索开通“DeepSeek高速专线”
近日，国产大模型DeepSeek在全球AI领域崭露头角，其展现出的技术实力令人瞩目，但同时也遭遇了外部网络攻击的威胁。在此背景下，360集团创始人周鸿祎宣布，360将无偿为DeepSeek提供全方位的网络安全防护，以实际行动支持国产AI技术的发展。
2025-01-28 00:44:16 75人关注
Nvidia推出NIM微服务，加强企业AI代理安全控制
Nvidia近日发布三项新的NIM（Nvidia Infrastructure Microservices）微服务，作为NeMo Guardrails开源工具包的扩展，旨在为企业AI代理应用提供更精细的安全管控能力。
2025-01-27 22:17:40 82人关注
Nvidia重磅推出三大AI安全工具，以控制AI聊天机器人
近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列实用的解决方案。