- 上云资讯 -
阿里云云原生
阿里云开发者
腾讯云开发者
火山引擎开发者社区
魔搭ModelScope社区
微软科技
Azure云科技
Zilliz
OpenAI
Anthropic
Gemini
LangChain
Hugging Face
Mistral
2025-07-23 17:11:15 130人关注
周鸿祎在中国互联网大会警示:大模型降低攻击门槛，人人皆可“注入攻击”
2025中国互联网大会现场报道:在备受瞩目的2025中国互联网大会上，当被问及大模型在落地应用过程中可能存在的风险时，360集团创始人周鸿祎深入剖析了人工智能时代下网络安全面临的全新挑战。他指出，相较于传统的IT系统漏洞和数据隐私泄露问题，大模型带来的三大安全风险更应引起高度警惕。
2025-04-01 12:38:16 100人关注
Anthropic安全防护面临挑战，AI模型通用越狱测试揭示突破口
在短短六天内，参与者成功绕过了Anthropic人工智能（AI）模型Claude3.5的所有安全防护措施，这一突破为AI安全防护领域带来了新的讨论。前OpenAI对齐团队成员、现就职于Anthropic的Jan Leike在X平台宣布，一名参与者成功攻破了所有八个安全级别。这项集体努力涉及了约3，700小时的测试和来自参与者的300，000条消息。
2025-03-22 12:27:21 127人关注
黑客利用 “损坏” pickle 文件在 HuggingFace 上传恶意 AI 模型
近日，网络安全研究人员发现，在知名机器学习平台 HuggingFace 上，有两个恶意的机器学习模型悄然上传。这些模型使用了一种新奇的技术，通过 “损坏” 的 pickle 文件成功规避了安全检测，令人担忧。