- 上云资讯 -
2025-02-12 10:17:10 122人关注
Meta 推出新框架，计划限制高风险 AI 系统的发布
Meta 近日发布了一项新的风险政策框架，旨在评估和降低前沿 AI 模型所带来的风险，并在必要时停止开发或限制这些系统的发布。该框架名为 “前沿 AI 框架”，详细阐述了 Meta 将如何将 AI 模型分为高风险和关键风险两类，并据此采取相应措施，以将风险降低到 “可容忍的水平”。
2025-02-06 16:28:13 59人关注
美国人工智能安全研究所首任所长离职
美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。
2025-01-07 05:42:10 100人关注
美国人工智能安全研究所与Anthropic、OpenAI达成AI安全合作协议
马里兰州盖瑟斯堡——今天，美国商务部国家标准与技术研究所 （NIST） 旗下的美国人工智能安全研究所宣布，与人工智能领域的领军企业Anthropic和OpenAI签署了谅解备忘录，正式开启人工智能安全研究、测试与评估的合作。
2024-12-27 21:41:13 69人关注
Anthropic更新安全政策，设置 “安全门槛”以避免AI失控
在人工智能技术飞速发展的当下，Anthropic 公司近日宣布更新其 “责任扩展政策（RSP）”，这一政策旨在有效管理高能力 AI 系统所带来的潜在风险。作为开发热门聊天机器人 Claude 的公司，Anthropic 此举显然是想在不断增强的 AI 能力与必要的安全标准之间找到平衡。
Anthropic安全政策更新 AI控制政策 Anthropic AI安全措施 AI安全政策解读 Anthropic最新安全协议
2024-12-27 00:34:28 76人关注
新加坡推出 AI 系统安全指南，选举中禁用深度伪造技术
新加坡最近在网络安全方面发布了一系列重要公告，特别是针对人工智能（AI）系统的安全指南，以及禁止在选举广告中使用深度伪造技术的立法。这些举措旨在帮助组织在 AI 的开发和部署过程中降低潜在风险，确保技术的安全性。