- 上云资讯 -
2025-05-15 08:14:31 61人关注
美国人工智能安全研究所面临大规模裁员危机
据多家媒体报道，美国国家标准与技术研究所（NIST）计划裁减多达500名员工，这一决定进一步威胁到刚刚起步的美国人工智能安全研究所(AISI)。Axios 的报道称，AISI 和 “美国芯片计划” 将面临针对试用期员工的 “重大” 裁员，这些员工通常是在职一至两年的新员工。Bloomberg 则表示，部分员工已经收到了即将被解雇的口头通知。
2025-02-06 16:28:13 88人关注
美国人工智能安全研究所首任所长离职
美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。
2025-01-27 13:23:44 85人关注
微软AI安全报告揭示：最有效的攻击源自“快速工程”而非复杂技术
自2021年以来，微软的 AI 安全团队对100多种生成式 AI 产品进行了测试，以寻找薄弱环节和道德问题。他们的发现挑战了一些关于 AI 安全的常见假设，并强调了人类专业知识的持续重要性。
Microsoft AI安全报告 AI安全攻击 Prompt Engineering技巧 AI安全威胁 Microsoft AI安全研究
2025-01-13 12:14:37 155人关注
OpenAI承诺向美国AI安全研究所提供下一个AI模型早期访问权限
近日，OpenAI 首席执行官山姆·奥特曼（Sam Altman）透露，OpenAI 正与旨在评估和应对 AI 平台风险的美国联邦政府机构——美国 AI 安全研究所合作，将为其提供下一个主要生成式 AI 模型的早期访问权限，以进行安全测试。
OpenAI AI安全研究所 AI安全早期访问 OpenAI安全研究 AI安全技术 AI安全措施 OpenAI早期访问计划
2025-01-07 05:42:10 132人关注
美国人工智能安全研究所与Anthropic、OpenAI达成AI安全合作协议
马里兰州盖瑟斯堡——今天，美国商务部国家标准与技术研究所 （NIST） 旗下的美国人工智能安全研究所宣布，与人工智能领域的领军企业Anthropic和OpenAI签署了谅解备忘录，正式开启人工智能安全研究、测试与评估的合作。