- 上云资讯 -
2025-05-15 08:14:31 30人关注
美国人工智能安全研究所面临大规模裁员危机
据多家媒体报道，美国国家标准与技术研究所（NIST）计划裁减多达500名员工，这一决定进一步威胁到刚刚起步的美国人工智能安全研究所(AISI)。Axios 的报道称，AISI 和 “美国芯片计划” 将面临针对试用期员工的 “重大” 裁员，这些员工通常是在职一至两年的新员工。Bloomberg 则表示，部分员工已经收到了即将被解雇的口头通知。
2025-02-06 16:28:13 58人关注
美国人工智能安全研究所首任所长离职
美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。
2025-01-27 13:23:44 59人关注
微软AI安全报告揭示：最有效的攻击源自“快速工程”而非复杂技术
自2021年以来，微软的 AI 安全团队对100多种生成式 AI 产品进行了测试，以寻找薄弱环节和道德问题。他们的发现挑战了一些关于 AI 安全的常见假设，并强调了人类专业知识的持续重要性。
Microsoft AI安全报告 AI安全攻击 Prompt Engineering技巧 AI安全威胁 Microsoft AI安全研究
2025-01-13 12:14:37 100人关注
OpenAI承诺向美国AI安全研究所提供下一个AI模型早期访问权限
近日，OpenAI 首席执行官山姆·奥特曼（Sam Altman）透露，OpenAI 正与旨在评估和应对 AI 平台风险的美国联邦政府机构——美国 AI 安全研究所合作，将为其提供下一个主要生成式 AI 模型的早期访问权限，以进行安全测试。
2025-01-11 16:26:31 34人关注
律师称美国网络安全法过于模糊，无法保护AI安全研究人员
在现代科技飞速发展的今天，人工智能尤其是大型语言模型（LLMs）正逐渐成为焦点。然而，美国的网络安全法律似乎跟不上这个快速变化的领域。最近，哈佛大学的一组学者在黑帽大会上指出，现行的《计算机欺诈和滥用法》(CFAA)并不能有效保护那些从事 AI 安全研究的人，反而可能让他们面临法律风险。