2024-12-25 13:36:46
35人关注
打错字也能 “越狱”GPT-4o、Claude ：揭秘AI聊天机器人的脆弱性！
近期的研究表明，市场上最先进的 AI 聊天机器人竟然对一些简单的技巧十分敏感，甚至可以被轻易 “越狱”。根据《404媒体》的报道，Claude 聊天机器人的开发公司 Anthropic 发现，只需在提示中故意加入一些拼写错误，便能使这些大型语言模型忽视自身的安全防护措施，生成一些本应拒绝回答的内容。
AI聊天机器人漏洞
AI安全风险
聊天机器人安全隐患
AI漏洞分析
AI安全技术
