- 上云资讯 -
2025-05-06 16:11:39 37人关注
谷歌推出儿童专用 AI 聊天机器人，引发安全隐忧
近日，谷歌宣布将在本周推出其新开发的 Gemini AI 聊天机器人，专为13岁以下儿童设计，且将由家长管理账户。此举是谷歌进一步拓展年轻用户群体的一部分，旨在为孩子们提供更多的 AI 产品和服务。
Google AI 聊天机器人 儿童安全 AI 聊天机器人安全措施 Google AI 儿童保护 AI 聊天机器人应用场景
2025-01-27 22:17:40 83人关注
Nvidia重磅推出三大AI安全工具，以控制AI聊天机器人
近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列实用的解决方案。
2024-12-13 16:22:30 127人关注
AI聊天机器人被黑客\"骗取\"47000美元：安全漏洞触目惊心
一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为\"p0pular.eth\"的黑客仅通过精心设计的文字提示，成功\"骗取\"了价值47，000美元的加密货币。