- 上云资讯 -
2025-09-15 11:29:38 38人关注
主流聊天机器人传播虚假信息风险加剧，研究显示情况堪忧
Newsguard 最近发布了一项研究，显示截至2023年8月，十大生成式 AI 工具在处理实时新闻时，有高达35% 的概率传播虚假信息。相比去年8月的18%，这一数字几乎翻了一番。研究指出，这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝回答用户问题的比例从31% 降至0%，AI 开始接入一个充满不实信息的网络生态系统，导致虚假信息的传播现象愈加严重。
2025-09-02 09:39:42 106人关注
昆仑万维响应《人工智能生成合成内容标识办法》，启动 AI 内容双重标识体系
随着人工智能技术的迅猛发展，内容创作的方式也发生了深刻的变化。AI 技术使得内容生产变得更加迅速和便捷，但同时也带来了诸如虚假信息传播等潜在风险。因此，提升 AI 生成内容的透明度和建立健全的合规标识体系，成为了行业健康发展和舆论治理的重要环节。
2025-08-06 12:31:28 47人关注
维基百科加强对 AI 生成内容的清查措施
近日，维基百科的编辑团队通过了一项新政策，以应对平台上大量 AI 生成的低质量条目。根据这项政策，维基百科管理员将拥有在特定条件下快速删除这些 AI 生成的文章的权限。该措施旨在维护维基百科的内容质量，并防止虚假信息的传播。
2025-07-10 10:17:23 158人关注
YouTube打击AI“不真实”内容，遏制虚假信息泛滥
YouTube 正在收紧其盈利政策，以应对日益增长的 AI 生成的“不真实”内容。该公司将于 7月15日更新其 YouTube 合作伙伴计划 （YPP） 的货币化政策，旨在更清晰地界定哪些内容符合盈利条件，哪些不符合。此举正值人工智能技术使得批量生产和重复内容变得空前容易之际。
YouTube盈利政策更新 AI生成内容限制 YPP货币化政策调整 YouTube合作伙伴计划变更 AI批量生产内容监管
2025-06-30 13:43:31 86人关注
假视频泛滥，Diddy 审判背后的 AI 生成内容赚取百万点击量
最近，社交媒体平台 YouTube 上涌现出一批以 Sean “Diddy” Combs 审判为题材的假视频，这些视频利用 AI 生成的图像和声音，伴随虚假信息，吸引了数千万的观看量。
AI生成假视频 YouTube假视频泛滥 Sean Diddy Combs审判假新闻 AI生成图像与声音造假 社交媒体虚假信息传播
2025-01-17 16:30:20 142人关注
腾讯推出 AI 生成内容检测工具，打击虚假信息
随着人工智能技术的迅猛发展，AI 生成的文本、图像和视频在各个领域的应用日益成熟。然而，这也伴随着信任危机的出现，虚假信息的传播对社会造成了潜在的威胁。为了应对这一挑战，腾讯于近日推出了一款全新的 AI 生成内容检测工具，旨在通过 AI 技术 “打假 AI”。
2025-01-12 18:13:12 179人关注
美国多个州发函要求马斯克 Grok 聊天机器人停止传播虚假选举信息
最近，社交媒体平台 X（前身为推特）的 Grok 聊天机器人引发了一场争议，因其错误地声称副总统卡马拉・哈里斯在某些2024年美国总统选票上不具备资格。这一指控来自五位美国州务卿的公开信，信件直接寄给了 X 的 CEO 埃隆・马斯克。
美国各州要求马斯克停止Grok虚假选举信息 马斯克Grok虚假信息 Grok虚假选举信息 美国各州对Grok的监管 Grok AI虚假信息问题
2025-01-08 11:34:12 98人关注
专家提议用 “人类身份凭证” 来打击 AI 虚假内容！
最近，随着人工智能技术的飞速发展，研究人员们提出了一个引人关注的想法:为了更好地确认在线用户是真人而非 AI 机器人，应该开始使用 “人类身份凭证”（Personhood Credential，简称 PHC）系统来替代传统的 CAPTCHA 验证。这个研究团队包括了来自常春藤盟校和 OpenAI、微软等公司的科学家们，他们在一篇尚未经过同行评审的论文中提出了这一概念。
2024-12-22 04:11:42 92人关注
X 的人工智能聊天机器人 Grok 遭到批评，散布错误的选举信息
在美国总统选举期间，X 的聊天机器人 Grok 被发现散布错误信息。根据 TechCrunch 的测试，Grok 在回答有关选举结果的问题时经常会出错，甚至会宣布特朗普赢得了关键战场州，尽管这些州的计票和报告尚未结束。