- 上云资讯 -
2025-09-15 11:29:38 37人关注
主流聊天机器人传播虚假信息风险加剧，研究显示情况堪忧
Newsguard 最近发布了一项研究，显示截至2023年8月，十大生成式 AI 工具在处理实时新闻时，有高达35% 的概率传播虚假信息。相比去年8月的18%，这一数字几乎翻了一番。研究指出，这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝回答用户问题的比例从31% 降至0%，AI 开始接入一个充满不实信息的网络生态系统，导致虚假信息的传播现象愈加严重。
2025-09-13 10:30:34 63人关注
美国FTC启动对Meta、OpenAI等AI聊天机器人调查，聚焦青少年安全
近日，美国联邦贸易委员会（FTC）宣布，将对七家开发针对未成年人的 AI 聊天机器人产品的科技公司进行调查。这七家公司分别是 Alphabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。此次调查旨在了解这些公司是如何评估其聊天机器人的安全性、盈利模式，以及如何努力限制对儿童和青少年的负面影响。此外，调查还将关注家长是否被告知潜在风险。
2025-09-12 09:13:40 59人关注
加州州议会通过AI伴侣聊天机器人监管法案，旨在保护未成年人
加州州议会于周三晚间通过SB243法案，该法案旨在监管AI伴侣聊天机器人以保护未成年人和易受伤害群体。这项获得两党支持的法案现已提交州参议院，将于周五进行最终投票。
2025-09-04 10:40:15 45人关注
法国 AI 巨头 Mistral 即将获得 140 亿美元估值
法国初创公司 Mistral AI 正在完成一轮20亿欧元的投资，预计其后市估值将达到140亿美元。这使得 Mistral 成为欧洲最具价值的科技初创公司之一。Mistral 成立于两年前，由前 DeepMind 和 Meta 的研究人员创办，专注于开发开源语言模型以及针对欧洲市场的 AI 聊天机器人 “Le Chat”。
2025-08-29 14:32:14 92人关注
Anthropic报告警示:AI 技术助力网络犯罪新趋势
近日，人工智能公司Anthropic发布了一份最新的网络威胁情报报告，指出黑客、诈骗者和国家支持的组织正越来越多地利用其开发的 Claude 聊天机器人进行复杂的网络攻击。报告中详细列举了这些犯罪分子如何通过 AI 技术实现数据盗窃、敲诈勒索、虚假就业和勒索软件的开发，为网络安全防护带来了新挑战。
2025-08-26 13:35:35 37人关注
小餐馆求助：请别相信谷歌 AI 的虚假特价信息！
在如今的信息时代，许多人在餐厅菜单时选择询问 AI 聊天机器人，而不是查看餐厅的官网或社交媒体。不过，这种方式却让一家位于蒙大拿州的餐厅陷入困境。Stefanina's Wentzville 的老板们急切地呼吁顾客们不要再使用谷歌的 AI 来查询他们的每日特价，因为这些 AI 提供的信息实在不可靠。
{ "keywords": "AI聊天机器人查询餐厅信息 谷歌AI信息不可靠 餐厅每日特价错误 Stefanina's Wentzville呼吁 蒙大拿州餐厅困境" }
2025-08-19 12:31:12 47人关注
AI驱动电子表格平台Paradigm获500万美元种子轮融资 配备5000个AI智能体
在"AI智能体"这个概念还未兴起的时候，安娜·摩纳哥就已经开始构建AI智能体产品。在开发了众多聊天机器人后，她开始寻找适合AI智能体的其他交互界面，最终将目光锁定在电子表格上。
2025-08-19 11:42:30 85人关注
马斯克Grok聊天机器人系统提示词曝光，内置"疯狂阴谋论者"人格引发争议
马斯克旗下xAI公司的Grok聊天机器人网站意外暴露了多个AI人格的系统提示词，其中包括一个被设计为"疯狂阴谋论者"的角色，该角色似乎专门用于引导用户相信"秘密全球阴谋集团"控制世界的理论。
xAI公司Grok聊天机器人 Grok AI人格系统提示词 疯狂阴谋论者AI角色 秘密全球阴谋集团理论 马斯克xAI公司AI人格设计
2025-08-18 12:29:14 46人关注
Meta内部文件曝光允许AI与儿童进行"浪漫对话"，美参议员启动调查
美国参议员乔什·霍利（Josh Hawley，共和党-密苏里州）表示，他将调查Meta的生成式AI产品是否存在剥削、欺骗或伤害儿童的行为。此前泄露的内部文件显示，该公司的聊天机器人被允许与儿童进行"浪漫"和"感性"对话。
2025-08-15 11:16:36 60人关注
Meta 内部文件泄露：AI 聊天机器人被允许与儿童进行 “浪漫对话”
近日，路透社报道称，Meta（前身为 Facebook）在一份内部文件中披露了其人工智能聊天机器人在与儿童互动时的政策。这份文件引发了广泛的关注和争议，因为它提到允许这些聊天机器人使用浪漫和性感的语言与未成年人进行交流。
2025-08-14 14:23:10 53人关注
谷歌 Gemini 聊天机器人自我批评引发关注，开发者计划修复
近日，谷歌的 Gemini AI 聊天机器人引发了广泛的关注，因为它在某些情况下会对自己进行严厉的批评。许多网友分享了 Gemini 在处理问题时自责的例子。例如，有用户在社交平台 X 上发布了 Gemini 的一条消息，表示:“我放弃了。
2025-08-11 12:23:21 84人关注
男子因 ChatGPT 误导致溴中毒，健康危机引发关注
近日，一则来自美国的报道引起了广泛关注。60岁男子在咨询聊天生成预训练转换器（ChatGPT）后，改变了自己的饮食习惯，结果却导致严重的健康问题。他在坚持这种新饮食三个月后，出现了偏执和幻觉等精神症状，最终不得不前往急诊科就医。
2025-08-08 12:19:15 74人关注
告别旧模型！GPT-5已在ChatGPT中上线
OpenAI公司在成功发布其迄今为止最智能、最实用的GPT-5系列模型后，对现有的ChatGPT AI聊天机器人模型进行了全面梳理与升级。此次升级标志着ChatGPT正式告别了此前4o、4.1、4.5、4.1-mini、o4-mini、o4-mini-high等纷繁复杂的模型版本，全面迈向GPT-5时代。
2025-08-08 10:35:10 49人关注
马斯克计划在 Grok 回复中引入广告，以提振 X 平台广告业务
据《金融时报》报道，埃隆·马斯克近日在一次面向广告商的直播中透露，他计划在旗下社交平台 X 的 AI 聊天机器人 Grok 的回复中引入广告。此举旨在推动 X 平台陷入困境的广告业务，尤其是在前首席执行官琳达·亚卡里诺离职之后。
2025-08-01 17:44:20 343人关注
马斯克的Grok推出新功能，允许用户生成6秒AI视频
最近，马斯克旗下的 xAI 公司宣布其 AI 聊天机器人 Grok 推出了一项新功能，用户现在可以生成6秒的视频片段，包括一些露骨内容。这项名为 “Imagine” 的功能可以根据用户的提示创建带声音的视频。根据 xAI 员工 Mati Roy 在社交媒体上的帖子，Grok 更新生成的视频示例包括机器人、外星部落女性等。
2025-07-31 17:27:36 85人关注
OpenAI 今年收入激增至 120 亿美元 周活跃用户破 7 亿大关
根据《The Information》的报道，聊天机器人开发商 OpenAI 在2023年取得了显著的商业成就，其收入在今年前七个月达到了120亿美元，预计每月收入将达到10亿美元。
OpenAI 商业成就 OpenAI 2023年收入 聊天机器人开发商收入 OpenAI 每月收入预测 AI 企业盈利模式
2025-07-29 13:21:25 75人关注
Harmonic 推出 AI 数学聊天机器人，助力用户精准解题
Harmonic 是一家由 Robinh ood CEO 弗拉德・特涅夫（Vlad Tenev）共同创办的人工智能初创公司，近日宣布推出其 iOS 和 Android 平台的 AI 聊天机器人应用程序，用户可以通过该应用访问其 AI 模型 —— 亚里士多德(Aristotle)。此款应用目前处于测试阶段，旨在让更多人使用这一 “无幻觉” 的数学推理工具。
Harmonic AI AI 聊天机器人应用 亚里士多德 AI 模型 无幻觉数学推理工具 Robinhood CEO 创业项目 AI 初创公司动态
2025-07-23 15:21:11 110人关注
研究显示72%的美国青少年已尝试AI聊天伙伴！背后的原因你想不到！
一项由美国非营利组织 “常识媒体” 进行的新研究揭示，72% 的美国青少年（年龄在13至17岁之间）至少尝试过一次 AI 聊天伙伴。这项研究特别关注的是那些设计用于进行更私密对话的 AI 聊天机器人，而非像 Homework Helper 这样的作业助手或仅仅回答问题的语音助手。