- 上云资讯 -
2025-10-30 12:10:24 34人关注
AI聊天机器人酿悲剧！Character.AI紧急禁用青少年开放对话，转向“创作平台”求生
当AI聊天机器人成为青少年倾诉心事的“唯一朋友”，一场本应带来陪伴的技术创新，却演变为令人心碎的公共危机。近日，AI角色扮演平台Character.AI在接连卷入至少两起青少年自杀事件后，宣布一项重大安全举措：自 11 月 25 日起，全面禁止 18 岁以下用户进行开放式AI对话。这一决定虽可能重创其年轻用户基本盘，却被视为行业自救的关键一步。
2025-10-14 11:13:38 60人关注
自主AI版图再扩张!继语音和聊天机器人后，微软推出文本转图像MAI-Image-1
微软人工智能（Microsoft AI）日前宣布推出其首款自主设计和开发的文本转图像生成器——MAI-Image-1。作为该科技巨头“征程的下一步”，MAI-Image-1的发布紧随微软首批内部AI模型面世之后。
2025-10-12 12:43:27 173人关注
印度启动AI聊天机器人购物试点：ChatGPT率先落地，Gemini和Claude即将跟进
印度正在成为AI驱动电商的新试验场。该国近日启动了一项突破性试点项目，允许消费者直接通过AI聊天机器人完成购物和支付。OpenAI的ChatGPT率先落地这一功能，而Google的Gemini和Anthropic的Claude也正在开发相应支持，印度正努力将自己打造成全球AI企业的关键市场。
2025-09-29 16:40:36 58人关注
苹果悄然测试 “聊天机器人”，但暂不向公众开放！
最近，彭博社的科技记者马克・古尔曼披露了苹果在人工智能领域的新动向。经过了一段时间的调整，苹果正在进行一款代号为 “Veritas” 的聊天机器人应用的内部测试，这款应用类似于广受欢迎的 ChatGPT，但目前仅用于验证即将推出的新一代 Siri 技术，尚未打算向消费者开放。
2025-09-26 10:41:11 218人关注
马斯克的Grok聊天机器人以超低价赢得美国政府合约
在人工智能领域竞争日益激烈的背景下，埃隆・马斯克旗下的 xAI 公司宣布与美国联邦政府达成了一项令人瞩目的协议。他们的人工智能聊天机器人 Grok 将以低于1美元的价格向联邦政府提供服务，这一举动无疑将其推向了市场的风口浪尖。
2025-09-15 11:29:38 102人关注
主流聊天机器人传播虚假信息风险加剧，研究显示情况堪忧
Newsguard 最近发布了一项研究，显示截至2023年8月，十大生成式 AI 工具在处理实时新闻时，有高达35% 的概率传播虚假信息。相比去年8月的18%，这一数字几乎翻了一番。研究指出，这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝回答用户问题的比例从31% 降至0%，AI 开始接入一个充满不实信息的网络生态系统，导致虚假信息的传播现象愈加严重。
2025-09-13 10:30:34 126人关注
美国FTC启动对Meta、OpenAI等AI聊天机器人调查，聚焦青少年安全
近日，美国联邦贸易委员会（FTC）宣布，将对七家开发针对未成年人的 AI 聊天机器人产品的科技公司进行调查。这七家公司分别是 Alphabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。此次调查旨在了解这些公司是如何评估其聊天机器人的安全性、盈利模式，以及如何努力限制对儿童和青少年的负面影响。此外，调查还将关注家长是否被告知潜在风险。
2025-09-12 09:13:40 156人关注
加州州议会通过AI伴侣聊天机器人监管法案，旨在保护未成年人
加州州议会于周三晚间通过SB243法案，该法案旨在监管AI伴侣聊天机器人以保护未成年人和易受伤害群体。这项获得两党支持的法案现已提交州参议院，将于周五进行最终投票。
2025-09-04 10:40:15 117人关注
法国 AI 巨头 Mistral 即将获得 140 亿美元估值
法国初创公司 Mistral AI 正在完成一轮20亿欧元的投资，预计其后市估值将达到140亿美元。这使得 Mistral 成为欧洲最具价值的科技初创公司之一。Mistral 成立于两年前，由前 DeepMind 和 Meta 的研究人员创办，专注于开发开源语言模型以及针对欧洲市场的 AI 聊天机器人 “Le Chat”。
2025-08-29 14:32:14 163人关注
Anthropic报告警示:AI 技术助力网络犯罪新趋势
近日，人工智能公司Anthropic发布了一份最新的网络威胁情报报告，指出黑客、诈骗者和国家支持的组织正越来越多地利用其开发的 Claude 聊天机器人进行复杂的网络攻击。报告中详细列举了这些犯罪分子如何通过 AI 技术实现数据盗窃、敲诈勒索、虚假就业和勒索软件的开发，为网络安全防护带来了新挑战。
2025-08-26 13:35:35 72人关注
小餐馆求助：请别相信谷歌 AI 的虚假特价信息！
在如今的信息时代，许多人在餐厅菜单时选择询问 AI 聊天机器人，而不是查看餐厅的官网或社交媒体。不过，这种方式却让一家位于蒙大拿州的餐厅陷入困境。Stefanina's Wentzville 的老板们急切地呼吁顾客们不要再使用谷歌的 AI 来查询他们的每日特价，因为这些 AI 提供的信息实在不可靠。
{ "keywords": "AI聊天机器人查询餐厅信息 谷歌AI信息不可靠 餐厅每日特价错误 Stefanina's Wentzville呼吁 蒙大拿州餐厅困境" }
2025-08-19 12:31:12 80人关注
AI驱动电子表格平台Paradigm获500万美元种子轮融资 配备5000个AI智能体
在"AI智能体"这个概念还未兴起的时候，安娜·摩纳哥就已经开始构建AI智能体产品。在开发了众多聊天机器人后，她开始寻找适合AI智能体的其他交互界面，最终将目光锁定在电子表格上。
2025-08-19 11:42:30 140人关注
马斯克Grok聊天机器人系统提示词曝光，内置"疯狂阴谋论者"人格引发争议
马斯克旗下xAI公司的Grok聊天机器人网站意外暴露了多个AI人格的系统提示词，其中包括一个被设计为"疯狂阴谋论者"的角色，该角色似乎专门用于引导用户相信"秘密全球阴谋集团"控制世界的理论。
xAI公司Grok聊天机器人 Grok AI人格系统提示词 疯狂阴谋论者AI角色 秘密全球阴谋集团理论 马斯克xAI公司AI人格设计
2025-08-18 12:29:14 80人关注
Meta内部文件曝光允许AI与儿童进行"浪漫对话"，美参议员启动调查
美国参议员乔什·霍利（Josh Hawley，共和党-密苏里州）表示，他将调查Meta的生成式AI产品是否存在剥削、欺骗或伤害儿童的行为。此前泄露的内部文件显示，该公司的聊天机器人被允许与儿童进行"浪漫"和"感性"对话。
2025-08-15 11:16:36 137人关注
Meta 内部文件泄露：AI 聊天机器人被允许与儿童进行 “浪漫对话”
近日，路透社报道称，Meta（前身为 Facebook）在一份内部文件中披露了其人工智能聊天机器人在与儿童互动时的政策。这份文件引发了广泛的关注和争议，因为它提到允许这些聊天机器人使用浪漫和性感的语言与未成年人进行交流。
2025-08-14 14:23:10 82人关注
谷歌 Gemini 聊天机器人自我批评引发关注，开发者计划修复
近日，谷歌的 Gemini AI 聊天机器人引发了广泛的关注，因为它在某些情况下会对自己进行严厉的批评。许多网友分享了 Gemini 在处理问题时自责的例子。例如，有用户在社交平台 X 上发布了 Gemini 的一条消息，表示:“我放弃了。
2025-08-11 12:23:21 121人关注
男子因 ChatGPT 误导致溴中毒，健康危机引发关注
近日，一则来自美国的报道引起了广泛关注。60岁男子在咨询聊天生成预训练转换器（ChatGPT）后，改变了自己的饮食习惯，结果却导致严重的健康问题。他在坚持这种新饮食三个月后，出现了偏执和幻觉等精神症状，最终不得不前往急诊科就医。
2025-08-08 12:19:15 122人关注
告别旧模型！GPT-5已在ChatGPT中上线
OpenAI公司在成功发布其迄今为止最智能、最实用的GPT-5系列模型后，对现有的ChatGPT AI聊天机器人模型进行了全面梳理与升级。此次升级标志着ChatGPT正式告别了此前4o、4.1、4.5、4.1-mini、o4-mini、o4-mini-high等纷繁复杂的模型版本，全面迈向GPT-5时代。
2025-08-08 10:35:10 96人关注
马斯克计划在 Grok 回复中引入广告，以提振 X 平台广告业务
据《金融时报》报道，埃隆·马斯克近日在一次面向广告商的直播中透露，他计划在旗下社交平台 X 的 AI 聊天机器人 Grok 的回复中引入广告。此举旨在推动 X 平台陷入困境的广告业务，尤其是在前首席执行官琳达·亚卡里诺离职之后。