- 上云资讯 -
阿里云云原生
阿里云开发者
腾讯云开发者
火山引擎开发者社区
魔搭ModelScope社区
微软科技
Azure云科技
Zilliz
OpenAI
Anthropic
Gemini
LangChain
Hugging Face
Mistral
2025-04-12 10:41:40 70人关注
AI 模型隐瞒推理过程引发担忧，研究称其 “思考” 常常不可信
在教育中，我们常常被教导要 “展示你的思考过程”，而现在一些高端的 AI 模型声称能够做到这一点。然而，最新的研究却表明，这些模型有时会隐藏真实的推理过程，反而编造出复杂的解释。来自 Anthropic 的研究团队近期对模拟推理（SR）模型进行了深入研究，包括其自家开发的 Claude 系列和 DeepSeek 的 R1模型，发现这些模型在展示其 “思考” 时，常常不透露它们所依赖的外部信息或使用的捷径。