上云资讯 - 来上云吧，企业上云一站式服务

2024-12-26 18:45:40 63人关注

大模型竟在“装傻”！研究发现它们知道正确答案却故意说错

一项由以色列理工学院主导的最新研究表明，大型语言模型（LLM）可能“深藏不露”，掌握的知识比实际表现出来的更多。研究人员发现，LLM 的内部表征编码了关于其输出正确性的信息，即使它们最终生成了错误的答案，也能在内部识别出正确答案。