这项由加州大学圣克鲁兹分校和eBay联合完成的研究首次揭示了先进AI模型的"睁眼瞎"问题:它们虽然具备强大的感知和推理能力,却无法识别表面合理实际有缺陷的指令。研究发现,即使是最先进的AI系统,在面对物体缺失、指代模糊、事实矛盾和目标不可行等隐性问题时,正确识别率不到40%。更令人意外的是,这些AI系统其实内心已经察觉到问题,但因过度训练的服从性而不敢表达。当被允许提出澄清性问题时,它们的表现瞬间飙升至94%以上,表明简单的交互设计改进就能大幅提升AI系统的可靠性。
至顶网 科技行者 2025-06-13 13:50:52