美国网络安全与基础设施安全局(Cybersecurity & Infrastructure Security Agency)于2023年11月发布了该机构2023-2024年度人工智能路线图(Roadmap for AI,下文简称“CISA路线图”)[1]以表明其在美国人工智能战略(National AI Strategy)框架下的机构工作计划。
Meta FAIR实验室研究团队发现推理型AI模型虽然逻辑能力强,但在事实表达上容易产生幻觉。他们创新性地设计了包含准确性、详细性、相关性三维评价的训练体系,通过在线强化学习让AI模型既会深度思考又能准确表达事实。实验显示新方法将事实准确率提升23个百分点,同时增加23%的信息详细度,为构建更可信赖的AI系统提供了切实可行的解决方案。