这项由Mohamed bin Zayed人工智能大学研究团队主导的研究首次建立了针对大型音频语言模型的安全性测试基准。研究发现,当前主流音频语言模型在面对特定音频扰动时,即使是微小的声学变化也能显著降低其安全防护能力,导致生成有害内容。研究团队构建了包含1,495个对抗性音频样本的数据集,并开发了音频扰动工具包来生成更具挑战性的测试样本。实验评估了七种主流模型,结果显示没有一个模型能在所有安全维度上保持一致的鲁棒性,这为音频AI安全研究提供了重要基础和方向。
至顶网 科技行者 2025-05-27 17:08:04