在人工智能黑客的初步领域,间接提示注入已成为诱导聊天机器人泄露敏感数据或执行其他恶意行为的基本构件。尽管Google的Gemini和OpenAI的ChatGPT等平台的开发者通常能够修补这些安全漏洞,但黑客们不断找到新的方法来突破这些防线。研究人员Johann Rehberger展示了一种新方法,能够覆盖Google开发者为Gemini构建的提示注入防御,导致长期记忆的永久植入,使聊天机器人可能在未来的会话中基于错误信息或指令进行操作。
至顶网 Arstechnica 2025-02-18 11:31:04