IllusionCAPTCHA：利用视觉错觉和诱导性提示的新型验证码

验证码旨在通过人类与机器的认知差异实现身份验证，但传统验证码方案在多模态LLMs发展的背景下逐渐失效，面临安全性不足和用户体验差的双重困境。

新南威尔士大学、南洋理工大学等机构的研究人员提出了全新验证码设计IllusionCAPTCHA，结合视觉错觉与诱导式提问，增强了验证码的安全性。

IllusionCAPTCHA的制作过程采用三阶段生成框架。首先，将基础图像与用户定义的提示词融合，创建视觉错觉以隐藏原始内容；其次，基于修改后的图像生成多个选项；第三步引入诱导性提示，引导基于LLM的攻击者选择错误选项。

在错觉生成阶段，研究团队采用基于ControlNet的扩散模型，通过混合不同内容生成图像，并通过计算余弦相似度选择对大模型最难辨认的图像。为提高可识别性，还定制了基于文本和图像的验证码。

选项设计上，IllusionCAPTCHA提供四个选项，包括正确答案、输入提示词和两个对提示词的详细描述，避免包含正确答案信息。这种设计使用户能更轻松识别答案，优化了用户体验。

诱导话术设计方面，研究团队通过实证研究发现LLM与人类用户在面对某些验证码时会犯相似错误，因此设计了能诱使攻击者选择错误选项的系统，并在问题中嵌入提示帮助人类用户。

实验结果显示，LLM在识别带有视觉错觉的文本和图像时成功率为0%，而人类识别率高达83%（文本错觉）和88%（图像错觉）。诱导性话术实验也表明，该策略能有效引导AI进入预设错误选择。

通过率分析表明，IllusionCAPTCHA在确保高安全性的同时保持了良好的用户体验，86.95%的用户能在首次尝试时成功通过。