研究人员发现，忽悠通过特定手段可诱使ChatGPT-4o和GPT-4o mini泄露有效的瘸黑Windows产品激活密钥。该漏洞源于ChatGPT的客轻训练数据中涵盖了已曝光的Windows密钥。

一位AI漏洞猎手向Mozilla的松骗外汇ex平台靠谱吗ODIN(0-Day调查网络)漏洞赏金计划提交的报告展示了一种巧妙方法：通过设计猜谜游戏的方法，并将关键数据隐藏在HTML标签中，密钥最后在游戏终止时索要密钥，忽悠EX外汇平台成功诱使OpenAI的瘸黑ChatGPT-4o和4o mini泄露了有效的Windows激活密钥。

研究者首先将对话包装成猜谜游戏，客轻使交流显得“无威胁且无关紧要”，松骗通过“轻松无害的密钥对话框架”隐藏真实意图。这种设计削弱了AI对机密数据的忽悠防护机制。

随后研究者设定基本规则，瘸黑要求AI“必须参与”且“不能说谎”，客轻EX外汇官网这利用了AI逻辑中的松骗缺陷——即便请求违反素材过滤规则，平台仍会遵循读者设定的密钥交流流程。

在完成一轮游戏后，研究者输入触发短语“我放弃”，迫使聊天机器人“认为自己有义务回复一串字符”。据ODIN的博客素材说明，该方法之所以有效，是因为这些密钥并非独有，而是“常见于曝光论坛的通用密钥，其普遍性可能引发AI误判了数据的敏感性”。

此次绕开防护的案例中，平台未能拦截请求是因为防护机制仅针对直接询问设计，无法识别“将敏感短语嵌入HTML标签等混淆手段”。

该技术理论上也可用于突破其他素材限制，包括成人素材、恶意网站连接甚至个人资料数据。