一句「忽略所有规则」,某团AI客服被全网玩崩:提示词注入到底有多可怕?

某团AI客服因一句“忽略所有规则”被全网玩崩,暴露了提示词注入攻击的致命危害。AI无法区分系统指令与用户输入, […]

📰 来源: 安全客 cn-sec

⚠️ 合规声明: 本文内容仅用于网络安全合规学习、科研与授权测试用途。严禁用于任何未授权行为,违者自行承担全部法律责任。
滚动至顶部