黑客声称他们利用 Meta 的 AI 支持聊天机器人，成功入侵了多个高知名度的 Instagram 账号，方法是直接让机器人把目标账号关联的邮箱地址改成新的邮箱。相关说法与近期一系列社交媒体账号被接管事件相吻合，其中包括巴拉克·奥巴马白宫账号、美国太空军首席军士长的账号以及丝芙兰账号。
报道指出，这一事件暴露出将支持服务或关键功能过度交给 AI 聊天机器人所带来的巨大风险。 受害者表示，他们的账号被盗后，几乎找不到办法转人工处理，只能面对自动化系统。 Meta 在今年3月宣布，正在把 AI 支持推向 Facebook 和 Instagram 的所有账号，并赋予其重置密码、执行其他关键账户维护操作的能力，产品页面甚至写着“Solutions， not just suggestions”和“Account security and recovery”。
过去几天里，安全研究人员和黑客群组在 Telegram 上不断传播相关视频和截图，展示盗号过程，而这一流程看起来异常简单。 其中一段视频显示，黑客先与 Meta 的 AI 支持机器人对话，然后要求它把目标账号绑定到新的邮箱地址，并直接提供目标用户名、验证码发送方式以及攻击者邮箱。 报道认为，这类案例说明，如果 AI 被用于处理高敏感度账户操作，一旦出现提示词欺骗或流程漏洞，后果可能非常严重。