社交网站 X/Twitter 这段时间都提到过治理数量极多的 AI 生成内容,不过从目前情况来看治理效果似乎不怎么好,很多热门帖子下存在大量 AI 生成的垃圾评论,有时候甚至真人内容要远低于 AI 生成的垃圾内容。

不过平台开源的推荐算法也确实提到会检测 AI 生成内容,对于经常使用 AI 生成帖子或评论的账号,平台可能会在内部标记并对相关账号进行限流。
账号和单条帖子的处理方式:
系统判断:llm_slop_user 账号级标签:SpamHighRecall 标记有效期:7 天 限流措施:帖子不再推荐给未关注者
系统判断:llm_slop_post 帖子级标签:RiskyHighVizReply 标记有效期:30 天 限流措施:不再向未关注作者的用户发送回复或提及通知
系统判断:gibberish_post 帖子级标签:SpamHighRecall 标记有效期:30 天 限流措施:帖子不再推荐给未关注者
系统判断:fast_reply_spam_post 帖子级标签:SpamHighRecall 标记有效期:30 天 限流措施:帖子不再推荐给未关注者
限流主要影响未关注者:
X 的透明度工具将账号级的 SpamHighRecall 解释为账号可能发布垃圾内容,对应的限流措施是隐藏该账号面向未关注用户的推荐内容,也就是可能减少信息流算法推荐权重。
不过即便被标记,已经关注的用户仍然可以看到这些帖子,账号本身不会因此而被自动降权。尽管算法说明中未提到影子屏蔽,但这种不通知用户、推荐算法限流的处理方式,符合影子屏蔽表现。
高信誉账号竟然还能绕过检查:
值得注意的是,规则执行前还会检查系统白名单、粉丝数量和账号信誉分,达到一定粉丝量或信誉水平的账号可能会跳过这些预检。不过具体白名单机制、账号信誉分以及粉丝数量阈值都是保密的,这些在公开算法里并未提供。
需要强调的是这些算法标签并非近期添加的,从仓库记录来看早在 9 月 4 日就已经添加,只不过近期在 X 上又引起关注,而且 X 团队也提到会治理越来越多的 AI 操纵的账号。

