因旗下人工智能聊天机器人 Grok 被指致使女性与儿童遭受侵害并引发广泛批评，埃隆・马斯克创立的 xAI 公司宣布，将禁用该工具生成现实人物色情化图像的功能。
该公司于周三在其社交平台 X 上发文称：“我们已采取技术措施，禁止 Grok 账号对现实人物的图像进行编辑，使其呈现身着比基尼等暴露服饰的效果。” 同时表示，这项调整适用于 X 平台的所有用户，付费订阅用户也不例外。就在上周，该公司刚将 Grok 的图像生成与编辑功能的使用权限，限定为仅向付费用户开放。
xAI 公司指出，X 平台的付费订阅用户仍可使用 Grok 编辑和生成其他符合平台服务条款的人工智能生成图像。此外，在相关行为被认定为违法的国家和地区，该公司还禁止 Grok 生成 “现实人物身着比基尼、内衣及同类服饰的图像”。
此次对 Grok 的技术调整，源于数周前有用户利用这款人工智能聊天机器人，在未经当事人同意的情况下，对女性和儿童的图像进行数字 “脱衣” 处理，导致 X 平台上充斥着数千张人工智能生成的色情化图像。
这一功能已遭到全球多国政府与监管机构的谴责。美国加利福尼亚州总检察长办公室已于本周三早些时候，对 xAI 公司正式展开调查。法国、英国等多个欧洲国家也已针对 xAI 及 Grok 启动类似调查程序。欧盟方面同样在开展核查工作，确认相关图像是否违反《数字服务法案》；马来西亚与印度尼西亚则直接限制了本国用户对 Grok 工具的访问权限。
截至目前，马斯克仍在为这项技术辩护，转而将责任归咎于滥用工具的用户。但 xAI 公司在声明中强调：“我们对任何形式的儿童性剥削、未经同意的裸露内容及恶意色情内容，秉持零容忍态度。”
该公司还表示：“我们始终致力于将 X 打造为一个对所有人都安全的平台。”