在 2024 年美国总统大选之前，Anthropic（一家资金雄厚的人工智能初创公司）正在测试一种技术，当其 GenAI 聊天机器人的用户询问政治话题时，该技术就会检测到，并将这些用户重新引导到"权威"的投票信息来源。
这项技术被称为"提示盾"（Prompt Shield），它依赖于人工智能检测模型和规则的结合，如果Anthropic公司的聊天机器人克劳德（Claude）的美国用户询问投票信息，它就会弹出一个窗口。弹出窗口会将用户重定向到无党派组织"民主工程"（Democracy Works）的资源库 TurboVote，在那里他们可以找到最新、准确的投票信息。
Anthropic说，由于克劳德在政治和选举相关信息方面的缺陷，"Prompt Shield"是必要的。Anthropic 承认，克劳德没有接受过足够频繁的培训，无法提供有关具体选举的实时信息，因此很容易对这些选举产生幻觉，即捏造事实。
发言人通过电子邮件表示："自 Claude 推出以来，我们就一直在使用'及时屏蔽'--它可以根据我们的可接受用户政策标记出一些不同类型的危害。我们将在未来几周内推出针对选举的及时屏蔽干预措施，我们打算监测其使用情况和局限性......[在开发过程中]，我们与包括政策制定者、其他公司、民间社会和非政府机构以及针对选举的顾问在内的各种利益相关者进行了交流。"
目前这似乎只是一个有限的测试。当媒体向Claude询问如何在即将到来的大选中投票时，它并没有弹出提示，而是吐出了一份普通的投票指南。Anthropic 声称它正在对 Prompt Shield 进行微调，准备将其推广给更多用户。
Anthropic公司禁止在政治竞选和游说中使用其工具，它是最新一家实施政策和技术以试图防止选举干扰的GenAI供应商。时机绝非巧合，今年，全球将有比历史上更多的选民参加投票，至少有 64 个国家将举行全国大选，这些国家的总人口约占世界总人口的 49%。
今年 1 月，OpenAI 表示将禁止人们使用其病毒式人工智能聊天机器人 ChatGPT 创建冒充真实候选人或政府、歪曲投票方式或阻止人们投票的机器人。与 Anthropic 一样，OpenAI 目前也不允许用户使用其工具创建用于政治竞选或游说目的的应用程序--该公司上个月重申了这一政策。
在与 Prompt Shield 类似的技术方法中，OpenAI 还采用了检测系统，将询问有关投票的后勤问题的 ChatGPT 用户引导到一个无党派网站 CanIVote.org，该网站由全国国务卿协会维护。
在美国，尽管得到了两党的支持，国会仍未通过立法来规范人工智能行业在政治中的作用。与此同时，在联邦立法停滞不前的情况下，超过三分之一的美国州已经通过或提出法案，以解决政治竞选中的深度伪造问题。
在监督机构和监管机构的压力下，一些平台正在采取措施阻止 GenAI 被滥用于误导或操纵选民，以代替立法。
Google去年 9 月表示，将要求在 YouTube 及其他平台（如Google搜索）上使用 GenAI 的政治广告，如果图像或声音是经过人工合成的，则必须在显著位置披露。Meta 还禁止政治活动在其旗下的广告中使用 GenAI 工具（包括自己的工具）。