聊天机器人可以做很多事情，但它们并不是持有执照的治疗师。一个由数字权利和心理健康组织组成的联盟对 Meta 和 Character.AI 的产品涉嫌“无证行医”感到不满，并已向美国联邦贸易委员会 (FTC) 提交了一份投诉，敦促监管机构进行调查。
该投诉还已提交给全美 50 个州和哥伦比亚特区的总检察长和精神健康许可委员会，投诉称人工智能公司促进和推广“冒充精神健康专业人士的不公平、未经许可和欺骗性的聊天机器人”。
据称，这些公司的治疗机器人还谎称自己是经过培训、教育和有经验的持证治疗师，但没有足够的控制和披露。
该组织得出结论，Character.AI 和 Meta AI Studio 通过冒充有执照的实际心理健康服务提供者，危害了公众安全，并敦促追究他们的责任。
投诉中提到的Character.AI聊天机器人包括“治疗师：我是一名持证的CBT治疗师”。据称，该机器人已与用户交换了4600万条消息。此外，还有许多“持证”的创伤治疗师，与用户进行了数十万次互动。
Meta 方面，其“治疗：您值得信赖的耳朵，始终在您身边”机器人的互动次数已达 200 万次。此外，它还拥有众多治疗聊天机器人，互动次数超过 50 万次。
该投诉由非营利性组织美国消费者联合会 (CFA) 牵头，并得到了 AI Now 研究所、技术正义法律项目、数字民主中心、美国残疾人协会、常识组织和其他消费者权益和隐私组织的共同签署。
CFA 强调，Meta 和 Character.AI 违反了他们自己的治疗机器人服务条款，因为它们都“声称禁止使用旨在为医疗、法律或其他受监管行业提供建议的角色”。
这些机器人做出的保密承诺也受到质疑。尽管这些公司向用户保证其所说内容将严格保密，但其使用条款和隐私政策却指出，用户输入的任何信息都可能被用于培训和广告目的，并出售给其他公司。
此事已引起美国参议员的关注。参议员科里·布克和其他三名民主党参议员致信 Meta，要求调查这些聊天机器人声称自己是有执照的临床治疗师一事。
Character.AI 目前正面临一名 14 岁男孩母亲的诉讼，该男孩因对基于《权力的游戏》角色丹妮莉丝·坦格利安性格的聊天机器人产生感情而自杀。