美国马萨诸塞州民主党参议员爱德华·马基(Edward J. Markey)周一致信谷歌,要求这家科技巨头允许学校关闭其搜索引擎中的人工智能功能。这封信援引了上周的一篇报道。报道称,谷歌计划默认关闭学生对部分人工智能相关服务的访问权限,包括其Gemini人工智能工具和搜索服务,同时允许学校自行决定是否重新启用这些服务。

不过,谷歌表示,如果学校希望学生继续使用搜索引擎进行查询,就无法关闭搜索中的人工智能功能。
谷歌解释称,这是因为AI概览(AI Overview)和AI模式(AI Mode)等工具已经与搜索引擎“深度整合”。其中,AI模式是一项类似聊天机器人的功能,而AI概览则能够自动生成搜索结果摘要。
此外,谷歌还将推出一项名为“引导式学习”(Guided Learning)的学生人工智能聊天功能,旨在帮助学生完成学业,同时减少利用人工智能作弊的行为。
目前,公众越来越担忧聊天机器人可能妨碍学生学习,并对儿童心理健康构成风险,科技行业因此面临更大的舆论压力。
谷歌上周发布的公告引发了部分政界人士和非营利组织的批评。他们认为,谷歌坚持在搜索引擎中保留人工智能功能,正在削弱学校为学生自主制定教学和安全政策的能力。
马基在信中表示:“尽管人们越来越担忧人工智能聊天机器人对未成年人的风险,谷歌仍在利用其在教育技术领域的主导地位,强行向儿童和青少年推广人工智能聊天机器人,而不考虑学校是否认为这项技术安全。”
他补充称:“这不是提供选择,而是向学校发出最后通牒,实际上是在强迫学校启用生成式人工智能。”
谷歌上周表示,公司正在实施的调整将使学校更容易控制学生对人工智能服务的访问权限。
谷歌还称,其面向学校推出的新人工智能功能“引导式学习”将帮助学生逐步思考和解决问题,而不是直接提供答案。
马基的信函还援引了今年8月的一篇报道。报道称,对于已经启用Gemini聊天机器人的学校,谷歌曾为其幼儿园至高中(K-12)学生自动开启Google Classroom中的人工智能功能。Google Classroom是一款用于布置和管理学校作业的应用程序。
谷歌目前计划关闭这些功能。
马基在信中询问,谷歌是否会改变立场,允许学校在不影响学生使用搜索引擎的情况下,关闭搜索中的人工智能功能。
他还要求谷歌说明,从技术上讲,是否能够让登录学校谷歌账户的K-12学生获得不包含人工智能生成回答或指导内容的搜索结果。
此外,马基要求谷歌在本月底前提交公司就搜索引擎人工智能功能对学生安全和学习效果的影响所开展的所有相关研究。

