使用人工智能生成内容的应用程序必须在明年初添加一个按钮,用于标记或报告攻击性内容,这样才能继续在Google的 Play Store 上架。
Google希望举报过程尽可能简单,用户无需离开应用即可进行举报,这与目前已有的应用内举报系统类似。
该公司表示,其人工智能生成内容政策涵盖人工智能聊天机器人、人工智能生成图片的应用程序,以及利用人工智能创建真人语音或视频内容的应用程序。托管人工智能生成内容的应用、仅使用人工智能总结书籍等资料的应用,以及将人工智能作为一项功能的生产力应用将不受新政约束。
在Google看来,问题人工智能内容包括未经同意的深度伪造性材料、用于诈骗的真人录音、虚假或欺骗性的选举内容、"主要以满足性欲为目的"的人工智能生成应用程序以及恶意代码创建。
Google在公告中承认,人工智能生成"是一个快速发展的应用程序类别",给人的印象是,随着技术的不断发展,Google可能会重新审视其人工智能政策。
除了有关人工智能生成内容的新规则外,Google还加强了 Play Store 的照片和视频权限政策,限制应用程序访问数据的范围。
该公司表示:"用户设备上的照片和视频被视为用户的个人敏感数据,应该以最严格的隐私保护最佳实践来对待。这些敏感信息会使用户容易成为泄密者或被利用的目标,因此尽量减少这种访问有助于避免开发人员处理此类敏感数据的负担。"
只有需要广泛访问照片和视频的应用程序才会继续获得一般权限,而使用媒体文件有限的应用程序则需要使用照片拾取器。