Mozilla“负责任的AI挑战赛”最高奖颁给了一项反人工智能水印技术

2023年06月03日 00:17 次阅读 稿源:cnBeta.COM 条评论

Mozilla组织了"负责任的人工智能挑战",以促进生成性人工智能技术和大型语言模型(LLM)的使用更加符合道德,并为社会所接受。这项挑战现在已经完成,Firefox基金会已经宣布了最高奖项的获得者,他们将获得资金将其项目投入市场。

2023-06-02-image-3-j_1100.webp

3月宣布的Mozilla负责任的人工智能挑战赛是一个新的孵化器计划,旨在促进人工智能解决方案为整个社会服务,而不是贪婪的大公司或善于制造麻烦的超级富豪。美国基金会计划刺激商业上可行的人工智能机会,同时为那些认为这种新的颠覆性技术将在未来几年给世界带来启示、混乱和广泛的失业的人提供答案。

Mozilla现在已经宣布了其负责任的人工智能挑战赛的获奖者,这三个项目在开发以人为本和值得信赖的人工智能应用和(商业)解决方案方面表现出"独创性、创新性和熟练性"。该基金会似乎花了数周时间审查了"数百个"消费技术和生成性人工智能提案,汇集了来自世界各地的"建设者"和企业家,他们专注于创造更好的产品和更负责任的公司。

经过评审团--人工智能学者、开发者、企业家的"仔细斟酌",Mozilla选择Sanative AI作为其最高奖项的获得者,获得5万美元的奖励。该公司正在开发一种"反人工智能水印"解决方案,旨在保护图像和原始艺术品不被(滥用)作为扩散模型和生成性人工智能算法的训练数据。

2023-06-02-image-4-j_1100.webp

该公司说,Sanative的"对抗性人工智能工具"作为一种保障措施,防止人工智能应用程序的利用,其第一个产品是一种技术,旨在将"少量的视觉噪音"应用于上传至互联网的图像。这种噪音对上述图像的视觉影响应该是最小的(甚至是看不见的),同时它还可以混淆机器学习算法,从而产生"扭曲的"结果。

Mozilla负责任的人工智能挑战赛的二等奖得主是Kwanele聊天机器人(30000美元),这项技术旨在通过提供快速的帮助和确保收集"可接受的证据"来保护暴力社区中的妇女。最后,三等奖(20000美元)由Nolano获得,这是一个新训练的语言模型,使用自然语言处理在本地(离线)机器上运行LLM,如笔记本电脑或智能手机

除了钱之外,三位负责任的人工智能挑战赛的获胜者将得到人工智能和技术行业领导者的"指导",以及在他们继续发展和完善他们的项目时,对Mozilla的资源和社区的一些未明确的访问权限。Mozilla的创新和产品战略总监Britney Crooks进一步表示,评审过程被设想为"激励所有候选人",激励他们继续开发负责任的AI解决方案,即使他们没有获胜。

对文章打分

Mozilla“负责任的AI挑战赛”最高奖颁给了一项反人工智能水印技术

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan