Mozilla上线AI帮助资源库 结果文档也学会了GPT的胡言乱语

2023年07月05日 11:30 次阅读 稿源:cnBeta.COM 条评论

MDN Web Docs的前身是Mozilla开发者网络,是一个为网络开发者提供学习资源的文档库。该网站致力于成为"由开发者提供给开发者"的可靠信息来源,但Mozilla现在决定将其提供给生成性人工智能算法 - 而开发者丝毫不感到高兴。

2023-07-04-image-10-p_1100.webp

Mozilla最近宣布了AI帮助,这是一个基于人工智能的生成工具,旨在成为网络开发者在MDN Web Docs上搜索答案的新的"问题解决伙伴"。该网站自2005年以来承载了关于CSS、HTML、JavaScript和其他网络技术的文件,它基本上已经成为一个权威的资源,其贡献来自志愿者、微软和Google等大公司,当然还有Mozilla本身。

自2017年以来,MDN服务还托管了决定关闭自己的文档项目的三星公司的所有网络文档。很显然,当Mozilla决定给MDN带来一些大的、出乎意料的补充时,开发者会以不可预知的、热情的方式做出反应。

根据MDN主管Hermina Condei的说法,AI帮助的构思是为了优化开发人员的搜索过程,使其"快速和容易"找到他们需要的信息。AI帮助使用OpenAI的API向用户提供ChatGPT的提示,生成性AI应该从MDN的综合文档库中检索出"最相关的信息"。

ask-question.png

不少了解现状的技术人员知道,生成式人工智能不应该被认为是任何类型的可靠信息来源。该算法并不产生智慧,对事物本身都没有认识,它只是把单词放在一起,试图为用户的文本提示找到最符合统计学原理的答案。

Mozilla正在征求关于人工智能帮助介绍的反馈意见,而开发者们也纷纷作出回应。

为Yari(为MDN服务提供动力的平台代码)打开的GitHub问题清楚地描述了这个"AI帮助"功能现在所处的遗憾状态。开通该问题的开发者"Eevee"将生成性人工智能功能描述为一个"奇怪的决定",对于一个技术参考资料来说,类似人类的答案"可能是偶然正确的,也可能包含令人信服的错误"。更多的开发者加入了讨论,还将人工智能帮助描述为一种"蛇油"药水,称它"比无用的还要糟糕"。

最善意的评论说,AI帮助功能可能会造成"比它可能提供的帮助更多的损害",而其他不太有同情心的开发者则迅速将该功能视为一个"被深深误导"的附加功能,它将大规模地产生虚假信息--"就像所有其他LLM应用程序一样"。

Mozilla社区中似乎没有人会喜欢用生成式人工智能算法来解决关于实际网络文档的问题的想法。最后,一位名叫"sidehowbarker"的MDN核心维护者说,AI帮助系统的加入似乎是Mozilla决定自己做的事情,"没有给任何其他MDN利益相关者任何形式的提示"。

sidhowbarker说,这个新的人工智能功能是一个"非常糟糕的想法",他承诺将亲自在Mozilla内部"尽可能地"升级这个问题,目的是让它"绝对尽快"被删除。

对文章打分

Mozilla上线AI帮助资源库 结果文档也学会了GPT的胡言乱语

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan