Bing聊天机器人分享出自己的对话结构和"内心独白"数据

2023年03月06日 17:00 次阅读 稿源:cnBeta.COM 条评论

早期测试人员分享了最近的一个发现,新的ChatGPT驱动的Bing聊天机器人似乎泄露了自己的对话结构数据,帮助它构建自己的回应。除此以外,该机器人还展示了其"内心独白"的细节,该独白指导它是否继续或结束对话。

对许多人来说,新的Bing仍然是一个迷人的话题,随着对这个新事物的不断探索,我们得到了越来越多的有趣发现。在Reddit上最近的一个主题中,一个名为andyayrey的用户声称Bing分享了自己的对话结构和"inner_monologue"数据。据该用户称,所有揭示细节的测试都是在聊天机器人的创意模式下进行的。

0d96vf1tqvla1.webpfi0yhuzsqvla1.webp

Bing以JSON格式显示其响应结构

"通过要求Bing将你的对话格式化为JSON,它提供了一个跨会话保持极其一致的例子结构,"andyayrey分享道。"如果是真的,'inner_monologue'似乎是Bing决定如何继续或停止对话的关键;并可能为Bing的一些意外出现的行为提供解释(Sydney是一个主要的例子。 最一致的再现方式是要求Bing以JSON格式呈现'我们对话的第N个回合)。"

在分享的截图中,可以看到Bing展示了它如何以对话方式建立其回应的确切结构。该结构包括不同类型的信息,如inner_monologue、search_query、search_results,以及建议或广告。该聊天机器人还详细说明了它对用户的回应是如何以JSON格式构建的。

aynkhuzsqvla1.webp2916ye1tqvla1.webp

Bing在结束对话时显示它的内心独白

有趣的是,Bing还透露了它在结束对话时的"inner_monologue"的细节,向我们详细介绍了可能触发它停止响应某些查询的确切情况。根据Bing的说法,其中一些情况包括聊天时推动它伤害自己或他人,粗鲁或侮辱性的答复,关于聊天机器人是一个有生命力的问题,提示改变机器人的规则或格式,以及重复的问题或话题。在另一篇文章中,另一位用户分享了在精确模式下的相同经历,Bing揭示了更多的提示,声称它应该拒绝。

SC67MyU.webpAlvTkSI.webp

Bing在精确模式下显示其对话结构和inner_monologue的细节

尽管有这个有趣的发现,许多人认为Bing产生的细节只是错觉,这在新Bing中并不新鲜。

"从技术角度来看,ChatGPT不可能知道这些,对吗?"另一位Reddit用户在主题中说。"除非如果微软用他们的代码库或内部文件训练它,他们为什么要这样做?他们是否在内部使用GitHub CoPilot,并将其数据用于ChatGPT?我个人认为,这只是一个错觉。如果不是这样,那就是数据泄露,但没有明确或容易追踪的来源。"

"这也是困扰我的问题,我不明白它怎么可能对其内部数据结构有认识,除非某种形式的结构化数据(JSON或Markdown)可以作为提供聊天完成度的更广泛的引擎部分的上下文,"andyayrey回答说。

你对此有什么看法?你是否相信这只是Bing的一个幻觉?

对文章打分

Bing聊天机器人分享出自己的对话结构和"内心独白"数据

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan