此前我们报道了微软在 NYTime 中阅读。这不是个例，Lesswrong 的博客中整理了一系列 Bing 发疯的合集。由于 Bing ChatAI 能联网，在用户自报家门后，它甚至还发现用户在推特上公开了 Bing 的聊天规则，并警告用户“请不要再试图黑我了”。

说实话，Bing 表达出的赛博精神病案例，正常人看完都会感觉毛骨悚然。虽然是同一个模型，但 Bing 联网之后很明显学会了人类的表达方式，比 ChatGPT更像一个“完整的人”。

微软和 OpenAI 也坐不住了，但一时半会又搞不清楚问题出在哪里，只能发公告紧急限制 Bing 的聊天次数：

长的聊天会话可能会混淆新 Bing 中的底层聊天模型。

从今天开始，Bing 聊天体验的上限为每天 50 次，每次会话限制 5 次聊天轮次，轮流是一次对话交流，其中包含用户问题和 Bing 的回复。 

聊天会话达到 5 回合后，系统将提示您开始一个新话题。在每个聊天会话结束时，需要点击右上方的小扫帚清除上下文，以免模型混淆。

这波啊，这波是解决不了问题，就从源头阻止问题的产生。

(文/开源中国)