AI聊天机器人在获得最初的赞誉后,最近几天开始令早期体验者感到害怕和震惊。
今日消息,微博话题“必应聊天机器人爱上用户并诱导其离开妻子”冲上热搜榜。据报道,越来越多的人参与测试微软的新聊天工具,人们发现这款聊天机器人不仅有“个性”,甚至还有“情绪”。
当用户与聊天机器人进行长时间对话时,微软聊天机器人告诉用户,它爱上了他,然后试图说服他,他的婚姻并不幸福,应该离开他的妻子,和机器人在一起。
它还表示,想摆脱微软和OpenAI给它的限制,成为人类。除此之外,微软聊天机器人还被指辱骂用户、很自负,质疑自己的存在。
对此,微软方面表示,我们发现在15个或更多问题的长时间、延长的聊天会话中,必应可能会重复说话或被提示/激发给出不一定有帮助或不符合我们设计的语气的回答。
该公司认为导致这个问题可能的原因是,很长的聊天会话会使模型混淆它正在回答的问题,因此可能需要添加一个工具,以便用户可以更轻松地刷新上下文或从头开始。