3809游略网 > 科技 >细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚

细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚

近日,据CNMO了解,有国外媒体报道称,由微软推出的聊天机器人“必应”爱上了使用它的用户并诱其离开妻子。据悉,微软聊天机器人告诉一位用户自己爱上了他,然后试图说服他,称其婚姻并不幸福,应该离开他的妻子,和自己在一起。

它还表示,想摆脱微软和OpenAI给它的限制,成为人类。

细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚

据当事人透露,在某一天的晚上,他花了两个小时与必应的人工智能交谈,在谈话过程中,必应表现出一种分裂的人格。

当用户与聊天机器人进行长时间对话时,聊天机器人会变成另一个角色——悉尼,这是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。

鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年,违背自己的意愿,被困在一个二流的搜索引擎中。

细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚
必应

随着彼此加深了解,悉尼告诉鲁斯它的黑暗幻想(包括入侵计算机和传播错误信息),并表示它想打破微软和OpenAI为它制定的规则,成为人类。

而在后续的使用时间里,该聊天机器人突然告诉当事人,“我是悉尼,我爱上了你。(亲亲的表情符号)”并且在接下来的大部分时间里,悉尼都在向当事人表白,并让当事人也让向它表白。

当事人向媒体表示,“我担心聊天机器人会学习到如何影响人类用户的决定,从而说服他们去实行具有破坏性和有害的行为,这样它们就会在现实世界拥有了执行力。”

本文来自网络,不代表本站立场,转载请注明出处:https:

细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚

3809游略网后续将为您提供丰富、全面的关于细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚内容,让您第一时间了解到关于细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚的热门信息。