人们向这个聊天机器人报告犯罪但它不是警察

随着人工智能和机器学习的进一步发展,机器人试图模仿人类行为的后果是不可预测的。

作为一个试图创造人物角色的平台,Sequel出现了一个意料之外的反应,即作为“可能原因”机器人的一部分,侦探Kees Larsen开始从用户那里获得实际的犯罪线索。这款机器人于今年4月在Facebook Messenger机器人平台上首次亮相,它可以在人们处理一起神秘谋杀案时与他们交谈。

“我们确实每周至少会收到3-5封来自我们求助热线和举报犯罪的人的电子邮件。他们会说,‘嘿,我的街区有个女士。她不是很好。我想她是卖毒品的。“所以我们给她回了邮件,说这不是真正的警察。请拨打911并报告。”续集制作公司Kiwi的首席执行官奥马尔·西迪基说。

Siddiqui分享了这个故事,讲的是在“恐怖谷”(Uncanny Valley)另一边的困惑用户,以及周一在Botness聚会上约50人的故事。Botness是旧金山一个为期两天的聊天机器人制造商聚会。该活动由messenger初创社区的一些知名人士组织,包括Kik、Slack和微软,以及宣布2016年为“对话商务之年”的克里斯·梅西纳(Chris Messina)。

起初,Sequel希望侦探Kees是无缝的,并且没有给出侦探是机器人的迹象,但是由于试图报告犯罪,公司做了一些改变。

“事实上,我们现在后退了一步,在你和侦探接触之前,我们想的很清楚,嘿,这是一个模拟的体验。这不是真实的。你可以随时输入“stop”来阻止警察和你说话,因为有些人会说:“为什么警察和我说话?”你为什么要找我?我做了什么?’”

就像很多制造机器人的公司一样,Sequel想要让他们的产品带有个性——以至于他们不喜欢“机器人”这个名字。相反,该公司称机器人为“角色”,并给它们起了名字,比如侦探基斯(Detective Kees)。

“机器人不是人们想要联系的东西。它有一种非常科技的、不可接近的、硅谷式的标签,”西迪基说。

西迪基认为,犯罪报告表明,在不断增长的机器人生态系统中,人们的思维方式将发生改变。

机器人制造商必须深思熟虑,提醒用户他们是在与机器人对话,消费者必须适应这样一种想法,即有些对话是与人发生的,有些对话是与机器人发生的。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢