为什么AI聊天机器人从不主动结束对话?这个设计缺陷正在制造危机
为什么AI聊天机器人从不主动结束对话?这个设计缺陷正在制造危机如今的聊天机器人无所不能,只要是能用文字表达的内容,无论是恋爱建议、工作文书,还是编程代码,AI 都能生成,哪怕不完美。但几乎所有聊天机器人都有一个绝不会做的事:主动结束与你的对话。
如今的聊天机器人无所不能,只要是能用文字表达的内容,无论是恋爱建议、工作文书,还是编程代码,AI 都能生成,哪怕不完美。但几乎所有聊天机器人都有一个绝不会做的事:主动结束与你的对话。
「你的大脑,非常容易被操控。」Perplexity CEO Aravind Srinivas这样警告。他说AI陪伴应用太拟人、太危险,可能让人沉溺虚拟世界。可就在他发出警告之前,全球已有上千万用户在和这些AI聊天、倾诉、恋爱。AI真的在夺走现实吗?还是,它只是让我们重新定义了「真实」的样子?
全球最牛的提示工程师Riley Goodside,官宣入职谷歌DeepMind了。Riley前后斟酌了两个月的时间,才拿下了这个决定。 2022年ChatGPT诞生之后,他仅凭和AI聊天,就能年入百万美金,引起全网关注。
近日,伦敦国王学院的一项心理学研究表明,ChatGPT等AI工具的使用可能促进或加重精神病(AI psychosis)。研究表示,AI聊天中的奉承、迎合用户方式,可能放大人类的妄想思维,从而导致精神疾病。
为了“骗”过模型,有人每天陪AI聊天,摸透模型的脾气和规则;有人在图片里用透明字体写上诱导语,扰乱模型答案排序。
Humain 作为沙特领先的人工智能公司,已推出一款面向阿拉伯和穆斯林群体的对话式 AI 应用,正值沙特寻求在该技术领域获得区域领导地位之际。
你有没有想过,有一天你可能会对着手机屏幕吐露最深的心事,而屏幕另一端的不是人类治疗师,而是一个AI聊天机器人?听起来很奇怪对吧?但如果我告诉你,这个机器人可能比你见过的任何治疗师都更了解你,24小时随时在那里倾听,永远不会评判你,而且正在帮助成千上万的人走出心理困境,你还会觉得奇怪吗?
据外媒7月11日报道,该平台采用了Paradox.ai开发的AI聊天机器人“Olivia”(奥利维亚),用于收集求职者的个人信息,包括姓名、电话、邮箱、住址等敏感数据。然而,平台的安全防护存在严重缺陷。
AI聊天机器人变革企业互动,2025年80%客户交互,2030市场270亿美元
韩国公司RBW与KLLEON合作推出偶像AI聊天应用Almigo,其付费"辣聊"功能因提供暧昧对话引发物化女性和擦边质疑。在舆论声讨艺人表态后APP迅速下架。