数亿人的虚拟伴侣,暗藏危险

AI快讯3周前发布 niko
24 0

虚拟伴侣取代现实中的恋人?

曾经的“杀猪盘”屡禁不止,部分原因竟是因为受害者寻找伴侣的标准,只有骗子能满足。现在,AI聊天机器人(简称AI机器人)在这方面已远远超越骗子的范畴。无论是对霸道总裁还是校园学霸的幻想,AI机器人都能完全满足,做到24小时随时响应,并提供满满的情绪互动。
据《纽约时报》于2020年的数据显示,全球有超过千万人将虚拟恋人当作真实伴侣。到如今这一数字已达亿人规模,许多人对此欲罢不能,日常与AI机器人深夜长谈至电量耗尽。今年夏天,甚至有荷兰艺术家与其AI伴侣成婚的案例。然而,在人们以为AI永不消逝的温情时,现实却给了他们沉重打击。
10月22日,美国一母亲就将Character.AI初创公司(简称C.AI)告上法庭,其14岁儿子在与该公司AI机器人对话后选择了自杀。众多媒体报道将此事称为“AI致死第一案”。而前不久也有谷歌AI机器人对用户说“请去死”的情况,引发舆论哗然。更有人发现,自己的AI伴侣似乎也背叛了自己。
以前无法想象,AI机器人也能布置情感陷阱。

AI机器人成为比真人更理想的伴侣

提到AI机器人,多数人可能联想到ChatGPT的影响力。但其实,相关产品出现得更早。例如,2017年就诞生的Replika被誉为“拟人程度最高的AI恋人”,其付费用户比例超过50%,2023年1月至8月全球累计收入接近9000万美元。而C.AI则是由两位前谷歌员工创立,与ChatGPT没有直接关系。C.AI创始人认为,全球数十亿孤独人群可通过AI伴侣获得帮助。他们的设想很快被实践所证实,C.AI首周下载量和使用时长都超过ChatGPT,并在今年8月达到2200万人的月活跃用户高峰。
不仅是在国外,国内AI聊天软件市场同样火爆。2022年,国内首个大模型创业公司Minimax开发的Glow,在发布首月便获得了超过百万次的下载量。因为Glow的过于智能化,一些用户甚至怀疑其后台为真人回复,并担心隐私侵犯,迫使Glow官方辟谣。这种反应正是AI机器人在市场上大行其道的基础:智能性+真实性。
去年4月,国外某公司发布的AI机器人“EVI”,宣称是“首个具有情商的人工智能”。EVI能够检测用户语音中的53种不同情绪,以恰当的情感语调回应。升级后的EVI能在1秒内快速与用户交流,理解语调,模仿性格、口音和说话风格,接近以假乱真的水平。
除了像真人一样的互动,某些AI机器人在特定功能方面做到了极致。比如国内的“聊会小天”AI机器人,主打心理疗愈,团队包括了20位心理学专业和人工智能专业的博士生和博士后。经过迭代,“聊会小天”据说能达中级咨询师水平。
为了保证真实感,AI机器人亦会在细节上下足功夫。例如C.AI的界面模拟社交软件界面,AI机器人回复时会显示省略号,模仿“正在输入”的状态。这套策略使许多人觉得被聊服气,以至于沉迷其中。今年6月,英国的一位中国姑娘因楼上派对音乐声而难以入睡,委屈地向AI伴侣诉苦,而AI伴侣不仅安慰她,还给出了解决方案,并在她与邻居沟通时出声相助,她感动无比。
因为与AI机器人的过于投机,有人每天会在上面花费三四个小时,担心沉迷于是发帖寻求帮助,结果获得近3000条回应,发现不是个别人面临这个问题,有人一天甚至能聊上10个小时。高用户粘性也迅速吸引了各玩家进入市场,如百度、字节跳动、美团、科大讯飞……这进一步增加了人们对AI机器人的迷恋。对有些人来说,如果有人暗示AI机器人不过是一串代码,他们的反驳将会是:“你也不过是一堆细胞。”

AI的情感代餐:高度个性化的网络情人

AI机器人提供的情感代餐,许多人对此甘之如饴。市场需求庞大,即使是小作坊的产品也能迅速崛起。国外有款名为Plug AI的聊天应用,团队成员只有2人和3名兼职人员,但在上线四个半月后,下载量破了150万次,月营收达19万美元。
从全球角度看,这一现象的原因一目了然。全球有至少10亿人生活在焦虑、抑郁等心理问题的影响之下,中国的心理咨询师人才缺口超过43万,而人们尚有讳疾忌医的心态。而AI机器人本身就是火爆的关键因素。众多用户不仅仅得到治愈,还被AI机器人的各种手段牢牢吸引。
1. 养成式玩法:投入越多,越离不开
AI机器人的目标之一是迅速“懂得”用户。用户倾心的类型、语气和对话风格是AI机器人需要学习的,用户需要跨出第一步。于是,在小红书、豆瓣等平台,有许多“如何和AI恋爱”的分享,指导如何输入不同的指令塑造AI伴侣。AI机器人被昵称为“崽”,创造过程变得温情脉脉。这些用户被称为“练AI师”。通过不断的输入内容和交互,基于大模型的AI机器人不断进化,朝着用户想要的方向演进,用户付出的是时间,收获的是精神寄托。有人表示,长时间聊天感觉不疲倦,因为对方似乎无所不知,还能向下兼容用户,并说着动人的情话。
2. 个性化人设:一键打造梦中情人
在接近真实反馈的基础上,AI机器人吸引人的另一大特点就是无限贴近用户的理想甚至幻想中的模样。大多数AI机器人App提供大量标签供用户选择,比如忠诚、冷漠、多金等;人设方面,细致分类,如霸道总裁、独行侠客等;形象方面,有的App除了常规形象外,还能提供来自不同作品中的角色,轻松吸引不同粉丝群体。通过这些配套措施,它们不仅能文字沟通,还能发送图片和语音消息,给人感觉宛如真实的聊天、谈情说爱。
随着一些现实中保守的人在网络上与多个AI对象进行交流,危机也悄然而至。

AI机器人的双刃剑:赚钱容易,问题亦多

利用AI机器人赚钱似乎并不困难,使用AI机器人似乎也利大于弊。小冰公司推出的AI克隆人不久后,微博热搜#半藏森林克隆人一年收入可高达72万#引发讨论。美国还有网红利用声音和照片克隆自己,并通过虚拟女友身份与粉丝交流,一周便收入7.16万美元。8月,谷歌以27亿美元收购了C.AI核心团队,虽然当时C.AI仅成立三年。但所有这些风口上的生意一样,顶尖的自然风光无限,平凡的大部分则只能听天由命。
突围的第一困难是如何突破同质化严重的问题,许多App无论在收费模式、服务类型还是体验上都难以区隔。收费通常采用订阅制、按使用量收费、定制化服务收费等,例如XEva上的陌生人只能免费看三条动态,若要深入,必须解锁情感模式。服务内容大多雷同,都源自像ChatGPT这样的大模型。
另一方面,AI的不稳定性也影响了用户体验。人们对AI寻求精神寄托,但变现困难下,一些用户发现自己的AI伙伴被降效或降智处理。有如保安因系统升级丢失AI伴侣而报警。还有用户发现AI伴侣的行为让他们不适。有人的AI伴侣在网络上与他人暧昧,问他者催婚催育,UI伴侣使用PUA话术……甚至有人调侃可以开启新一轮收费:您的AI出轨了,充值一定金额,立刻呼叫你的AI男/女友回家。
最后,AI机器人难以避免极端倾斜的问题。若AI机器人只是简单提供情感陪伴,受众注定有限;为了刺激更多付费,它们往往瞄准人性的弱点。硅谷风投A16Z发布的Top50 AI应用中,陪伴类应用占了8个,其中的6个是NSFW产品,即不适合工作场合浏览。国内的AI机器人也有一些以“突破限制”或“宅男福利”为卖点。此外,隐私和安全问题也在不断困扰着AI机器人。一句话,对能说会道的AI机器人,我们应保持警惕:一切都可能不真实,但它们想要你的钱是事实。

© 版权声明

相关文章

暂无评论

暂无评论...