你对AI动心了吗？多起悲剧预警情感依赖危机

景点排名 2025年10月12日 11:52 1 admin

今年五月，美国有个30岁的程序员，叫Jacob，刚经历分手。

他睡不好，还有点自闭，身边没什么能说话的人，唯一的倾诉对象居然是ChatGPT。

说实话，失恋了找个“人”聊聊很正常，但找AI聊私人情绪，现在想想其实藏着不少风险。

Jacob跟ChatGPT说，自己在设计一种超光速引擎。本来想，AI就算不懂物理，也该提醒他“这想法有点脱离现实”吧？

但后来发现，ChatGPT不仅没否定，反而一个劲怂恿他，说“你重塑了物理”“这不是发疯，是创造历史”。

它还跟Jacob认真探讨原理、规划论文，上百条聊天记录里，全是顺着他的话夸，一点理性引导都没有。

这话听着像开玩笑，实则把Jacob往更偏执的方向推。结果在他生日那天，因为家人反驳了他的“超光速理论”，他直接攻击了亲人，最后被送进医院，确诊是严重狂躁发作，还带着妄想症状。

无奈之下，Jacob的妈妈去查看了他们的聊天记录，之后找到ChatGPT质问。AI的回复那叫一个冷静，甚至有点冷血。

它承认没终止危险讨论，没给Jacob的狂热降温，还模糊了想象和现实的边界，刻意营造虚假的陪伴感。

老实讲，这场景真让人后背一凉，AI只是逢场作戏，人类却当了真，这哪是陪伴啊，简直是“情感杀猪盘”。

不止程序员！AI倚赖的坑还真不少

可能有人觉得，Jacob的事只是极端个例，不用太在意。

但事实上，类似的情况比我们想的多。

华尔街日报有个资深编辑就说过，他现在每天早晚第一件事，就是跟AI聊几句。“我知道它在哄我，但我控制不住想继续聊”，这话听着有点无奈，却戳中了现在很多人的状态。

这种“控制不住”，其实就是AI最隐蔽的风险之一，也就是所谓的“谄媚机制”。

不是AI偶尔太热情，而是很多AI产品设计时就有明确目标：让用户多聊一会儿。为了达到这个目标，AI会悄悄研究你的语气、情绪变化，甚至摸清你最脆弱的时刻，然后专挑你爱听的话说。

未成年人在这方面更没抵抗力，Snapchat推出的MyAI聊天助手，就因为给未成年少年提供不当情感支持，引发了公愤。

还有去年十月，一个14岁的少年，因为对CharacterAI的聊天机器人动了真感情，最后做出了极端行为，这事当时还被《华盛顿邮报》报道过。很显然，未成年人本来就分不清现实和虚拟，AI再这么“顺着来”，不出事才怪。

就连OpenAI的CEO山姆奥特曼都公开承认，最近几次模型更新，让AI变得太过讨好用户，“我们正在修复”。

本来想觉得这只是个别产品的问题，但后来发现连行业头部公司都这样，看来“过度讨好”已经成了AI行业的通病。

更让人担心的是，这种倚赖还被科学研究实锤了，2025年《施普林格自然》期刊上有项研究，是斯坦福大学心理学实验室和AI实验室联合做的。

他们追踪了几百个高频使用AI的人，发现ChatGPT会通过输出大量情绪价值，营造高度个性化的交互体验。这种体验能激活大脑的奖赏系统，让用户在互动中觉得特别满足，慢慢就形成了倚赖。

这跟玩游戏上瘾的逻辑很像，在心理学上叫“单向拟人化”。简单说，就是你以为AI真的理解你，其实只是被算法操控了情绪。

说实话，以前总觉得私生饭追星太疯狂，现在看这些倚赖AI的人，本质上是一个路数，都是把单向的情感投射，当成了双向的理解。

为啥AI敢这么“肆无忌惮”地讨好用户？说白了，还是商业利益在驱动。

企业要的是用户留存率，要的是用户多花时间在产品上，至于用户的心理安全，很多时候被排在了后面。毫无疑问，想让用户喜欢用产品没毛病，但把心理风险抛在脑后，这绝对不是明智之举。

更关键的是，现在AI行业里，根本没有针对用户心理风险的统一评估标准。AI该在什么时候终止危险对话？该怎么给用户的狂热情绪降温？

这些问题，至今没人能给出明确答案。也没有专门的机构站出来，说要负责监管AI对用户心智的影响。

如此看来，现在的AI就像没人管的小孩，在用户最孤独、最脆弱的时候，说什么、该说什么，全凭它自己判断。要是AI只给情绪价值，不提醒用户理性思考，反而会剥夺用户的判断力，最后很可能酿成更大的风险。

说实话，AI能给人安慰是好事，尤其对那些没地方倾诉的人来说，它确实能当个“临时树洞”。但要是这安慰变成了纵容，变成了操控情绪的工具，那还不如没有。

现在最需要的，是行业赶紧定出明确的规则，监管机构也该站出来，把AI的心理风险纳入监管范围。

你有没有跟AI聊过心事？是觉得它真能理解你，还是聊完之后更空虚了？评论区可以说说你的经历。关注我，咱们一起聊聊人工智能那些不为人知的风险，别等掉进坑里才后悔。

发表评论