AI陪伴应用的困局：情感数据防线VS通信安全挑战

AI科技 2025年10月16日 21:29 0 aa

来源：信息安全与通信保密杂志社

截至2025年7月，全球AI陪伴应用在苹果和谷歌应用商店的下载量达2.2亿次，仅2025年上半年收入8200万美元（同比增幅88%），有望在年底前突破1.2亿美元。应用情报公司Appfigures向TechCrunch提供的最新数据显示，在全球337个活跃且产生收入的AI陪伴应用中，128个是2025年新发布的，且行业呈现强头部效应：10%的应用贡献了近89%的收入，33款产品用户支出超100万美元，热门应用包括Replika、Character.AI、PolyBuzz、Chai等。然而，高速增长背后，数据安全与隐私保护问题凸显。

以Replika为例，它是由美国Luka公司开发的AI聊天机器人，能学习用户语言习惯和情感模式，形成独特个性，成为用户信任的倾诉对象——无论是工作压力、感情困扰，还是日常琐事，Replika都倾听并给予用户回应。Replika首席执行官Kuyda披露，截至2024年10月，其全球用户总量超过3000万。但该产品的商业模式和隐私合规仍然存在争议。

在虚拟的“数字情感”背后，暗藏着隐私与通信安全的多重危机。

情感数据防线的三重漏洞

AI陪伴应用在为用户提供服务的同时，也埋下了隐私泄露的隐患，从数据收集、存储到使用，每一个环节都存在着风险。

数据收集的“无底洞”

（AI生图）

AI陪伴的“个性化”体验，本质上依赖用户数据的深度挖掘。然而，许多产品正通过“授权陷阱”实现数据的过度采集，除用户与AI的聊天记录、姓名、年龄等个人信息，还包括日常作息、消费偏好等行为习惯。更隐蔽的是，部分应用会私自读取用户通讯录、社交软件记录，甚至通过语音语调分析抓取情绪数据。这些操作常被“优化服务”条款掩盖，既违反《个人信息保护法》第十七条“明确告知”的要求，也不符合《生成式人工智能服务管理暂行办法》中“不得收集非必要个人信息”的规定。

用户隐私信息被应用悄然收集，一旦数据泄露，用户将面临严重的隐私侵犯。例如，用户的敏感信息可能被用于精准诈骗，不法分子能够根据用户的喜好和习惯，量身定制诈骗方案，让用户难以防范。

数据存储的“定时炸弹”

AI陪伴应用的用户数据存储在国内外服务器中，存储方式包括传统的关系型数据库和新兴的分布式存储技术，但易遭黑客突破服务器的安全防线，窃取用户数据。

2025年10月10日，网络安全媒体Cybernews曝光两款AI陪伴应用（Chattee Chat与GiMe Chat）因用户交互数据传输的服务器Kafka Broker被直接暴露于公网，且未设置身份验证或访问权限控制机制，导致40万用户数据、4300多万条私密消息及60多万张音视频泄露，涉及用户注册数据、IP地址、设备UUID、认证令牌等，可能被用于勒索、网络钓鱼等攻击。

图为泄露的部分信息，敏感信息已被隐去（图源：Cybernews）

数据泄露后，攻击者可能通过“数据关联”精准定位个人——将设备标识符与电商平台泄露数据匹配，结合对话中提及的生活细节，构建完整的用户画像。在Chattee Chat与GiMe Chat数据泄露事件中，泄露的身份验证令牌（tokens）可直接用于劫持账户，部分充值超1.8万美元的高价值用户面临财产被盗风险。这暴露了中小开发者普遍缺失基础安全措施、漠视存储安全的问题。

数据使用的“黑匣子”

AI陪伴应用在使用用户数据时往往像是一个神秘的“黑匣子”。

（AI生图）

应用通常会将用户数据用于训练模型，通过对大量用户数据的分析和学习，理解用户的需求，从而提供更好的陪伴服务。除了训练模型，用户数据还可能被用于精准营销。应用会根据用户的兴趣爱好和行为习惯，向用户推送个性化的广告和服务，实现商业价值最大化。然而，在这个过程中，用户往往缺乏对数据使用的知情权和控制权。他们不知道自己的数据被如何使用，也无法决定是否同意应用将自己的数据用于特定目的。这种信息的不对称，使得用户在数据使用过程中处于被动地位，隐私安全受到威胁。更隐蔽的滥用在于“二次商业化”：用户参与“剧情共创”时输入的个人经历，可能被平台脱敏后售卖给其他机构，或用于定制精准营销内容。

《生成式人工智能服务管理暂行办法》要求提供者“依法履行数据保护义务”，但“模型训练数据来源”的模糊性为违规提供了空间。用户提出“删除数据”“查阅使用记录”等请求时，平台常以“模型已学习无法剥离”为由拒绝，导致用户控制权形同虚设。这种“一旦提供便失控”的现状，使得情感数据成为极易被收割的“数字资源”。

通信安全挑战

在AI陪伴应用的使用过程中，通信安全问题如影随形。从数据传输的“裸奔”风险，到加密技术的“双刃剑”特性，再到第三方合作引发的“信任危机”，每一个环节都暗藏玄机。

传输过程的“裸奔”风险

AI陪伴应用在运行过程中，数据需要在用户设备与服务器之间频繁传输。这些数据传输主要依赖于无线网络或移动数据网络，采用的传输协议如常见的TCP/IP协议。在这个过程中，数据仿佛置身于危险丛林中，面临数据监听、数据篡改等风险。网络监听是一种常见的威胁，黑客就像隐藏在暗处的猎手，利用专业工具对网络进行监听，截获传输中的数据，获取用户的聊天记录、个人信息等隐私内容。数据篡改则是黑客在数据传输途中对其进行恶意篡改，使得AI接收到错误的信息，从而影响服务的准确性和可靠性。

（AI生图）

在ChatteeChat的泄露事件中，研究人员发现用户与AI的对话在传输过程中以明文形式存在，即黑客只需要通过简单的抓包工具就能截获敏感内容。值得注意的是，此类“传输不加密”问题在中小开发者群体中并不少见，他们常以“压缩开发成本”“提升交互响应速度”为由，省略通信加密环节，却忽视了数据传输安全是用户信任与产品合规的核心。

加密技术的“双刃剑”

为应对数据传输过程中的风险，AI陪伴应用通常会使用加密技术。常见的加密算法有AES、RSA等。然而，加密技术也存在局限性：一是加密/解密的过程会拖慢数据传输速度，影响用户体验；二是加密技术也可能被黑客暴力破解或利用漏洞攻破。

（AI生图）

目前市场上的部分应用虽宣称“已加密”，但实际采用的是过时的TLS 1.0协议，或仅对用户登录信息加密而忽略对话内容。更隐蔽的风险在“密钥管理漏洞”：某应用将加密密钥存储在客户端本地，通过反编译APK即可轻易获取，使得加密形同虚设。此外，部分海外应用为规避数据出境监管，采用“境内加密传输+境外解密存储”的模式，反而增加了数据在中转环节的泄露风险。

如今端到端加密并非高成本技术，但在AI陪伴赛道的普及率不足30%。这既源于开发者安全意识薄弱，也与用户“重体验轻安全”的认知有关。用户更关注AI的回复质量，而非过程安全，形成了“安全投入无回报”的恶性循环。

第三方合作的“信任危机”

AI陪伴应用常依赖第三方插件实现功能扩展，如语音合成、图像生成等，但第三方服务商的安全能力参差不齐。据创泽集团发布的《网络安全标准实践指南——移动互联网应用程序(App)个人信息保护常见问题及处置指南》，第三方代码或插件可能截留用户个人信息，语音指令可能被备份用于产品训练。更严重的是，部分第三方SDK存在漏洞，成为黑客入侵的“后门”。据Kaspersky报告显示，Android版Necro恶意软件通过Google Play商店中的应用程序感染了至少1100万台设备。该恶意软件通过名为“Coral SDK”的广告SDK潜入应用，受感染的应用包括下载量超过1000万次的“无他相机”和下载量达100万次的Max浏览器。

（AI生图）

AI陪伴应用与第三方的“数据共享协议”往往约定模糊，用户授权“应用使用信息”时，并未意识到权限已延伸至第三方。这种“链式授权”使得安全责任难以界定，一旦发生泄露，应用方与第三方常互相推诿，用户维权陷入困境。

破局——多维度策略

面对AI陪伴应用的隐私困局和通信安全挑战，不仅需要技术的升级创新，法律监管的严格约束，更需要用户自身意识的提高，形成一道全方位的安全防护网，切实保障用户的隐私和通信安全。

技术升级：筑牢安全防线

技术层面，可探索同态加密（允许密文计算无需解密，防数据截获泄露）与差分隐私技术（给数据加噪声，避免个体敏感信息被推断）提升安全性。

数据存储层面，分布式存储（数据分散存于多节点，单节点受损不影响完整性）和区块链技术（去中心化、不可篡改，保障数据真实可靠）提供新思路。

技术升级面临着诸多挑战。新的加密算法需要平衡安全性和计算效率，复杂算法过度消耗资源、影响性能。区块链技术面临扩展性和兼容性的问题，其处理速度难以满足大规模数据存储的需求。这些技术的应用和推广还需要一定的时间和成本，需要企业和开发者投入大量的资源进行研发和优化。

法律监管：划出行为红线

法律监管是AI陪伴应用隐私安全的重要保障，《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律法规，从不同角度对数据安全和个人信息保护做出了规定。明确数据收集的范围和方式，要求应用在收集用户数据时必须遵循合法、正当、必要的原则，规定了必须在用户授权的范围内使用数据，不得将数据用于未经授权的目的。对于数据泄露等违法行为，也制定了相应的处罚措施，加大了对违法行为的打击力度。

随着技术的快速发展，新的隐私和安全问题不断涌现，法律法规也存在一定的滞后性。在跨境数据传输方面，由于不同国家和地区的法律规定存在差异，部分应用可能会钻法律的漏洞。为了加强法律监管的力度和有效性，我们需要不断完善法律法规，加强国际合作，形成统一的监管标准。同时，还需要加强执法力度，提高监管效率，确保法律法规的有效实施。

用户意识：自我保护的盾牌

用户自身的隐私和安全意识是保护个人信息的最后一道防线，也是最为关键的一环。用户需掌握“三查三避”原则：

未来：情感与安全的平衡

ChatteeChat的泄露事件为行业敲响警钟：AI陪伴核心是“安全的情感连接”，失去隐私保护的“陪伴”本质是“情感剥削”。随着《生成式人工智能服务管理暂行办法》等法规的落地，以及隐私计算、端到端加密等技术的普及，行业正从“野蛮生长”向“合规发展”转型。

未来的AI陪伴应用，应实现“情感温度”与“安全强度”的统一：用户既能在虚拟空间获得慰藉，又不必担忧隐私沦为“裸奔数据”；开发者既能用数据优化体验，又需恪守安全红线。唯有如此，AI陪伴才能真正成为温暖人心的技术力量，而非吞噬隐私的“陷阱”。

★

★ ★ ★

★