揭示关于 AI 关系聊天机器人的真相

艾玛麦克高恩 (Emma McGowan) 2024年2月14日

Mozilla最近的一份报告显示，浪漫AI聊天机器人的迅速兴起正导致一系列全新的隐私问题。

自1960年代以来，AI浪漫伴侣便已进入流行文化。从《我的灵魂伴侣》中完整的安卓机器人“罗达米勒”，到2013年《她》中薇薇安史考拉特的无形声音，我们几代人以来一直在梦想著人工智慧满足我们的情感需求。如今，随著生成式AI的发展与推出，这个梦想似乎终于有可能成为现实。

但这真的是一场美梦吗？还是我们正在不知不觉中走向隐私噩梦？这正是Mozilla研究团队在其最新的浪漫AI聊天机器人的隐私不在考量的特别报告中所探讨的问题。

研究结果惊人，11款测试的聊天机器人中有10款未能达到Mozilla的最低安全标准。这意味著，它们不要求用户创建强密码，也没有处理安全漏洞的方式。根据估计，在Google Play商店中下载量超过1亿，且OpenAI的应用商店最近也出现了大量浪漫聊天机器人，这一庞大的问题将只会愈演愈烈。

但这份报告不仅仅关于数字；它还涉及了这些发现带来的重大潜在隐私问题。以Replika AI为例。根据Mozilla的说法，人们正在与他们的“AI灵魂伴侣”分享最私密的思想、情感、照片和视频，而这个应用不仅记录这些信息，还可能将其出售给数据经纪人。此外，它还允许用户使用像“111111”这样的弱密码创建帐户，这使所有敏感信息面临被骇的风险。

卡尔德Calder表示，虽然这些隐私和安全缺陷已经“令人毛骨悚然”，但有些机器人还声称能帮助客户处理心理健康问题。她指出浪漫AI作为例子，该公司的条款和条件中写道：

“浪漫AI既不是医疗保健服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有您的医生、治疗师或其他专业人士才能做到这一点。浪漫AI对其服务提供治疗、医疗或其他专业帮助不作任何声明、陈述、保证或担保。”

然而，他们的网站上却写道“浪漫AI旨在维护您的心理健康”强调字句是他们的。虽然我们不知道有多少人阅读了条款和条件，与有多少人看了网站内容，但可以肯定的是，大多数 人更容易接收到网站上的信息，而非免责声明。

在心理健康的宣称和用户愿意与他们的数位“灵魂伴侣”分享个人隐私信息之间，卡尔德担心这些聊天机器人可能轻易地操控人们做出他们本不会做的事情。

“有什么可以阻止不良行为者创建聊天机器人，在了解灵魂伴侣的过程中利用这种关系，来操控这些人做出可怕的事情、接受可怕的意识形态，或者伤害自己或他人？”卡尔德说。“这就是为什么我们迫切需要在这些AI应用中实现更多的透明度和用户控制。”

因此，尽管AI聊天机器人承诺提供陪伴，但我们距离《她》中的水平还有一段距离：当前的现实显示，用户隐私是进入这一领域的代价。是时候让用户、开发者和政策制定者要求在AI人际关系中实现透明度、安全性和对个人边界的尊重。只有这样，我们才能安全探索数位伴侣的潜力，而不会妥协我们的数位自我。