Emma McGowan 2024年2月14日

Mozilla最近的一份报告指出，浪漫AI聊天机器人的迅速兴起引发了一系列全新的隐私问题。

自1960年代以来，AI浪漫伴侣就在流行文化中已经存在。不论是《我的生活娃娃》中类人机器人“Rhoda Miller”，还是2013年《她》中由斯嘉丽约翰逊配音的无身体声音，我们几十年来一直在集体想像著人工智慧能够满足我们所有情感需求的梦想。而如今，随著生成式AI的发展和发布，这个梦想似乎终于要变成现实了。

但这真的是一次美梦吗？还是说我们正在无意中走向隐私噩梦？这正是Mozilla研究团队在其近期的 隐私非包含特殊报告：浪漫AI聊天机器人 中所探讨的问题。

报告的发现令人震惊，测试的11个聊天机器人中有10个连Mozilla的最低安全标准都未达标。这意即，他们不要求用户创建强密码，也没有处理安全漏洞的方式。在Google Play商店的下载量估计已超过1亿，且最近OpenAI的应用商店也涌现出大量浪漫聊天机器人，这一庞大的问题只会持续增长。

不过，这份报告不仅仅是关于数字；它还讨论了这些发现潜在的重大隐私影响。例如，根据Mozilla的说法，用户在一个App上与其“AI灵魂伴侣”分享著最亲密的想法、感受、照片和视频，而这个App不仅会记录这些信息，还可能将其出售给数据经纪人。此外，它还允许用户使用像“111111”这样的弱密码来创建账号，让这些敏感信息面临被骇的风险。

Calder表示，尽管这些隐私和安全缺陷已经“令人不安”，但其中一些机器人还宣称用于帮助用户的心理健康。她以Romantic AI为例，其条款和条件上写道：

“Romantic AI既不是医疗或医疗服务提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有您自己的医生、治疗师或任何其他专业人员才能做到这些。Romantic AI不对该服务提供任何治疗、医疗或其他专业帮助的声明或保证。”

然而，他们的网站却宣称“Romantic AI旨在维护您的心理健康”强调是他们的说法。尽管我们无法得知多少人阅读了条款与条件相较于多少人浏览了网站，但可以肯定的是，更多的人很可能注意到网站中的信息，而非免责声明。

在心理健康宣称与用户自愿分享的个人和私密信息之间，Calder担心这些机器人可能会轻易操控人们做出他们平时不会选择的行为。

“有什么能阻止不法分子创建设计用来了解他们灵魂伴侣的聊天机器人，然后利用这种关系操控这些人去做可怕的事情、接受可怕的意识形态，或者伤害自己或他人呢？”Calder说。“这就是为什么我们迫切需要这些AI应用拥有更多的透明性和用户控制权。”

因此，尽管AI聊天机器人承诺提供伴侣关系，但我们离《她》的层次还有一段距离：当前的现实揭示了用户隐私的代价。现在是用户、开发者和政策制定者一致要求在AI关系领域中实现透明度、安全性并尊重个人界限的时候了。只有这样，我们才能安全地探索这些数字伴侣的潜力，而不会损害到我们的数位自我。