揭示 AI 情感聊天机器人的背后真相

Emma McGowan 2024年2月14日

Mozilla最近的一份报告指出，浪漫AI聊天机器人的快速增长带来了全新的隐私问题。

自1960年代以来，AI浪漫伴侣就在流行文化中成为一种现象。从类似《我的生活玩偶》中“Rhoda Miller”的全功能机器人，到2013年《她》中由斯嘉丽约翰逊配音的无形声音，我们已经为AI满足我们所有情感需求而集体梦想了几代人。如今，随著生成式AI的发展和推出，这个梦想似乎终于有实现的可能。

但这真的是梦想吗？还是我们正在无意中走进隐私噩梦？这是Mozilla的研究团队在其最近的浪漫AI聊天机器人隐私问题报告中探讨的问题。

报告的结果令人震惊，11个测试的聊天机器人中有10个未能达到Mozilla最低安全标准。这意味著，它们不要求用户创建强密码，也没有任何处理安全漏洞的方式。根据估算，Google Play商店中共有超过1亿的下载量，OpenAI的应用商店最近也见证了浪漫聊天机器人的激增，这一巨大问题只会继续扩大。

但这份报告不仅仅是关于数字；它还关注这些发现可能引发的重大隐私问题。例如，Replika AI。根据Mozilla的说法，使用者在一个不仅记录这些资讯，还有可能将其出售给数据经纪人的应用上，分享他们最私密的想法、感受、照片和视频。它还允许用户用像“111111”这样的弱密码创建帐户，将所有这些敏感信息置于被黑客攻击的风险中。

Calder表示，尽管这些隐私和安全缺陷已经“令人毛骨悚然”，但其中一些机器人也声称可以帮助客户的心理健康。她以Romantic AI为例，该公司的条款和条件中指出：

“浪漫AI既不是医疗保健或医疗服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有您的医生、治疗师或任何其他专业人士才可以这样做。浪漫AI不做任何声明、陈述、担保或保证，该服务提供治疗、医疗或其他专业帮助。”

然而，它们的网站却表示“浪漫AI旨在维护您的心理健康”强调是他们的。尽管我们没有数据显示有多少人阅读条款和条件，与那些阅读网站的人相比，但可以肯定的是，许多人更容易接收到网站的信息而不是免责声明。

在心理健康的声称和客户自愿与他们的数位“灵魂伴侣”分享个人和私人信息之间，Calder担心这些机器人可能会轻易操控人们做出他们原本不会做的事情。

“有什么能阻止恶意的行为者创建聊天机器人来了解他们的灵魂伴侣，然后利用这种关系操控这些人去做可怕的事情、接受令人恐惧的意识形态、或伤害自己或者他人？”Calder说。“这就是我们迫切需要在这些AI应用中增加透明度和用户控制的原因。”

因此，虽然AI聊天机器人承诺提供陪伴，但我们距离她的水平仍有一段距离：当前的现实显示，在这个数位伴侣的世界中，使用者隐私的代价过高。现在是时候让用户、开发者及政策制定者要求在AI关系领域实现透明度、安全性和尊重个人边界了。只有如此，我们才能希望安全地探索这些数位伴侣的潜力，而不会妨碍我们的数位自我。