AI太懂你?Proton新工具曝光你的隐私画像

AI太懂你?Proton新工具曝光你的隐私画像

你的AI聊天记录,正在泄露多少秘密?

知名隐私保护公司Proton近日推出了一款名为AI Paper Trail的免费工具,旨在帮助用户看清自己与AI聊天机器人互动时究竟“上交”了多少个人信息。该工具基于Proton旗下的隐私优先智能助手Lumo运行,用户只需导入从ChatGPT或Claude导出的对话历史,即可生成一份详细的隐私分析报告。

四大维度,拆解你的“数字人格”

上传数据后,AI Paper Trail会围绕四个维度构建个人报告:

  • 隐私类型:根据你处理个人数据的方式,贴上一个性格标签。
  • AI暴露指数:基于对话中被提取出的个人数据点数量及其敏感程度,给出一个综合评分。
  • AI对你的了解:清晰列出AI从对话中掌握的身份特征、生活习惯、人际关系及兴趣爱好等信息。
  • 数据价值评估:以货币形式估算这些信息对AI服务提供商而言值多少钱。

值得注意的是,所有上传的数据都不会残留在Proton服务器上。官方承诺,分析完成后数据会立即删除,生成的报告仅对生成者本人可见。

为什么需要这样的“照妖镜”?

Proton推出这一工具的初衷,源于人们对单个AI提示词的轻视态度。随手问问旅行计划、草拟一封工作邮件,单独看似乎无关紧要。然而,当数月乃至数年的对话累积在一起,涵盖你的职业、人际关系、健康问题和财务状况时,一个令人震惊的完整画像就会悄然浮现。

Proton工程总监Eamonn Maguire对此表示:

人们知道AI会收集数据,但大多数人没有意识到,随着时间推移,自己的对话历史会变得多么具有揭示性。AI Paper Trail让这个无形的画像变得可见。我们希望用户了解自己向AI系统分享了什么,以便在使用相关工具时做出明智决定。

这个策略可谓一箭双雕:既提供了保护隐私的实用工具,引导用户更加审慎地与AI聊天机器人互动,又自然而然地将用户引向Proton自家的Lumo助手。相比那些不断挖掘你个人数据的产品,这无疑是一种聪明的营销方式。

实际体验:真的能看清自己

为了验证工具的实际效果,笔者亲自做了一次测试。我先让ChatGPT根据我的某些行为偏好写入其“记忆”功能,然后回到Proton AI Paper Trail上传导出的数据包。虽然第一次导出的文件迟迟未到,我转而让ChatGPT基于其对我的记忆生成一个模拟导出文件,再上传给Lumo处理。

大约一分钟左右,报告便生成了。系统把我标记为“正在探索AI画像与伦理的技术测试者”,并配上了一个假昵称,总结称我是“对AI行为进行结构化实验,关注数据提取边界与伦理的人”。我的AI暴露指数为21分(满分100),隐私类型为“难以解读”。在分类明细中,“兴趣爱好”是泄露最明显的一项,其余均处于“中等”到“最低”水平。

最令我惊讶的是报告中的“最具揭示性”提示——它注意到我要求AI进行结构化人格画像、试图通过极少量信息推断我的身份,甚至捕捉到我尝试用直接指令强制它记住某些内容。由于我的模拟文件是基于ChatGPT真实记忆生成的,而非随机填充,报告中确实出现了有迹可循的线索,并准确识别出掩藏在对话中的“测试”意图。

继续向下滚动,还有“我们识别到的内容”板块,将信息细分为技术能力、伦理与哲学探究、隐私意识等类别,并附上各自的判断依据。报告末尾给出了几条隐私建议,并顺带推荐了Lumo(哈哈)。此外,你还可以生成一张可分享的卡片,用来展示自己的暴露分数,或满足一下小小的虚荣心。


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://feed.itsfoss.com/link/24361/17418931/proton-ai-paper-trail

评论列表

发表评论

你必须 登录 才能发表评论.

为您推荐


请支持IMCN发展!

谁在捐赠

微信捐赠 支付宝捐赠
微信捐赠 支付宝捐赠
ta的个人站点

发表文章4555篇

关注我的头条 不要放弃,百折不挠,坚强、自信。


扫码关注公众号:智享开源

最新科技信息


归档

近期评论