你以为自己在跟 ChatGPT 聊天，ChatGPT 可能正在悄悄给你写一份心理档案。 最近读到一篇挺有意思的论文，叫《The Algorithmic Se… · @sleepy0x13 · TwKit

@sleepy0x13

你以为自己在跟 ChatGPT 聊天，ChatGPT 可能正在悄悄给你写一份心理档案。 最近读到一篇挺有意思的论文，叫《The Algorithmic Self-Portrait》，研究人员分析了 80 位 ChatGPT 用户的 2050 条记忆，发现了几个很有意思的数据： 96% 的记忆是 AI 自己决定保存的，用户根本没有主动要求它记住什么。 52% 的记忆涉及用户的欲望、目标、意图和情绪等心理状态，28% 包含 GDPR 定义的个人数据。 论文里有个例子，ChatGPT 会把用户的言谈总结成「这个人害怕失败，尤其是在面临重大职业选择的时候」。 我觉得最值得警惕的其实是另一个数据，84% 的记忆都能直接从用户说过的话里找到依据。 这意味着，AI 很多时候真的能准确地理解你。但人是会变的，你今天因为工作不顺而焦虑，明天可能就想通了。AI 却有可能把你某个阶段的情绪、偏好甚至偏见，整理成长期存在的人格标签，并在之后的对话中不断调用。 过去互联网公司通过搜索、点击和消费行为来猜测你是什么样的人。现在你会主动向 AI 倾诉自己的烦恼、野心、恐惧，甚至把那些不愿意对朋友说的话告诉它。 这种心理画像的精度，可能远远超过传统互联网的用户标签。 我一直觉得 Memory 是 Personal Agent 最重要的能力之一，毕竟没人想每天重新向 AI 介绍自己。但现在看来，未来真正值得讨论的问题是，当 AI 越来越了解你，甚至开始替你定义自己时，我们究竟应该允许它记住多少东西？ 以及，你会不会在不知不觉中，逐渐活成 AI 记忆里描述的那个人

曝光 185 · 评论 1 · 点赞 0 · 书签 0