首页
学习
活动
专区
圈层
工具
发布

ChatGPT记忆功能大升级,但这项改进让我深感不安

OpenAI近期发布了一篇博文,详细介绍了ChatGPT在用户记忆管理方面所做的"改进"。然而,作为一名长期使用者,我对这些改进并不感到兴奋,甚至感到担忧。

记忆功能的演变历程

所谓"记忆",指的是你与ChatGPT分享的个人信息。2024年引入时,记忆功能不过是一份AI可供参考的事实清单。如今,它已大幅扩展,涵盖你的完整聊天历史、明确指令、个人偏好设置,乃至AI从你过去的行为和随口一说中推断出的隐性偏好。

在2024年的版本中,记忆基本上只是一份事实列表。但这些保存下来的记忆很快就会过时——除非用户手动整理,否则没有任何机制能判断某条信息是否已经失效。

2025年,OpenAI开始推进一项名为"梦境(Dreaming)"的功能。这一机制允许模型在后台调取你的聊天历史,无需明确指令即可自动整理记忆。ChatGPT的记忆结构由此变为:已保存记忆(2024年机制)加上Dreaming V0。

如今,这一功能已升级至Dreaming V3。以我自身为例,我询问ChatGPT是否有使用Kasa设备的经历,它给出了一个听起来合理的回答,但其中关于我使用Home Assistant的描述完全是错误的——我从未安装过这款软件。

对此,OpenAI方面回应称,用户看到的是一个高层级的记忆摘要,而非ChatGPT所记得的完整事实清单,其目的是方便用户查看和纠错,而非逐一呈现所有细节。

Dreaming V3的技术突破

根据OpenAI的数据,从2024年到2026年,事实任务回忆成功率从41%跃升至82%,长期信息准确率从9%提升至75%,偏好遵循率则从31%提高至71%。

在扩展性方面,OpenAI将这一持续分析所需的计算成本降低了5倍,使得该功能得以向大规模用户开放。目前,Dreaming V3已向Plus和Pro层级的订阅用户开放,未来几周内将逐步向所有用户(包括免费用户)推出。

如何管理你的ChatGPT记忆

在浏览器版ChatGPT中,进入"设置",点击"个性化",向下滚动即可找到"记忆"部分。

你可以选择关闭记忆功能,但这只是部分禁用。关闭后,已存储的记忆和聊天历史并不会被删除,AI也不会再进行基于梦境的记忆整合,但数据依然保留。如需彻底删除相关信息,必须手动删除对应的聊天记录。

此外,还有一个需要注意的特殊情况:即便关闭记忆功能,在极少数涉及安全风险的对话中,ChatGPT仍可能调取有限的上下文信息,以协助用户处理潜在风险。

点击"管理"按钮,可以查看ChatGPT基于你的使用习惯所形成的个性化档案,并对其中不准确的内容进行修改或标记"不再提及"。

为什么这项功能让我感到不安

我对这一新记忆机制有几点核心顾虑:

第一,信息严重过时。该功能会调取旧有对话,而这些对话发生时,用户普遍认为AI只了解当前会话的内容。

第二,几乎无法进行精确清理。你难以准确知晓AI记住了什么,也难以彻底删除它基于旧信息做出的判断。

第三,无法真实跟踪你的生活变化。尽管OpenAI声称该功能可以与用户一同"成长",但实际表现并不令人信服。

更值得关注的是,AI还会将你所有的聊天记录与你个人挂钩——即便你是在为文章或项目做研究,这些内容也可能被纳入你的"个人档案"。

当我问ChatGPT"我最在意的事情是什么"时,它给出的答案是"维护你独立完成有意义工作的能力"。事实上,我最在意的是我的妻子和小狗。AI的这一判断偏差,恰恰说明了这些假设有多么不可靠。

在隐私层面,这种深度用户画像同样令人担忧。我们本就应该对云服务提供商存储个人数据的方式保持警惕,而这种程度的信息整合,无疑将这种担忧推向了新的高度。

AI本应减轻人类的认知负担,但如今,在过滤AI偏见和幻觉的同时,我们还需要将整个聊天历史纳入参考。并非所有用户都具备足够的判断力,能够逐一核实每一条AI回复的准确性与完整性——这才是这项功能真正令人忧虑之处。

Q&A

Q1:ChatGPT的Dreaming V3功能是什么?和之前的记忆功能有什么区别?

A:Dreaming V3是ChatGPT最新的记忆整合机制,能在后台自动分析用户的完整聊天历史,并生成一份关于用户兴趣、习惯和偏好的综合档案。与2024年版本相比,早期记忆只是一份静态的事实列表,需要用户手动维护;而Dreaming V3可以自动合成跨会话的信息,支持追踪长期复杂项目,事实回忆成功率从41%提升到82%,但也因此更容易产生错误推断。

Q2:ChatGPT记忆功能出现错误信息怎么办?能彻底删除吗?

A:可以在ChatGPT设置的"个性化"页面中管理记忆。点击"已保存记忆"可手动删除具体条目,点击"管理"可查看并修改AI生成的个性化档案,对不准确的内容标记"不再提及"。但需注意,关闭记忆功能并不会删除已有数据,只有手动删除原始聊天记录,相关信息才会被彻底清除。

Q3:ChatGPT记忆功能会带来哪些隐私风险?

A:主要风险在于:AI会将用户所有聊天内容(包括研究性提问)纳入个人画像,即便这些内容与用户本人无关;用户难以全面了解AI究竟"记住"了哪些信息;关闭记忆后数据依然保留;在极少数涉及安全的情况下,AI仍可能调取上下文信息。此外,基于过时信息生成的判断可能导致AI回复出现偏差,影响信息获取的准确性和完整性。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O7eLmQiTtqlZGV2v19MusLpQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券