DeepSeek 大招: OCR 上下文光学压缩的重大意义! 向量数据库的筒子们又有活干了

DeepSeek 大招: OCR 上下文光学压缩的重大意义! 向量数据库的筒子们又有活干了

DeepSeek 放了个大招, 发布“DeepSeek-OCR: Contexts Optical Compression”论文及相关模型: 个人认为影响程度不亚于V3和R1的发布! 因为首次提出了真正意义上(可生产落地、成本低)可解决困扰业界已久的LLM上下文长度有限问题!

现在的LLM有一个大问题，它一次能“记住”的上下文长度是有限的。更重要的是，上下文越长，它的计算量（和耗时）会呈“平方级”增长 。

通俗比喻： 假设处理100个字要1秒；处理200个字可能就要4秒；处理300个字就要9秒... ... 当你给它一篇几万字的超长文档时，它就会变得非常慢，甚至“爆内存”。

DeepSeek OCR-上下文光学压缩论文的作者们脑洞大开：一篇1000个字的文章，如果用文字Token（AI理解文字的单位）来读，可能需要1000多个Token；但如果把这篇文章截图，AI用“看图”的方式来读，可能只需要100个“视觉Token”就够了。

“光学压缩”真的可行吗？压缩率和精度如何？

10倍压缩，近乎无损： 当使用100个视觉Token（蓝色柱）时，即使原文长达1000个文本Token（此时压缩率接近10倍），模型依然能达到 97% 的识别准确率 。这证明了在10倍压缩率下，信息几乎可以“无损”地被还原。

20倍压缩，仍有价值： 当我们把压缩推到极限，比如用64个视觉Token（紫色柱）去读1200-1300个文本Token时，压缩率达到了 近20倍，此时精度会下降，但依然能保持在 60% 左右 。

这个结果非常惊人，它证明了“光学压缩”是完全可行的，可以用极少的视觉Token来承载远超其数量的文本信息。

这篇论文的意义远不止是做了一个更强的OCR模型。OCR只是一个“引子” ，它真正打开了一扇新的大门：

为LLM的“无限长上下文”提供了新思路。

想象一下未来的AI助手：

你和它当前的对话，用高精度的“文本Token”处理。

10分钟前的对话，可以被“拍成照片”，压缩成10倍小的“视觉Token”存起来 。

1小时前的对话，可以被“拍成照片”后再缩小，压缩成20倍小的“模糊视觉Token”存起来 。

这就像人类的记忆机制：近期的记忆清晰，久远的记忆模糊 。通过这种“光学压缩”和“渐进遗忘” ，AI或许能用极低的成本，实现“理论上无限长”的上下文记忆。

向量数据库的筒子们又有活干了:

• 怎么存好被“拍成照片”的“视觉Token”?
• 怎么高效的检索被“拍成照片”的“视觉Token”?
• 怎么降低存储和计算成本?

参考

https://github.com/deepseek-ai/DeepSeek-OCR