AI时代的数据使用：用户认知与企业责任的鸿沟

每当用户后知后觉地发现，某项AI功能正在以他们未曾充分理解的方式调用自身数据时，随之而来的往往是一种本能的被侵犯感——对信任、同意与隐私的侵犯。

凡是涉及可能侵入用户隐私的AI整合，指责与愤怒从未缺席。典型案例比比皆是：电子邮件内容被用于模型训练、大型本地模型悄然嵌入日常软件、语音助手在明确指令之外仍保留片段录音、默认开启的跨产品数据共享设置为AI响应提供参考信息……

即便上述改动在技术层面已有披露，用户的实际知情并不必然随之而来。更新一条接着一条，默认设置统统开启，用户被迫在一座从未要求进入的迷宫中独自摸索。企业对自身系统如何使用数据的理解，与个人在合理预期范围内所能掌握的信息之间，这条认知鸿沟似乎每天都在加深。

大多数用户并不介意分享聊天记录、点击流或位置信息，只要这些数据真正服务于自身目的。然而，企业从这些信息中看到的，可能是训练数据、向量嵌入、个性化信号、安全调优输入、欺诈检测特征，乃至未来的产品能力。

监管机构已开始正视上游数据决策对下游的持续影响。2024年底，欧洲数据保护委员会更新了其关于匿名性、合法利益及基于非法处理个人数据训练AI模型的意见，指出除非经过妥善匿名化处理，否则此类模型的合法部署可能受到影响。英国信息专员办公室同样强调，组织有责任向受影响者说明AI辅助流程与决策的运作方式。

责任的转嫁

要求普通用户从晦涩难懂的隐私政策中自行解读不透明的数据生态系统，现实吗？大多数人不过是想用好一款产品，去思考数据向下游流转的路径与影响，已是令人不堪重负。

在实践中，义务理应更多地落在企业身上。系统由企业设计，数据的下游用途也只有企业最清楚。他们也是唯一有能力从源头降低复杂度的主体。真正意义上的透明度，不能仅仅停留于缩短隐私政策这一层面，而必须具备情境针对性、具体可指向性，以及真实可操作性。

这不只是理论上的隐忧。无论是《通用数据保护条例》、英国信息专员办公室指南，还是《欧盟AI法案》，都在反复强调：透明度必须超越单纯的信息披露，成为人们真正能够理解并付诸行动的依据，并且要涵盖数据如何被使用、谁负有责任，以及可能产生哪些后果。

《欧盟AI法案》正在为特定AI系统增设更多透明度义务，旨在帮助用户识别自己何时在与AI交互、何时正在接触AI生成内容，从而作出知情决策。

"管理偏好"背后的隐患

隐私责任正越来越多地通过界面设计和话语修辞向用户转移。以设置开关赋予用户"掌控感"的做法极有可能以各种形式延续下去，界面中潜藏的暗黑设计模式同样难以根除。这是一种低摩擦的合规表演——系统得以向外传递遵规与用户赋权的信号，而底层的权力格局实际上分毫未动，企业的自由裁量空间也丝毫未减。

主要责任应当归于系统架构的设计者。用户当然应当拥有权利与控制手段，但默认设置、数据留存期限、数据流向、供应商关系，以及模型在实践中的行为方式，最终都是由企业来决定的。

归根结底，这是一个在非线性复杂系统中如何界定责任归属的问题。如果隐私风险是结构性的，就无法单靠设置与偏好管理来加以应对。问责必须落在架构层面，因为真正的决策正是在那里做出的。

本文作者Onur Alp Soner是数字分析与应用内互动平台Countly Ltd的联合创始人兼首席执行官。

Q&A

Q1：企业收集用户数据后，除了表面上的服务改善，通常还会用于哪些用途？

A：除了改善用户体验，企业通常还会将用户数据用于AI模型训练、生成向量嵌入、构建个性化推荐信号、优化安全调优输入、强化欺诈检测功能，以及支撑未来新产品的研发。这些用途往往在技术层面有所披露，但普通用户难以从冗长的隐私政策中真正意识到这一点，认知差距由此形成。

Q2：《欧盟AI法案》对AI系统的透明度有哪些具体要求？

A：《欧盟AI法案》为特定AI系统设置了额外的透明度义务，要求帮助用户识别自己何时正在与AI进行交互，或何时接触到的是AI生成内容，以便用户能够做出知情决策。此外，欧洲数据保护委员会也明确指出，基于非法处理的个人数据训练出的AI模型，除非经过妥善匿名化处理，否则其合法部署可能受到限制。

Q3：为什么仅靠隐私设置和偏好管理无法真正保护用户隐私？

A：因为隐私风险是结构性的，根植于系统架构本身。默认设置如何配置、数据保留多久、数据流向哪里、与哪些供应商共享，这些决策都由企业掌控。将"控制权"以开关形式交还给用户，本质上是一种低摩擦的合规表演，并未改变底层权力格局。真正的问责必须落实到架构设计层面，而非依赖用户自行管理偏好。