cnaebadi/ai-disclosure-handbook

# AI 披露手册 ## 绝对不应该告诉 AI 什么——以及为什么真正的风险比你想象的更大  ## 目录 1. [引言](#introduction) 2. [第一个错误：认为隐私仅关乎个人数据](#the-first-mistake-thinking-privacy-is-about-individual-data) 3. [绝不应向任何 AI 分享的内容](#what-you-should-never-share-with-any-ai) 4. [云端 AI 与本地 AI](#cloud-ai-vs-local-ai) 5. [拼图理论](#the-puzzle-theory) 6. [画像](#profiling) 7. [阴影画像](#shadow-profiling) 8. [为什么 AI 改变了一切](#why-ai-changes-everything) 9. [画像不仅仅是理论](#profiling-is-not-a-theory) 10. [一个历史案例](#a-historical-example) 11. [数据与情报的区别](#the-difference-between-data-and-intelligence) 12. [新的隐私问题](#the-new-privacy-problem) 13. [为什么长对话很重要](#why-long-conversations-matter) 14. [你无意中构建的画像](#the-profile-you-never-intended-to-build) 15. [AI 对话的隐藏价值](#the-hidden-value-of-ai-conversations) 16. [行为数据的经济学](#the-economics-of-behavioral-data) 17. [究竟分享什么才是安全的？](#what-is-actually-safe-to-share) 18. [一个更好的隐私问题](#a-better-privacy-question) 19. [我们正在见证历史性的转折点吗？](#are-we-witnessing-a-historical-inflection-point) 20. [我们的角色是什么？](#what-is-our-role) 21. [作者注：一个小悖论](#authors-note-a-small-paradox) 22. [最后的思考](#final-thought) 23. [讨论](#discussion) 24. [许可证](#license) ## 概述 大多数 AI 隐私建议都集中在保密上： * 不要分享密码。 * 不要分享信用卡号。 * 不要上传机密文件。 虽然这些建议是正确的，但它忽略了一个更大的问题。 真正的危险往往不在于你明确告诉了 AI 系统什么。 真正的危险在于，AI 系统能从单独看起来无害的信息中推断出什么。 本手册探讨了： * AI 隐私 * 云端 AI 与本地 AI * 画像 * 阴影画像 * 行为预测 * 人类自主性 * 人类与智能系统之间的未来关系 ## 可用语言 * 🇺🇸 英文（当前文档） * 🇮🇷 波斯语（`/fa/README.md`） # 第一个错误：认为隐私仅关乎个人数据 大多数人认为隐私是为了保护秘密。 密码。 银行账户。 私密文件。 API 密钥。 这些当然很重要。 但现代智能系统通常对更有价值的东西感兴趣： **你的画像。** 因为画像可以用来预测行为。 而预测一直是技术领域最有价值的资产之一。 预测某人明天可能会做什么的能力，往往比知道他们昨天做了什么更有价值。 # 绝不应向任何 AI 分享的内容 无论你使用的是云端 AI 服务还是本地模型，有些类别的信息在没有极度谨慎的情况下绝不应分享。 ## 凭证 切勿分享： * 密码 * API 密钥 * 身份验证 Token * 恢复码 * SSH 密钥 * 私人证书 一次泄露就可能危及整个系统。 ## 客户数据 避免分享： * 客户记录 * 内部数据库 * 用户导出数据 * 个人信息 即使去除了姓名，仍然可能进行重新识别。 ## 关于他人的敏感信息 避免分享： * 医疗记录 * 法律纠纷 * 私人对话 * 公司内部讨论 * 保密谈判 即使涉及到 AI，他人的隐私仍然是他们的隐私。 ## 生产基础设施 切勿上传： * 环境变量文件 * 生产环境配置 * 内部网络拓扑图 * 安全架构细节 这些资产通常包含比源代码本身有价值得多的信息。 # 云端 AI 与本地 AI 一个最常见的误解是： 现实情况更为复杂。 ## 云端 AI 优势： * 更大的模型 * 更好的性能 * 更快的更新 * 更多的功能 风险： * 数据离开了你的设备 * 涉及到第三方基础设施 * 未来的政策可能会改变 * 用户依赖于外部信任 ## 本地 AI 优势： * 更大的控制权 * 减少了第三方的接触 * 更好的数据主权 风险： * 设备被入侵 * 恶意软件 * 未经授权的本地访问 * 系统配置错误 本地 AI 降低了某些风险。 但这并不意味着不需要人为判断。 # 拼图理论 想象一下，在几个月的时间里，你告诉了一个 AI： * 你使用 Laravel。 * 你使用 PostgreSQL。 * 你拥有一台 MacBook。 * 你为开源项目做贡献。 * 你对量化金融感兴趣。 * 你正在构建一个与安全相关的 Telegram 机器人。 这些陈述都不是秘密。 它们都没有直接识别出你的身份。 它们看起来都不危险。 然而，它们结合在一起就创造了一个完全不同的东西： 一个画像。 每一个陈述都是一块拼图。 而画像就是拼好的完整拼图。 拼好的完整拼图通常包含了从未明确提供过的信息。 # 画像 画像是利用观察到的行为和可用信息构建一个人模型的过程。 现代画像系统可能会估算： * 职业背景 * 兴趣爱好 * 购买行为 * 未来意图 * 沟通风格 * 风险承受能力 * 决策模式 重要的是： 画像不需要确定性。 目标不是： 目标是： 对于许多商业系统来说，概率就足够了。 # 阴影画像 画像使用的是你有意提供的信息。 阴影画像则更进一步。 它试图推断出你从未明确披露的信息。 例如： 你从未说过： 相反，在几个月的时间里你问： * 德国的工作签证如何运作？ * 我该如何改进我的简历？ * 德国的税收制度是怎样的？ * 德国的医疗保健系统如何运作？ * 柏林的生活成本是多少？ 没有哪单个问题能揭示你的计划。 但它们加在一起就能非常清晰地揭示出你的计划。 结论从未被明说。 它浮现出来了。 这就是阴影画像。 # 为什么 AI 改变了一切 早在 AI 出现之前，画像就已经存在了。 广告公司花了几十年的时间来构建行为画像。 推荐系统花了几十年的时间来预测偏好。 社交网络花了几十年的时间来分析用户参与度。 AI 带来的改变是规模。 人类很难将成千上万的微弱信号联系起来。 但机器可以。 人类会忘记六个月前的对话。 而机器可以瞬间分析它们。 人类会忽略微妙的关联。 而机器正是为了发现它们而设计的。 其结果就是，在一个当今的世界里，看似无害的信息一旦被聚合起来，就会变得极具价值。 # 画像不仅仅是理论 当人们听到“画像”这个词时，他们通常会想象出一种属于科幻小说的未来技术。 在现实中，画像已经成为数字经济的一部分几十年了。 早在现代 AI 系统出现之前，公司就已经在从以下方面收集信号： * 搜索查询 * 网站访问 * 购买记录 * 点击模式 * 设备信息 * 位置数据 目标很简单： 构建越来越准确的人类行为模型。 AI 的出现并没有创造画像。 它只是提高了画像的速度、规模和复杂性。 ## 一个历史案例 在关于预测性分析的讨论中，最常被引用的例子之一涉及零售购买行为。 通过分析购物模式，数据科学家发现，看似不相关的购买行为有时能在顾客明确宣布之前预测出人生的重大事件。 这个案例的教训不是说公司能够读懂人心。 真正的教训是，模式往往比单个事实揭示的信息更多。 这个原则远远适用于零售之外的领域。 同样的逻辑也可以应用于职业、兴趣、习惯、人际关系和未来意图。 # 数据与情报的区别 一个常见的误解是数据本身是有价值的。 数据很少是最终产品。 真正的价值通常来自于将数据转化为预测。 考虑一下这两者的区别： 数据： * 一个人搜索了公寓价格。 * 一个人搜索了签证要求。 * 一个人搜索了税收规则。 情报： * 这个人可能正在准备进行国际搬家。 单个的事实并没有什么特别用处。 推断出的结论却非常有用。 这种区别在 AI 时代变得日益重要。 # 新的隐私问题 从历史上看，关于隐私的讨论主要集中在收集上。 谁收集了数据？ 收集了多少数据？ 它存储在哪里？ 这些问题仍然很重要。 然而，AI 引入了另一个层面： 推断。 挑战不再局限于保护信息。 挑战越来越多地涉及到，如何保护那些可以从信息中生成的结论。 这就引出了一个困难的问题。 如果关于一个人的最敏感信息从未被明确说明过，而是被推断出来的，那么这个人还能有意义地保护自己的隐私吗？ # 为什么长对话很重要 传统的搜索引擎通常接收到的是简短的请求。 而 AI 系统越来越多地接收到的是富含上下文的对话。 人们会解释情况。 他们会描述情感。 他们会提供背景信息。 他们会讨论未来计划。 其结果不仅仅是一堆更多的数据。 其结果是更高质量的信号。 一千个孤立的搜索查询揭示出关于一个人的信息，可能比一段长达六个月的单一对话历史还要少。 这就是为什么与传统搜索相比，对话式 AI 值得开展一场截然不同的隐私讨论的原因之一。 # 你无意中构建的画像 大多数用户并没有刻意去构建一个画像。 它是自然形成的。 一个关于税收的问题。 一个关于人际关系的问题。 一个关于职业的问题。 一个关于健康的问题。 一个关于财务的问题。 每一个问题看起来都微不足道。 但它们汇集在一起，可能会成为一个人迄今为止为自己创建过的最详细的画像。 有时甚至比他们提供给朋友的画像还要详细。 有时甚至比他们提供给雇主的画像还要详细。 有时甚至比他们自己有意识写下来的画像还要详细。 这并不自动意味着危险。 但这确实意味着责任。 因为每一个强大的模型都始于理解。 而每一个画像最终都是为了试图理解对方。 # AI 对话的隐藏价值 许多人与 AI 互动的方式不同于他们与搜索引擎互动的方式。 他们会讨论： * 职业规划 * 商业点子 * 财务问题 * 内心的恐惧 * 创作的野心 * 感情问题 人类历史上第一次，数以百万计的人正在主动与有能力分析这些对话的系统进行长篇对话。 这些对话是否能保持私密、如何被管理，以及未来的系统可能会如何使用它们，是我们这个时代最重要的一些问题。 # 行为数据的经济学 这为什么重要？ 因为行为是有价值的。 预测是有价值的。 注意力是有价值的。 人类的决策是有价值的。 从历史上看，世界上一些最大的科技公司就是围绕理解和预测人类行为来建立其业务的。 AI 有极大地加速这些能力的潜力。 这并不自动意味着会被滥用。 但这也并不自动意味着绝对安全。 它仅仅意味着背后的驱动力非常巨大。 而巨大的驱动力理应受到审视。 # 一个更好的隐私问题 大多数人会问： 一个更好的问题可能是： 这两个问题并不相同。 而且第二个问题往往比第一个更重要。 # 我们正在见证历史性的转折点吗？ 这篇文章并不是反对人工智能的论据。 AI 已经帮助人们更快地学习。 更快地构建。 更快地创造。 更快地解决问题。 它的好处是不可否认的。 然而，每一项颠覆性的技术都会改变权力结构。 印刷机改变了信息。 互联网改变了通信。 人工智能可能会改变可观测性。 有史以来第一次，构建能够以前所未有的规模持续对人类行为进行建模的系统，正在变得技术上是可行的。 这些能力最终是被用于赋能、优化、监控、影响，还是控制，仍然是我们这个时代最具决定性的问题之一。 未来并非是注定的。 但也绝非是毫无风险的。 # 我们的角色是什么？ 也许最重要的问题不是： 也许真正的问题是： 首要责任是理解。 解决任何问题的第一步，就是认识到问题的存在。 即使我们还不知道究竟应该采取什么行动，我们依然可以做一件有意义的事。 我们可以讨论这些担忧。 我们可以挑战现有的假设。 我们可以提出尖锐的问题。 我们可以帮助他人理解其中的利弊权衡。 历史上许多最重要的改变，并不是从解决方案开始的。 它们始于意识的觉醒。 一个理解了问题所在的社会，远比一个忽视该问题的社会更有能力去解决它。 如果有足够多的人对这些挑战形成共识，那么应对这些挑战所需的安全机制、技术、政策和理念就更有可能涌现。 有时，引发有意义改变的最初星火并不是一个解决方案。 有时，它仅仅是一场对话。 # 作者注：一个小悖论 生活充满了悖论。 这篇文章最初的灵感是在与一个人工智能系统的对话中激发的。 而决定追求这个想法、对其提出质疑并塑造其发展方向，则来自于人类。 部分编辑、结构梳理、润色和翻译工作是由人工智能协助完成的。 有一次，AI 本身甚至拒绝纳入最后部分提出的一些论点，建议要警惕制造恐慌、夸大其词或得出毫无根据的结论。 而人类则坚持要让这场讨论继续下去。 最终的结果变成了一场谈判。 不纯粹是人类的成果。 也不完全是人工智能的成果。 而是两者共同协作的产物。 或许这也是恰到好处的。 毕竟，这篇文章归根结底探讨的是人类与智能系统之间的关系。 最后一个细节： 我们特意没有提及是哪一个 AI 系统参与了这个过程。 不是因为这是个秘密。 而是因为我们更希望读者去深入探讨其中的观点，而不是根据附带的名字立刻站队。 有时，标签比论点本身更能吸引注意力。 但有时，论点才是最重要的部分。 # 最后的思考 隐私不再仅仅关乎隐藏信息。 隐私正越来越关乎控制从信息中浮现出的模式。 而在人工智能时代，这种区别的重要程度可能远远超出了大多数人的想象。 ## 讨论 欢迎提出问题、批评、指正以及不同的观点。 仓库旨在作为讨论的起点，而非标准答案。 ## 许可证 本作品根据知识共享署名 4.0 国际许可协议（CC BY 4.0）进行许可。 https://creativecommons.org/licenses/by/4.0/

标签：人工智能, 用户模式Hook绕过, 电子书, 科普教育, 网络安全, 网络安全研究, 防御加固, 隐私保护