2026年网络安全趋势：影子 AI、量子计算与深度伪造

相关阅读

视频讲解

摘要

本期视频主要IBM实验室分享了2026 网络安全的发展趋势：AI 在提升效率的同时也被攻击者滥用，带来影子 AI 治理缺失、深度伪造与社工的加剧，智能体推动攻击链自动化等风险；同时提醒业界关注量子计算对现有加密体系的冲击，尽早推动后量子加密的部署与准备。

主线：AI 既带来价值，也被用来做坏事

整体趋势确实围绕 AI 展开，视频重点放在 AI 被攻击者滥用所带来的新风险与新代价。

影子 AI：更贵、更缺护栏

未经批准/备案的“影子 AI”会显著抬高数据泄露成本；同时不少组织缺少 AI 治理或安全策略，风险可能持续。

深度伪造：从“整活”走向攻击工具

生成式 AI 带来的假图片/音频/视频案例快速增长，并在网络攻击与社会工程中被滥用，预计只会更普遍。

AI 自动化攻击：漏洞利用与恶意软件更容易生成

出现用 AI 自动生成漏洞利用代码、AI 生成恶意软件并趋向更高级（如多态），降低攻击门槛、增加防守难度。

攻击面扩大：提示词注入长期高发

组织用 AI 推动业务的同时也成为新目标；提示词注入在 OWASP LLM 风险中持续居前，视频认为未来还会加剧。

AI 也在防守端落地：更快响应、更强适应

AI 正用于检测提示词注入、提升事件响应能力；未来需要能实时适应变化的安全系统，这类技术会更普及。

量子计算：后量子加密的倒计时

量子计算最终可能破解现有加密；虽然关注度提升，但实际部署仍有限，呼吁尽早推进量子安全/后量子加密。

智能体时代：两条战线同时升级

一方面会出现针对智能体的攻击（间接提示注入/零点击、权限滥用或提升、非人类身份激增）；另一方面会出现智能体发起的攻击（更强钓鱼、多态恶意软件、勒索链与杀伤链自动化、社会工程增强）。

更广泛的影响：教育、艺术、营销与编程

AI 将持续渗透各行业，教育需要从“对抗/禁用”转向“拥抱并培养能力”，艺术与营销应用增多，编程岗位结构也可能变化。

通行密钥：替代密码的现实路径

强调通行密钥更安全、易管理且抗钓鱼，多家企业推进，IBM 内部也已强制使用。

结尾：呼吁行动与观众互动

以“坦白/时光机”式叙事强化警示，呼吁立即行动部署后量子加密，并邀请观众讨论预测的准确性与未来走向。

正文

在 IBM Technology 频道，这已经成了一个小传统—— 每年年底都会做一期视频， 回顾这一年网络安全发生了什么， 然后再大胆预测一下未来。 我们 2023 年做过， 2024 年做过， 2025 年也做过。 今年我又来了，继续擦亮我的水晶球， 看看能看到什么。 对了， 顺便说一句，今年我可能稍微“作弊”了一点点。 看到最后听我坦白。 好，我们来看看 2025 年以及之后的那些预测， 到底准不准。嗯， 我当时说很多都会围绕 AI 展开， 有好有坏， 现在看起来确实是这样。 尤其是 AI，本身确实做了不少好事， 但我搞网络安全的， 所以我更关心它被拿来对付我们的那些负面用法。 先说个例子：影子 AI。 也就是没人批准，没人备案， 它就自己“野生上线”了。 有人随便往云上一丢， 装个模型， 就开始跑了。 影子 AI 的代价，我们已经见识过了。 我当时预测会很贵——确实很贵。 IBM 每年都会发布一份 《数据泄露成本报告》， 专门统计企业一旦发生数据泄露，到底要付出多大的代价。 报告里有个数据， 正好印证了我的说法： 如果发生数据泄露， 同时企业内部还存在影子 AI， 平均要多花 67 万美元。 也就是说，只要出事， 影子 AI 就会额外加码成本。 这是个大问题。 更糟的是， 报告还说 60% 的组织压根没有 AI 治理或安全策略， 来防范影子 AI。 已经更贵了，还没护栏，这事肯定还会继续。 再说深度伪造。 用生成式 AI 做假的图片、音频、视频， 让别人“说”他们没说过的话，“做”他们没做过的事。 娱乐一下当然可以， 但在网络攻击里被滥用就很可怕了。 而且我们已经看到了。 有报告显示，2023 年 大概记录到 50 万起深度伪造案例。 到 2025 年， 这个数字变成了 800 万。 算一算——涨了 1500%。 所以我当初说深度伪造会越来越多？已经在发生了， 而且只会更普遍。 再说用 AI 自动生成漏洞利用代码。 发现漏洞， 丢给 AI，让它写漏洞利用(exploit)。 对，已经有了。 还有 AI 生成的恶意软件， 而且越来越高级。 比如多态恶意软件， 会自己变形， 更难检测。 对防守方来说更难， 对攻击者来说门槛更低。 坏人只要跟 AI 说一句话，工具就自动生成。 防守这边反而更难了。 接下来这两点我将合并说明。 嗯，我之前提到人工智能会扩大攻击面，这点确实如此。 确实扩大了。 这里指的是那些利用人工智能推动业务发展、实现目标、提升生产力的组织。 这项技术在这些方面表现卓越， 但它同时也成为攻击者的新目标。 全球应用安全项目组织（OWASP） 在2023年发布了大型语言模型的十大漏洞清单， 其中第一的正是眼前这个：提示词注入。 猜猜看？到了2025年，它依然高居榜首。 因此，我们此前预判这种现象将持续存在 ——事实上我认为未来还会愈演愈烈 ——这一判断确实得到了验证。 不过从积极方面来看， 我不想只强调负面影响， 原本预期人工智能将被用于提升网络安全水平， 特别是优化事件响应机制， 实现问题识别与快速处置。 事实上，我们也见证了这种应用。 例如IBM就推出了一款产品， 通过人工智能 检测提示词注入攻击并实施防御。 这意味着人工智能正在协助防御基于AI的攻击及其他威胁。 未来此类应用将日益普及。 我们需要具备实时适应能力的系统来应对瞬息万变的攻击手段。 而人工智能正是实现这一目标的理想途径。 目前我们已开始看到这类技术融入网络安全工具。 接下来我要谈的并非人工智能相关 ——毕竟并非所有事物都与人工智能挂钩 ——但未来真正重要的趋势是量子计算。 量子计算能为我们解决诸多难题， 同时也可能带来一些棘手问题。 其中一个问题在于：当量子计算最终破解现有加密技术时， 我们将痛惜未能及时部署后量子加密算法 ——那些具备量子安全性的解决方案。 视频后半段我会详细阐述， 但根据我的观察： 我曾预测量子系统破译加密的“Q日”会更早到来 ——虽然具体时间尚不明确，但它终将降临。 值得欣慰的是， 随着2025年临近， 业界对量子安全技术的关注度显著提升。 这值得欣慰， 因为我们亟需让大众意识到这个迫在眉睫的威胁。 但不利的是， 目前实际部署进展有限。 虽有先行者，但远未足够。 而应对这些特定威胁的行动时钟，早已开始倒计时。 好吧，但我并未预见到所有情况。 我早知智能体会出现，只是没想到来得如此之快。 我真是太天真了 ——还以为赋予幻觉AI自主权尚未成熟。 其他人却异口同声：“能出什么问题呢？” 好吧，系好安全带，我们出发吧。 好吧，我可不想连续两年在智能体预测上失准。 我早知道它们会来，只是没想到来得这么快。 今年我将对智能体做出大量预测， 因为它们确实腾飞了 ——我将从两个不同维度来观察： 一是针对智能体的攻击， 二是智能体发起的攻击。 这两种情况我们都将见证。 我们已经开始看到部分迹象。 因此预测是：这类现象将持续加剧。 以针对智能体的攻击为例， 首先要思考智能体能为我做什么。 智能体本质上是自主人工智能， 你设定目标后它就会自动执行任务。 若运行正常，它就是生产力倍增器。 猜一猜会怎样？ 但它同时也是风险放大器 ——若有人劫持该智能体， 它将以光速执行你未预期的恶意行为， 其速度远超人类操作。 它不仅放大风险， 若赋予其访问各类高效工具的权限， 风险更将呈几何级增长。 记得我曾制作过关于零点击攻击的视频 ——攻击者通过邮件直接注入指令提示， 我们称之为间接提示词注入。 当智能体读取邮件进行摘要处理时， 便会执行提示注入中的指令， 从而窃取环境数据。 之所以称为零点击攻击， 是因为用户根本未曾触碰邮件 ——甚至可能当天根本不在办公室。 这正是问题所在： 智能体处理大量事务时， 完全无需用户干预。 另一趋势是非人类身份的激增。 所谓非人类身份， 即各类智能体运行时需具备特定权限层级和访问权限， 这意味着必须让它们在特定账户或身份下运行。 但这些身份并非真正与特定人员绑定。 事实上，智能体可以生成并创建其他智能体。 因此需要管理的身份越来越多， 这扩大了风险面。 结果就是， 针对这些系统的攻击也会波及此处。 有时用户可能认为： 让智能体以我的权限运行即可。 这看似合理， 但问题在于 ——你可能只执行一两项操作， 而智能体却以光速运行， 每分钟执行上万次操作。 风险因此大幅攀升。 此外，智能体还可能遭遇权限提升风险 ——若操作不当，它们可能获得超出应有权限的访问权限， 甚至过度访问系统。 部署智能体时，这些正是我们必须警惕的隐患。 这并非否定智能体的必要性， 我们绝对需要它们。 但必须保持清醒认知，充分理解潜在风险。 现在转向另一面： 恶意分子如何利用智能体？ 刚才我们讨论的是好人使用智能体，比如开展业务 那么恶意分子会如何利用？ 这涉及智能体对我们的攻击。 我们已观察到的一类攻击就是网络钓鱼。 当我们开始使用智能体时，钓鱼攻击的威胁会进一步升级。 钓鱼智能体能定制专属邮件，实现超个性化定制。 相比常规邮件，这种邮件更易诱使你点击诱饵链接。 同样，整个过程可通过智能体自动化完成。 另一种是恶意软件 ——正如我之前提到的， 我们已经目睹其危害。 具体表现如何？ 新型恶意软件不仅更智能， 还具备多态性 ——它会持续变形， 通过改变行为模式和规避检测签名来逃避识别。 攻击者只需向AI指令： “生成各类恶意软件样本，投放至全球观察存活率”。 若由人类完成这些工作将极其耗时， 但对智能体而言却轻而易举。 它能自动尝试海量方案，淘汰无效选项。 嗯，勒索软件 还将具备—— 我们已经看到一些迹象表明 ——整个勒索软件攻击链正在实现自动化： 它能编写勒索软件， 能撰写告知受害者行动步骤的邮件。 它编写漏洞利用程序来加密或窃取数据， 并自动收取赎金。 整个系统通过智能体自动化——从指令执行到资金回收全程自动化。 因此攻击者的技术门槛持续降低， 但攻击效率却不断提升。 另一个值得关注的趋势是杀伤链的全面自动化。 正如我在其他案例中提及的 ——这种趋势将愈演愈烈 ——智能体将自主识别攻击目标， 对其进行评估、侦察、渗透测试并挖掘漏洞。 它构建漏洞利用程序并执行攻击， 随后收集所有信息窃取数据。 整个过程完全自动化， 只需点击即可完成黑客攻击，所有操作均由智能体自主完成。 我们已初见这种模式的雏形，预计未来将更普及。 另一项将日益猖獗的攻击是社会工程学。 这种攻击通过伪装诱使目标实施明知不该做却仍会执行的行为。 若在社会工程攻击中 结合深度伪造技术， 或利用智能体收集到的其他情报， 其欺骗性将更具杀伤力。 因此我们需要探索应对策略， 以阻断此类社会工程攻击。 再次强调，这一切都源于深度伪造技术。 因此，我们不妨将其列为未来将持续增长的趋势。 深度伪造技术将不断精进。 那些试图投入大量时间研发深度伪造检测技术的人，不必费心了 ——因为伪造技术始终在超越检测手段。 检测技术将永远追赶不上。 因此我们必须接受深度伪造的存在， 需要培养人们的预期意识—— 不必执着于识别伪造， 而要思考伪造内容试图诱导的行为。 另一个虽与智能体无关 但极易预见的领域是人工智能的普及。 人工智能将持续扩张，其渗透领域既有可预见的范畴， 也有难以预料的领域。 我兼职担任北卡罗来纳州立大学的客座教授， 当初次目睹生成式人工智能与聊天机器人的能力时， 我和教育界多数人的第一反应是： 必须禁止这类技术， 必须建立检测机制。 必须确保学生仍在亲自撰写论文， 而非直接获取ChatGPT等工具生成的内容。 我认为变革即将到来 ——我为此制作了一段关于人工智能教育未来的视频即将发布。 教育行业未来必须拥抱人工智能而非对抗它。 若坚持将AI拒之门外是行不通的。 未来不会有人要求员工完成任务时禁止使用AI。 既然职场将提出这样的要求， 我们就必须培养学生掌握相关技能。 因此教育必须改变我们的教学理念， 人工智能将对其产生颠覆性影响。 在艺术领域—— 比如音乐、绘画等 ——我们也将看到类似变革。 作为吉他手，音乐对我至关重要。 我目睹了人工智能在音乐领域的发展。 如今出现了完全不存在的乐队 ——它们由人工智能生成。 这类现象将愈发普遍。 其中部分作品质量相当不错， 当然并非全部如此。 我们中有些人只是胡乱创作， 但说真的，音乐产业里充斥着粗制滥造的作品已有悠久历史， 这并非新鲜事。 营销领域同样大量应用着人工智能， 尤其在文案生成方面潜力巨大 ——它甚至能为你构思商业计划， 设计营销活动方案。 还有一个领域将受到影响—— 我一直在告诉我的学生们： 如果你像我当年攻读计算机科学专业那样，只想学习编程 ——我当时就是想成为程序员 ——如果这仅是你的目标， 那么随着人工智能编写代码能力的日益精进， 未来这类人才的需求将大幅减少。 目前人类仍更胜一筹。 但人类无法像人工智能那样实现规模化扩张， 而人工智能仍在持续进化。 因此编程岗位依然存在，但未来数量将大幅减少。 我认为人工智能将对所有领域产生深远影响。 需要说明的是， 我关注的不仅是人工智能的未来， 还涉及其他非人工智能领域。 其中一项——如果你看过我的视频就会知道—— 我特别推崇名为“通行密钥”的技术， 它能替代传统密码。 这种方式更安全、更易管理， 且基本能抵御网络钓鱼攻击。 通行密钥由FIDO联盟（快速在线身份认证联盟）提出， 众多企业已加入该联盟。 举几个例子：亚马逊、谷歌、塔吉特、PayPal、微软、TikTok。 这些企业都参与其中。 FIDO联盟最新报告显示， 上述企业93%的账户支持密钥登录， 且已有三分之一用户实际启用了该功能。 记得我最初谈论通行密钥时， 很多人质疑：这行不通，存在各种问题。 但事实证明它确实有效，正在有效运行。 大型企业正在部署这项技术。 IBM内部已强制要求所有员工登录内部系统时必须使用密钥认证。 我们整个公司都在使用这项技术。 就我个人而言， 在密码管理器中（密钥存储位置） 已有17个密钥， 预计未来数量还会增加。 因此我认为密钥是理想的替代方案。 它能有效防范数据泄露的首要根源 ——钓鱼攻击。这类攻击往往瞄准用户凭证和密码， 但若你根本没有密码，攻击者便无从窃取。 密钥无疑是更优选择。 好吧，坦白时间到了。 我造了台时光机穿越到了未来。 好吧，其实没有，但请配合我一下。 我找到了一份最新的IBM数据泄露成本报告， 毕竟，安全极客穿越未来会带什么？ 当然是数据泄露成本报告啦。里面发现了什么？ 我发现数据泄露的主要原因之一竟是量子技术破解传统加密算法。 可惜我忘了记报告年份——呃，当时没注意。 因此我无法精确告知此事发生的年份。 但可以确定那并非遥远的未来—— 毕竟报告里连飞行汽车都没出现。 不过好消息是： 你们现在就能采取行动避免这场灾难， 方法就是部署所谓的量子安全加密技术， 也有人称之为后量子加密技术。 请立即行动。 现在你已看到我的水晶球对2026年及之后网络安全的预言。 现在我想听听你的看法：哪些预测准确，哪些失之偏颇？ 请手下留情——毕竟水晶球并非完美无缺。 你预见未来会发生什么？ 请在评论区畅所欲言， 明年我们就能共同回顾这些预言的准确性。