No. 317·精读

朝鲜员工在硅谷领工资,Jaguar靠20亿英镑贷款续命:AGI时代的网络防御赌注

AGI-Pilled Cyber Defense: Automating Digital Forensics w/ Asymmetric Security Founder Alexis Carlier

Asymmetric Security 创始人 Alexis Carlier 主张把 AGI 级智能劳动力当作前提,让网络安全从被动分诊转向持续的主动数字取证。

节目音频00:00 / 1:16:07
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原节目为准。

2025年秋天,Jaguar Land Rover 的生产线停了大约五周。勒索软件团伙加密了这家英国车企的系统,屏幕上弹出付款通知。英国政府最后提供了约15亿英镑的贷款担保,才让它的供应链没有当场崩掉。

这是勒索软件的破坏力。但 Alexis Carlier 把网络攻击分成三层,这只是中间那层。

他是 Asymmetric Security 的创始人兼 CEO,公司刚结束隐身模式。Anthropic 红队负责人 Logan Graham 在推特上说,这个圈子里没几个人比他更「AGI-pilled」。

Alexis 自己解释这个标签:2020到2021年,ChatGPT还没出现的时候,他就在 Center for the Governance of AI 工作,思考 AI 变成大事之后会怎样。现在他做 Asymmetric,前提假设很直接:AGI 会到来,会提供近乎无限的智能劳动力,那么网络防御该怎么从头设计。

他的答案是:从被动的应急响应,转向主动的、持续的数字取证。

谁在攻击,要什么

按数量算,大约80%的攻击来自相对低水平的业余爱好者或罪犯。他们做「喷洒式」钓鱼,给尽可能多的目标发邮件,广撒网。用现成的恶意软件,碰运气。普通个人和小公司遇到的大多是这种。不点钓鱼链接,基本就没事。

再往上是有组织的犯罪团伙,做勒索软件。他们中等复杂度,协同行动。找到系统入口,加密数据,弹窗要钱。新冠期间这类攻击数量暴涨。Jaguar 就是被这种团伙盯上的。这类攻击的经济破坏力最大。Alexis 估计,破坏和实际赎金的比例大概是10比1。有经济学家认为,如果能解决网络犯罪这个毒瘤,对经济增长的拉动会非常明显。

最上面是民族国家。数量少,但目标极其明确。中国是最大的玩家之一,重点是从西方的研发密集型行业窃取知识产权,AI 几乎是当前的头号目标。俄罗斯更侧重政治颠覆,2016年美国大选就是典型案例。

朝鲜的动机又不一样,主要是给政权筹钱。他们有一个「远程工作者项目」,把朝鲜人派到西方科技公司做远程技术岗,赚工资汇回国内。Alexis 说他们最近从 CrowdStrike 招了一个人,专门处理这类案子。公司发现员工不对劲,因为这个人同时在往国内寄钱和传 IP。

三种攻击者的行为模式完全不同。勒索软件团伙加密数据后想尽快被发现,好收钱。民族国家想尽可能长时间保持隐蔽。

防御的瓶颈在哪

普通公司做基本防御就够了:开多因素认证,定期更新软件,审查供应商的供应链安全,开自动监控,偶尔做主动的妥协评估。这些能挡住大部分业余选手和部分有组织犯罪。

对付民族国家是另一回事。Alexis 说,如果你有特别重要的 IP,需要极端严格地限制软硬件供应商,可能大部分 SaaS 都不能用。员工审查要超出常规,在某些地方甚至可能不合法。要持续在系统里找零日漏洞,持续做妥协评估。大多数组织根本做不到这个水平,所以民族国家的情报窃取行动一直在进行。

有个细节值得记下来。Nathan 提到他本来打算去中国参加 AI 安全对话,有人建议他别带自己的设备,买一次性手机,回来就扔掉。Alexis 说,如果你带了设备,对方大概率会在上面留持久化机制。可能是物理接触,也可能是拿到了你的登录凭证。你回国之后,这个访问还在。不是只有在当地连网络才被监控。

Nathan 问,苹果的安全团队很大,一直在修补,普通人值得他们用零日吗?Alexis 的回答是:苹果的安全确实不错,但国家级攻击方的投入是几十万人的量级。很多访问通道要几十年后才被公开发现。你不够重要,他们不会优先为你花零日漏洞。但技术上完全做得到,很多时候他们可以做到很久不被发现。

为什么数字取证这么稀缺

绝大多数公司的安全运营中心靠静态规则运转。软件里硬编码了「这个行为可疑」的判断。问题是,很多可疑行为也可能是正常的。你从不同地点登录,可能只是这周在西藏旅行。你半夜还在操作,可能只是熬夜。你批量下载文件,有时候人就是要批量下载。

反过来,真正可疑的行为可能看起来完全正常。有人想窃取数据,可以花几个月时间,每次只传一点点。静态规则根本抓不到。

所以现状是:大量误报,告警不断。安全运营中心先做分诊,快速判断这个告警值不值得优先处理。少数情况下,他们拉出来做数字取证。这才是深度调查,像侦探一样,把所有证据源翻一遍,推理出到底发生了什么。

问题是,能做这件事的人极少。CrowdStrike 是全球顶级的事件响应公司之一,能做深度取证调查的团队大概只有60人。整个人才池非常窄,人很贵,做事很慢。所以数字取证通常只在被入侵之后才被动使用,不可能做到持续、主动、大规模。

还有一层数据问题。网络安全的大部分信息不公开。公司被钓鱼攻击后,不会把邮件日志放到网上。研究者和模型开发者缺乏基准来评估模型在真实攻击场景里的表现。人才稀缺和数据稀缺叠在一起,让防御端的进步比攻击端慢得多。攻击端没有这个限制:想测模型能不能攻破系统,直接让它试就行,不需要敏感数据。

Asymmetric 在做什么

他们目前聚焦商业邮件泄露,就是通过邮件发起的攻击。常见场景是攻击者拿到了某个邮箱的访问权限,可能是钓鱼,可能是凭证泄露,然后用这个权限骗人发信息或转钱。2016年民主党全国委员会被俄罗斯攻击,也是邮件攻击。

Asymmetric 的做法是全栈 AI 数字取证和事件响应。他们有一个平台,把企业的邮件日志全部摄取进来。AI 代理做第一遍分析,人类调查员在后面检查,大部分时候做质量控制,少数时候需要实质性修改。

Nathan 问,现成模型表现如何。Alexis 说,在这些邮件调查里,不做什么花哨的训练,就用现成模型加基本脚手架,开箱大概能到90%的准确率。这对加速调查很有帮助,但离真正自动化还差得远。这个场景对准确率要求极高,可靠性的「九」很重要。所以可预见的未来都需要人类在场,把可靠性的九往上推。

效果上,这些邮件攻击的调查时间从行业常见的两三天到一周,压缩到了几个小时。

为什么从服务开始做

Nathan 问了一个很实际的问题:你是一家初创公司,客户凭什么选你而不是 CrowdStrike?没人因为选了 CrowdStrike 被开除。

Alexis 的回答指向 CrowdStrike 自己的历史。大约15年前,CrowdStrike 起步时也是先做事件响应服务提供商,做了两年才产品化。原因有两个:做服务能持续看到攻击者到底在干什么,积累数据;同时和客户建立信任关系。网络安全里信任特别重要,因为你很难判断一个安全工具到底有没有在起作用。没被攻击,可能是工具好,也可能是你根本不知道已经被攻击了。

Asymmetric 走的是同一条路:先用服务切入,积累数据和信任,再往产品化走。 不同的是,现在 AI 让服务模式的利润率比以前高得多。这是新技术窗口带来的机会。

他们目前的分发渠道主要是网络安全保险公司。保险公司有一批预先批准的事件响应供应商名单,客户被攻击后就从名单里叫人。所以 Asymmetric 的很多销售动作是去见保险承保方,在那里建立信任,再通过他们进入企业客户。这个渠道不太常见,但在网络安全领域很有效。

一个更重要的论点:差异化加速

这可能是整期播客里最有价值的部分。

Alexis 说,现在模型的能力边界是锯齿状的。有些任务像天才,有些任务连不起来。这带来一个机会:你可以有意地选择一些领域,通过策划数据集、评估方法和训练环境,把锯齿前沿往特定方向拉。

他举了个类比。AI 对齐领域讨论「自动化 AI 研究员」已经很久了,想通过 AI 加速对齐研究。其他领域很少有类似的思路。原因之一是预训练时代泛化太强,很难只在一个方向加速。但锯齿前沿改变了这个局面。

数字取证正好是一个适合差异化加速的领域,因为它不是双用途的。 渗透测试和漏洞发现是双用途的,你可以补洞也可以利用。但数字取证问的问题是「系统里有没有入侵的证据」,这纯粹是防御性的。Alexis 说,做数字取证的人通常不会变成顶尖黑客,人类层面上这两个技能集的重叠很有限。所以在这个领域加速 AI 能力,不太会同步加速攻击能力。

他呼吁更多人在网络安全、生物安全、AI 安全等领域做同样的事:有意地策划数据、环境和评估,把防御能力往前拉。Nathan 在结尾也说,希望看到这种思路被复制到其他领域。

市场有多大

事件响应服务市场大概400亿美元。这是 Asymmetric 目前切入的市场。

但 Alexis 的算盘更大。如果主动数字取证真的成熟了,它会替代现在基于静态规则的检测方法。检测市场大概5000亿美元。这是数量级的跳跃。

再往上,如果高质量安全变得极其便宜,需求可能会进一步爆发。不过这部分不确定,取决于客户类型。有些组织只需要达到最低安全标准,有些组织,比如 AI 实验室、国家安全机构,对安全有远超常规的需求。

Alexis 的框架是:假设你有100倍的智能劳动力,你会用它做什么?很多以前太慢、太贵、做不起的工作,现在可以大规模做。数字取证就是典型。最终成本会降到接近计算成本,你可以在系统里持续做深度调查,而不是等被攻击了才叫人来。

你现在能做什么

Nathan 在节目最后说,听完这期他可能会去改几个密码。这不是玩笑。Alexis 给出的防御建议里,最基本的那几条对普通用户仍然有效:

  • 打开多因素认证,这是投入产出比最高的一步。
  • 定期更新软件,大部分实际攻击利用的是已知但没修补的漏洞,不是零日。
  • 审查供应商的供应链安全,你的安全边界不只是你自己的系统。
  • 开自动监控,偶尔做主动的妥协评估。
  • 如果你要去高风险地区,别带日常设备,假设它会持续被监控。

创业者和技术负责人还可以多做一件事:如果你在某个防御性领域有专长,可以考虑把数据集、评估和训练环境做成资产。 锯齿前沿意味着,有意地拉高某个防御方向的能力,比等待模型泛化更现实。网络安全、生物安全、心理健康,这些领域都存在类似的机会。越早做,积累越有价值。

Nathan 在节目里说了一句话,值得作为结尾:如果 AGI 真的带来近乎无限的智能劳动力,问题就变成了你拿这些劳动力去做什么。Asymmetric 的答案是拿去做以前太贵、太慢、做不起的深度调查,把它变成持续的、主动的防御。

这个方向如果走通了,回头看 AI 对网络安全的影响,可能会得出一个和直觉相反的结论:防御方受益更多。

Alexis Carlier, founder of Asymmetric Security, explains how assuming AGI-level intelligent labor should transform cybersecurity from reactive triage to proactive, continuous digital forensics. He breaks down today’s threat landscape—from “spray and pray” cybercrime to nation-state IP theft and North Korean “remote workers.” The conversation explores Asymmetric’s AI agents for deep investigations, their services-first approach to business email compromise, and how specialized digital forensics may differentially accelerate defensive AI capabilities.

Nathan uses Granola to uncover blind spots in conversations and AI research. Try it at ⁠granola.ai/tcr⁠ with code TCR — and if you’re already using it, test his blind spot recipe here: ⁠https://bit.ly/granolablindspot⁠

Sponsors:

GovAI:

GovAI was founded ten years ago on the belief that AI would end up transforming our world. Ten years later, the organization is at the forefront of trying to help decision-makers in government and industry navigate the transition to advanced AI.  GovAI is now hiring Research Scholars (one-year positions for those transitioning into AI policy) and Research Fellows (longer-term roles for experienced researchers). Both roles offer significant freedom to pursue policy research, advise decision-makers, or launch new initiatives. Applications close 22 February 2026. Apply at: https://www.governance.ai/opportunities

Blitzy:

Blitzy is the autonomous code generation platform that ingests millions of lines of code to accelerate enterprise software development by up to 5x with premium, spec-driven output. Schedule a strategy session with their AI solutions consultants at https://blitzy.com

Serval:

Serval uses AI-powered automations to cut IT help desk tickets by more than 50%, freeing your team from repetitive tasks like password resets and onboarding. Book your free pilot and guarantee 50% help desk automation by week four at https://serval.com/cognitive

Tasklet:

Tasklet is an AI agent that automates your work 24/7; just describe what you want in plain English and it gets the job done. Try it for free and use code COGREV for 50% off your first month at https://tasklet.ai

Claude

Claude is the AI collaborator that understands your entire workflow, from drafting and research to coding and complex problem-solving. Start tackling bigger problems with Claude and unlock Claude Pro’s full capabilities at ⁠⁠https://claude.ai/tcr⁠

CHAPTERS:

(00:00) About the Episode

(04:20) Defining AGI and jaggedness

(12:27) Modern cyber threat landscape (Part 1)

(19:10) Sponsors: GovAI | Blitzy

(22:17) Modern cyber threat landscape (Part 2)

(29:58) AI-powered cyber defense (Part 1)

(33:31) Sponsors: Serval | Tasklet

(36:20) AI-powered cyber defense (Part 2)

(42:20) Inside digital forensics workflows

(51:52) Bootstrapping AI cyber defense

(59:17) Shaping the capability frontier

(01:08:44) Future of automated forensics

(01:17:59) Outro

PRODUCED BY:

https://aipodcast.ing

本集资源与出处