几毫秒、10亿档案、每天数十亿次：Criteo 高管把广告 AI 的引擎拆给你看

从浏览器发出网页请求，到广告出现在页面上，Criteo 只有几毫秒的窗口。这几毫秒里，它要在自家系统约10亿个用户档案中定位到眼前这个人，从数百万件商品里挑出最可能促成下单的那一件，再换算成一个出价，扔进一场实时拍卖。赢了，广告展示；输了，等下一个机会。

这套系统每天要跑数十亿次，Criteo 已经做了20多年。

Cognitive Revolution 这一期请来的，正是这套系统的两位核心搭建者：Criteo 首席技术官 Diarmuid Gill，研究副总裁兼 AI 实验室负责人 Liva Ralaivola。同场的还有 Waymark CEO Alex Persky-Stern，他的公司跟 Criteo 有合作，负责帮广告主补上创意这一环。

广告的底层逻辑：一场价值交换

主持人 Nathan Labenz 用一个场景开场：Bernie Sanders 坐下来跟 Claude 语音对谈，问美国人该知道自己数据是怎么被收集、被画像、被使用的。整个氛围透着不安。

Diarmuid 的回应很直接：Criteo 不收集任何个人身份信息，只有一个随机匿名 ID，外加看过什么、点了什么、喜欢什么、不喜欢什么这些兴趣信号。

他把整件事归结为价值交换。一个对用户一无所知的系统，只能展示随机内容，而大脑过滤无关信息的本事一流，那些广告等于白展示。了解兴趣的系统，才有机会让人多看一眼。广告收入让内容和服务提供者有能力不设付费墙，用户免费看内容，广告主拿到生意，三方各取所需。

Criteo 还是最早推 Ad Choices 图标的公司之一。用户点开图标，就能看到自己为什么看到这条广告，也可以一键退出。Diarmuid 认为，透明加可退出，是这套体系能运转的前提。

Liva 给这份工作起了个更形象的名字：读心术。

作为中间方，我们手里的数据最少，AI 挑战却是最大的。用很少的线索，判断每个用户此刻最需要什么。

顺着这个话头，Nathan 问了一个所有人都好奇的问题：打开我的档案，里面到底有什么？那些天天弹出来的 cookie 授权弹窗，背后到底在交换什么？

几毫秒里到底发生了什么

Diarmuid 拆了一遍完整流程。用户在零售商或品牌网站上浏览时，Criteo 的技术会在浏览器里种一个 cookie，装着随机 ID，没有姓名电话。用户看过一部手机，离开网站后，系统记住了这个兴趣。之后这个人逛到别的网站，广告位开放竞价的瞬间，Criteo 可以选择：推刚才那部手机，或者把他归入「科技爱好者」人群，推同类产品。看过 iPhone 的人和安卓用户，画像走向会完全不同。

竞价决策靠模型。每次机会出现，模型会吃进大约150个特征：看过哪些商品、购买历史、当前网站的上下文、所用设备等等，输出一串概率，点击的概率、点进官网的概率、最终购买的概率，最后换算成一个出价。整个计算在几毫秒内完成，靠的是离线训练加实时低延迟推理，中间垫了大量缓存。

压力最大的日子是黑色星期五和网络星期一。Diarmuid 打了个比方：

把你的车连续一周开到300英里的时速，然后回到日常。同一台车，同样的机器，还得表现得分毫不差。

黑五期间，系统要在平时300%的负载下稳定运行。Diarmuid 说，他得向背后的工程师脱帽致敬。

Liva 补了一句大实话：这个行当的双重约束从来没变过，要准，还要快，而且每天数十亿次，一次都不能崩。

从2的12次方维，到几百个特征，再到基础模型

Liva 把20年的技术路线讲得很清楚。早期，用户行为被编码成一个超大的稀疏向量，维度在2的12次方到2的20次方之间，里面全是0和1，上面跑一个逻辑回归模型，本质上是只有一个神经元的线性模型。算得快，但特征全靠人手工设计。

手工特征的麻烦在于不可持续。cookie 会变，数据形态会变，每变一次，整套特征就得重新造一遍。

2018年，Criteo 成立 AI 实验室，目标就一个：扔掉手工特征，让特征从数据里自动算出来。核心是一个叫 DeepKNN 的专有算法，把过去2的12次方维的稀疏向量，压缩成200到1000个由深度学习自动计算的特征，再在这上面训练分类模型做竞价判断。现在团队在往下一层走，引入 transformer 架构，让模型更适应不断变化的数据。

再往上，是基础模型。Nathan 提了个 Stripe 的例子：Stripe 训了一个支付领域的基础模型，各业务线不直接用它，而是把一笔支付的嵌入向量当输入，喂给自己的模型。一份昂贵的资产，就这样摊薄到无数用例上。

Criteo 走的是同一条路。公司里有三四个基础模型，分别把商品、用户行为时间线等数据编码成语义丰富的向量，然后把这些嵌入开放给全公司。其他团队训练模型时拿它当热启动，不用从零开始。一个月前的公司 hackathon 上，很多团队第一次拿到这些嵌入，反应很一致：公司里已经有现成的宝藏，没必要自己重造。

这套向量的用法很灵活。Liva 举了两个例子：商品的向量算出来后，找相似商品就是找相近的向量；商品向量和用户向量处在同一语义空间，给定一件商品，找出向量最接近的用户群，一个可投放的受众就圈出来了。反过来，从一个用户的向量出发，也能推荐他周边的商品。

难点全在工程。嵌入要像软件一样做版本管理，新版本不能把下游模型弄崩；用户最新一次点击带来的信息，要在运行时实时更新进向量。离线的部分靠缓存，线上那一小步增量更新，正是团队投入最多的地方。用 Diarmuid 的话说，在时间约束内给出最好的答案，比在无限时间里追求完美答案更有价值。

这些能力也在撑着 Criteo 的业务扩张。公司起家靠的是再营销，也就是下漏斗生意，现在往中漏斗走：新客获取、产品发现，覆盖开放网络、社交、联网电视，甚至 LLM。基础模型的热启动，能帮广告主更快跑出高广告回报率，从零开始冷启动，变成半路出发。

和 OpenAI 合作：LLM 会过时，货架不会

Criteo 和 OpenAI 的合作还处在早期，但思路已经讲得很明白。

LLM 的知识在训练完成那一刻是准确的，之后就开始过时。Diarmuid 点出两个电商场景的要害：闪购价格和缺货。黑五期间价格一小时一变，靠大规模爬虫更新知识的 LLM 根本跟不上。

Criteo 的底牌是它的网络：连接约1.7万家零售商，商品数据每天摄取，有时一天多次。混合架构的逻辑因此很清晰：LLM 出世界知识和对话能力，Criteo 出实时准确的商品信息。用户问想买双鞋，得到的推荐既相关，又不会点进去发现变价或断货。点开商品页却发现价格不对、货没了，是最伤信任的体验。

Diarmuid 用了一个类比：LLM 加上准确的商品数据，等于走进一家店，遇到一个只关心顾客体验的金牌销售。他懂全部商品目录，能接住追问，会讲每件商品的优缺点，不累也不烦，信息永远实时。这是头一回，线上购物有机会复刻这种体验。

技术上，MCP 这类协议的出现让接入变容易了。以前要逐个适配每个平台，现在把自家工具做成协议兼容，LLM 就能直接调用。Criteo 在做的，就是把20年攒下的商品工具，接到这层新接口上。

隐私上有一条底线：只传当下展示广告所需的最少上下文，能不传就不传，而且只在有意义的场景传。Diarmuid 说 OpenAI 在隐私和用户授权上跟他们气味相投，这也是合作能推进的基础。

敢把50人名单挂上网的公司

聊到公司出身，很多人这才发现 Criteo 总部在巴黎。广告科技听着像一门纯美国生意。

Diarmuid 是爱尔兰人，在法国待了11年半。他的态度很硬：「欧洲做不了 AI」这个说法根本站不住。法国有深厚的数学和计算机传统，现代数学里到处是法国人的名字，拉普拉斯、拉格朗日、费马、伽罗瓦，这些正是机器学习的地基。Mistral 也出自法国。Liva 当过大学教授，他的观察是法国学生训练扎实，尤其擅长把问题形式化，而建模能力恰恰是 AI 创新的根。

更有意思的是人才策略。Criteo AI 实验室50个人的名单和照片，全公开挂在官网上。Nathan 说美国 AI 公司没人敢这么干，怕扎克伯格拿着空白支票挨个挖人。他自己就有一期访谈，某前沿公司研究员的节目录完三个多月还没批下来。

Criteo 敢这么做的逻辑有两层。第一，护城河在数据和网络上，1.7万家零售商的商品流每天涌进来，这个位置没人能复制，所以方法可以公开。第二，研究科学家要发论文、要有公开的学术身份，这对他们的职业是刚需，压着不发，顶尖的人根本招不来。实验室的博客和论文公开了大量细节，从 DeepKNN 的方法到训练用的损失函数都能查到。

实验室还赞助博士生，进来做真实项目，很多人毕业后转成全职。Diarmuid 自己每天通勤一个多小时来办公室，理由很朴素：身边都是又厉害又投入的人，这种环境留得住人。竞争者来挖人反而让大家保持警觉，把该做的事做得更好。

合规上，他们把欧洲标准当成全球统一的技术栈，美国市场也一样跑。Diarmuid 的判断是，加州的 CCPA 和 CPRA 出台后，欧美的规则已经大体趋同，互相借鉴。在欧洲出生这件事，反而让他们手里握着一套走到哪都能用的方案。

创意、个性化，和 AI 代理改变游戏规则

聊到创意，Alex 带来广告主视角：很多中小广告主进不了 Criteo、Meta、Google 这些平台，最大的拦路虎之一就是拿不出像样的素材。

Criteo 多年前的答案叫动态创意优化，模板加视觉素材，像乐高积木，运行时在线组装。生成式 AI 出现后，玩法在升级，但 Liva 泼了盆冷水：实时生成图像的速度还差得远，总不能让用户等5秒钟页面加载。所以现阶段是离线生成素材，线上负责拼装。他估计再过两三年，实时生成才可能成熟，甚至有一天计算会下放到手机或电视上完成。

Criteo 最近也上线了自助服务产品，让中小广告主自己就能搭起像样的广告活动，Waymark 这类合作伙伴负责补创意这一环。

个性化能走多远？Diarmuid 的判断很克制：大部分场景会停在受众级别，品牌要控制自己的调性，逐人生成广告对用户和品牌都没有明显增益。真正合理的超个性化，是用户主动发起的场景：被邀请去南法的婚礼，问 AI 要穿搭推荐，看虚拟试穿；想买件家具，先看看摆在自己家里什么样。

广告要真正有用，必须值得信任。让用户觉得惊悚的东西，注定无效。

这是 Diarmuid 的原话，也是整场对话反复出现的主题。Liva 把它上升成一条工程原则：不能把用户的决定权自动化掉，否则责任和信任都会出问题。每天建模型时都要问一句：人放在哪？放错了位置，项目会翻车。

Liva 的梦想更远：把高效的小模型装进眼镜这类设备，个性化在设备端完成，数据不出设备。云端出一个粗版本，个人设备做最后一道私人订制，隐私和体验可以兼得。

跨设备识别是另一个现实问题。家里共享 Wi-Fi，怎么知道广告该给哪个家庭成员看？Diarmuid 的答案是分两条路：用户在多个设备上登录同一账号，可以确定性地认定是同一个人；概率性方法只用于非常宽泛的定向。已经退出广告追踪的人，换台设备也不能再追。

至于联网电视，原则同样是不打扰。贴片、中插、片尾各有各的体验逻辑，那些把广告直接合成进剧情的演示，Diarmuid 觉得时机未到，用户得先觉得内容相关、体验顺畅。

最后是最大的一个问题。Nathan 抛出两个对冲的趋势：AI 让大家更富，时间更值钱，争夺注意力的广告市场水涨船高；同时 AI 代理替人筛选比价，搜索成本暴跌，广告的议价权可能被稀释。

Liva 的推演更大胆：未来用户可能主动要求看广告。让 AI 助手替自己筛100双鞋，只把6双摆到面前，再从这6双里挑。广告可能从打扰变成按需服务，行业里会多出一个新中间人。Alex 接了一句很妙的总结：如果广告做得足够好，它可能比搜索更好用，搜索和广告的边界正在坍缩。

明天就能用的三件事

• 做电商或品牌的人，去检查商品数据的实时性：价格、库存、描述是否每天更新。AI 代理和混合架构引用的就是这些数据，过时的商品信息等于把钱扔在竞价场外。
• 中小广告主，创意这道门槛已经塌了。先用自助工具把像样的素材做出来，再谈投放。没有创意，再好的竞价系统也帮不上忙。
• 普通用户，去点一下网页广告上的 Ad Choices 小图标，看看系统给自己贴了什么标签，不满意就退出。反过来，购物时试着直接向 AI 助手描述需求，把商品发现的主导权拿回自己手里。

几毫秒的竞价，撑起了免费互联网的另一半。这套系统正在被 LLM 和 AI 代理重新接线，而接线的人反复强调，最关键的部件始终是人。