# 1,000人站岗，100万人在冲刺：AI时代怎么规划你的8万小时 > Cognitive Revolution No. 345 中文精读 - 原标题：Your Biggest Lever: Designing your AI Career for Maximum Impact, with 80,000 Hours founder Ben Todd - 发布日期：2026-05-26 - 主持：Nathan Labenz - 网页版：https://cogrev.1mmt.com/ep/345-your-biggest-lever-designing-your-ai-career-for-maximum-impa-eE02qP.html - 精读字数：约 5868 字（阅读约 13 分钟） > 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 先给一个数字：按80,000 Hours的最新估算，全世界全职研究AI失控风险的人，只有1000到2000个。而另一边，推动AI能力前进的人，少则10万，多则100万。 这个对比来自播客Cognitive Revolution的一期节目。嘉宾是Ben Todd，非营利职业咨询机构80,000 Hours的联合创始人。初版问世十年后，他的同名书在2026年5月26日重新出版，内容全部围绕AI重写。主持人Nathan Labenz的评价是：回头看过去十年，很难找到比80,000 Hours更能帮人准备好当下的信息源。他们在新冠疫情前好几年就预警大流行风险，在ChatGPT出现之前就在劝人去做AI安全。 这一集本质上是一堂AI时代的职业规划课，下面是划重点版本。 ## 8万小时花在哪，决定你人生的分量 机构名字来自一笔账：一年工作2000小时，干40年，大约8万小时。Ben Todd的核心判断是：**职业是一个普通人能拉动的最大杠杆**。它占掉工作生涯的一半，对世界的影响超过你其他所有行为加起来。 他觉得荒诞的地方在于，公共讨论里聊“影响力”，聊的总是买公平贸易咖啡、随手关灯、骑车上班。职业选择上一点点改进，就能盖过所有这些小动作的总和。可市面上的职业建议，多半是成功学故事加几句“追随热情”的口号，研究上的认真程度完全配不上这个决定的分量。 机构的起点很简单。2010年，一群牛津学生想搞清楚自己这辈子该干什么，找不到靠谱建议，就自己研究。第一场校园演讲，台下24个人，后来其中6个彻底改了职业方向。组织就这么长出来了。 Nathan补充过一个更小口径的算法：换工作通常至少干两年，那么多花两个月找工作，哪怕只算加薪10%这种私利，也完全划算。多数人却焦虑到连两个月空窗都受不了，急急忙忙跳进下一站，把本该有的优化空间全丢了。 ## 他们怎么提前十年喊中AI 80,000 Hours选题有三条标准：问题大、被忽视、可能解决。AI很早就进了他们的雷达，一部分靠地理运气：在牛津，他们和Nick Bostrom有交集。此人的《超级智能》2015年出版，里面不少想法成形得更早。 真正的转折点是2016年。AlphaGo击败李世石那一年，Ben Todd写了篇文章，呼吁大家把更多注意力转向AI。他的推理很朴素：AlphaGo证明深度学习是个真正成功的范式，顺着趋势线画下去，突破只会更多。他们没预测到LLM会长成今天这样，但大方向押对了。同期OpenAI成立，资本开始下注这条路线。 天平另一端是忽视程度。他引用了吴恩达当年的名言：担心AI统治世界，就像担心火星人口过剩。这是当时业内主流态度。**趋势存在，赌注巨大，关心的人极少，这个组合就是值得下注的信号**。 ## 别猜AGI哪天来，先问你的影响力哪年见顶 Nathan直接问：你现在对AGI有多确信？Ben Todd的回答：非常确信，而且每有新进展就再确信一分。但他做规划用三个情景。 第一个是快版。1到4年内实现AI研究自动化，触发算法反馈循环，5年的进展压缩到6个月甚至3个月，2028年前后出现强大的通用AI。这个情景的特别之处在于，强大AI会在大多数工作被自动化之前、在机器人成熟之前到来，中间会有一段混乱的部署期。 第二个是中版。AI研究自动化拖到2030年代初，因为算力扩张在2020年代末开始吃紧，晶圆厂产能接近用尽，新建厂要等好几年。反馈循环还在，只是改由造芯片驱动，从6个月变成3到10年，真正强大的AI在2030年代末出现。 第三个是平台期版。现有范式失速，算力太贵，收入撑不住，只能等新范式。Ben Todd承认这个越来越不太可能，但没排除。Nathan自己找不出会导致平台期的墙，Ben Todd的回应是：算力可能就是那堵墙。Nathan还自我校准过一句：模型能力提升所需的时间，他此前高估了；而实际影响兑现的速度，他此前低估了。 一个参考坐标：《AI 2027》报告的第一作者Daniel Kokotajlo给出的80%置信区间是2027到2050年，还有10%的概率超过2050。最激进的人也留着很大的不确定性。 于是有了那个关键转换：**别纠结AGI具体哪天到，问你的个人影响力在哪几年能见顶，再倒推规划**。如果押注AI，机会最大的窗口是强大AI出现前后那几年。Ajeya Cotra有篇帖子算过，现在一段婚姻的“预期时长”是10年。Ben Todd觉得职业规划至少按5到10年做。 书里给了比较offer的五项框架：选项本身的影响力，能积累的职业资本（技能、人脉、履历、品性），个人匹配度，探索价值（干这份工作能让你对自己适合什么多知道多少），再加其他因素。时间线越短，职业资本和探索的权重越低，但清零是错的。账很好算：花一年把生产率提高20%，四五年就回本。转学机器学习，或者转进政策领域，往往一年内就能完成。 ## 三个问题：失控、权力集中、工程化疫情 第一个，自主AI失控。人类水平或更强的AI脱离控制，后果可能不可逆，最终人类被彻底边缘化。这个问题远没有以前那么被忽视了，但人数差距依然悬殊：1000到2000人站岗，对面是10万到100万人在冲刺。 第二个，权力集中，是近几年新加进清单的。AI至少有两条路通向集权。一条是超指数增长：普通指数增长下，第一名和第二名的差距保持两个月不变；超指数增长下差距会越拉越大，领先的公司可能获得相当于一整个国家人口的数字劳动力，历史上没有任何一家公司有过这种权力。另一条是监控。他提到美国战争部抱怨不被允许用Claude监控所有美国人。过去根本没有人力去分析所有人的数据，有了AI就技术上可行了，想当独裁者的人会非常喜欢这个。 **权力集中的细节问题，忽视程度甚至超过对齐：更强大的AI该服从什么指令，CEO能不能一个人说了算，没几个人在认真研究**。 第三个，工程化疫情。就算没有AI，这类东西早晚也造得出来，AI只是让它提前。朝鲜这样的国家可能为了威慑去造超级病毒，一种互相保证毁灭的现代版，而制造门槛远低于攒出1000枚核弹头。实验室泄漏从来不少见，这类东西一旦被造出来，早晚泄出去。 Nathan问，为什么80,000 Hours总盯着下行风险。Ben Todd搬出一段旧争论。Dario Amodei在《仁爱机器》里的主张是尽快发展AI，把美好未来提前一年，等于人人多赚一年好日子。Ben Todd开玩笑说，此人只读了Nick Bostrom《天文浪费》的前半篇。那篇论文的后半篇才是重点：加速只让你多得一点点好未来，避免生存性风险保住的是整个未来，价值差着量级。Toby Ord后来把这笔账算得更细。何况下行侧远更缺人，自然成了优先项。 ## 前沿实验室：进去，还是留在外面 这是AI安全圈的老争论，Ben Todd的答案是：复杂。 主张去的理由很硬：最强的对齐研究团队就在实验室里，而且研究要真正落进产品才算数。反对的理由也硬：你可能在给能力发展踩油门，把风险线往前推。Redwood Research证明了在外面同样能干活，他们开创了AI控制研究议程，还和Anthropic合作做过欺骗性对齐研究。Nathan补充了“内部人”论证：在没有国际条约的情况下，这件事反正会发生，公司内部一小撮真正在乎正确事情的人，能在关键时刻起作用。他还觉得可解释性研究在开源模型上就能推进，对齐研究则难得多，因为模型行为隔一代就质变，欺骗行为会毫无预警地冒出来。 Ben Todd点破了分歧的真正来源：对灭绝概率的判断。认为末日很近、对齐没希望的人，觉得唯一出路是全面暂停，进实验室只会更糟。认为“这事挡不住，大概率能过关”的人，倾向于进去把胜率抬高。**这个问题上的结论分歧，多半来自前提分歧，不是谁更聪明**。 他特别提醒一件事：审视自己的动机。得出“我最有影响力的选择是加入那家出名、高薪、高速增长、人人都在谈论的公司”，是一个舒服到值得警惕的结论。多数人在自己不认同使命的公司待不长，OpenAI那些安全顾虑深的人，这几年几乎走光了。他给了几个自查办法： - 判断一家公司，看具体决策和记录，关键节点有没有做艰难的正确选择，别跟着氛围走。 - 培养几个敢当面指出你问题的朋友，身边多数人只会顺着你说。 - 把承诺写下来，预设重新评估的条件，防止标准一点点滑坡。 - 你会越来越像身边的同事，所以一开始就选对文化，别赌自己能扛住。 对“安全工作其实也是加速器”这个说法，他不回避：RLHF本来是安全措施，确实让模型更有用，给整个领域吸来了更多资源。问题只在于收益能不能盖过代价，完全不做安全研究的世界更可怕。他的立场是组合拳：一部分人推动在算法反馈循环变得可能时暂停一年，一部分人给“暂停不了”的情景做准备，全押一条路才是真的浪费。 Nathan补了一个旧金山活动现场的观察：Sam Altman和Dario Amodei同台，其他人纷纷拉起手，这两位始终没拉。两个在造几乎同一种技术、用几乎同一种策略的人，没法合作。他形容这是希腊悲剧式的场面。 ## 四大角色、不缺钱的盘子，和雷达上最怪的问题 离开实验室，Ben Todd把角色分成四大类。第一是技术研究与工程。他点名METR，这家机构专门测“我们离AI研究自动化还有多远”，是这个领域最权威的测量者，他们在Odd Lots播客上说手里有20个很有价值的项目，人力只够做两三个。Nathan的形容是，模型正跑得比测量能力还快。第二是政府与政策，最缺横跨技术圈和政府圈的人。第三是传播，公众对AI的理解仍然很低。第四是组织建设，管理、法务、人力、招聘，一切把事办成的技能。再往外，律师、经济学家、生物安全工程师，甚至历史学家都有位置。Nathan举过一个例子：历史学家Mark Humphries用AI转录和解读加拿大档案馆里没人看过的老文档，还在Gemini 3发布前发了篇技术分析，传播很广。冷门问题照样能反哺主流讨论。 政策清单他给得很具体：算力追踪，不知道训练发生在哪，任何执行机制都免谈；断电能力，现在没法快速关停一批正在跑自主AI的数据中心；透明度，一家公司目前可以偷偷启动智能爆炸，瞒上几个月没人知道；红线和应急预案，让危险行为触发全行业约定的响应。战略暂停方面，他认为中国必须上桌，而中国落后，反而更有动力接受“你停我也停”的交易，其高层也讨论过AI风险。现实是，华盛顿里看过METR任务时长图表的人寥寥无几，民间对AI的反感情绪正流进“禁建数据中心”，而数据中心只会搬去阿联酋，那更糟。 他眼里还有一个被低估的方向：用AI应用能力去做AI时代的问题，这样工具在变强，问题在变严重，两边一起涨。具体如自动事实核查，统计政客和评论员的预测记录，公布谁说对了；给政府官员配中立的AI决策顾问，不能全由他们本该监督的公司来开发。Forethought Research写过这个方向的文章。 疫情防备在他看来严重被低估，因为共识度高，项目还长得像创业：废水监测，把各种DNA片段合成出来再找指数增长的序列，连过去完全观察不到的疫情都能提前抓到；给基因合成公司做红队测试，把危险病毒片段拦在源头；做出更便宜、更舒服的防护装备并大量储备，致死率10%甚至80%的疫情一来，不会有人去超市理货；正压空气过滤和紫外线消毒，顺带让普通感冒变少；快速疫苗研发。**会拿AI造东西的人，可以把这套手艺直接平移过去**。 关于自己开组织还是加入现成的，他确认钱不缺。早年一家独大的Open Philanthropy不再是一家独大，新资助方不断进场，Anthropic的创始人们还集体承诺捐出80%的股权，光这块就是几百亿美元量级。他的提醒是：**创业型人格天然偏向自己开组织，从无到有很爽，把一个好组织效率再提5%却毫无手感，而后者往往更值**。他还观察到，自上而下的创业在非营利领域比商业领域可行，商业赛道太卷，好点子难找；非营利这边，看准一个缺口、有资助方愿意出钱，就能动手填。Catalyze Impact是这个领域的加速器，维护着一份汇总了20多份项目点子清单的总清单；Horizon Fellowship帮技术背景的人1到2年转进政策岗位；Halcyon专注中期职业转型。 雷达上还有更怪的东西。他的逻辑是：**做一个问题的人越多，这个问题越不缺你，要一直认真琢磨比当前共识更超前一格的事**。权力集中两年前还是冷门话题，如今旧金山的会上都有人正儿八经讨论，这是Forethought Research等少数机构的胜利。下一批候选：数字心智，等AI表现得和人类几乎一样，权利大辩论必然爆发，现在的任务是提前打地基，让那场辩论能理性进行，心灵哲学几千年没解决的问题别指望这几年解决，政策得在不同观点间求平衡；太空治理，能自我复制、落地后自己铺太阳能板的AI探测器，可能让人类远早于常识预期铺向太空，99.9%后面还跟着20个9的可及物质与能量都不在地球上，默认剧本是圈地运动，谁先到谁建起工业基地就再难被赶走，他建议办一个专门的太空治理智库，编辑劝他删掉这段，他觉得这恰恰说明该留着；渐进性失权，就算AI对齐了、也没人独揽大权，人类还是可能在经济竞争里被慢慢挤出去，目前没人拿得出防止方案，现状是打算让对齐后的AI来教我们怎么办。 聊到未来愿景，Nathan提议写乌托邦小说，把好未来的图景变具体，甚至流进训练数据去影响AI。Ben Todd泼了冷水：乌托邦小说的历史记录很差，前人笔下的乌托邦，今天看多半像反乌托邦，人很难跳出自己时代的价值观。他更认同学长William MacAskill的“可行乌托邦”：不指定终点，先保证文明保有选择能力，不出现不可逆的生存风险，不出现威权政府，信息保持流通。像在荒野里迷路，先找到水，先爬上高地，方向以后再认。 ## 明天就能做的事 - 去逛80,000 Hours的职位板，上面挂着大约1000个在招岗位，还有资助机会和奖学金清单。 - 申请他们的免费一对一咨询，Nathan四年前从创业者转向全职研究AI时用过，拿到了好几个关键引荐。 - 写下3到5个候选方向的短清单，按个人匹配度挑，然后去找目标机构的人问同一个问题：如果我做三个月冲刺，该学什么最能提高录取机会？ - 规划按5到10年做，在这个窗口内能回本的投资，转行学机器学习、进政策圈，都还来得及。 书里还有更多：什么样的工作让人满足，“追随热情”为什么不成立，AI时代哪些技能最值钱，求职最常见的决策错误。Ben Todd的收尾值得抄下来。 > 回头看这段时间，你想怎么回答？是想说“我只是趁乱赚了点钱”，还是想说“我尽力让它走对了”？你只有一个职业生涯。 Nathan的版本更实在：等孙辈问起“AI大转型那会儿你干了啥”，最好能有一个拿得出手的答案。