为超级智能承保：投资可被起诉的智能体

介绍：AIUC、4000 万美元 A 轮，以及风险作为落地瓶颈

Swyx [00:00:00]：好的，我们在录音棚里，请到了 AIUC（Artificial Intelligence Underwriting Company，人工智能承保公司）的 Rune，以及我们熟悉的联合主持人 Vibhu。欢迎。

Rune Kvist [00:00:10]：谢谢。感谢邀请。谢谢。

Swyx [00:00:11]：你们今天要宣布什么？

Rune Kvist [00:00:12]：我们完成了 4000 万美元的融资，由 Ribbit Capital 和 First Harmonic 领投。

Swyx [00:00:17]：我第一次注意到你们，是因为 Nat 和 Daniel 投资了你们。今天的故事和当时差不多吗？现在的你们和当初以为要做的事，有什么区别？

Rune Kvist [00:00:26]：我们当时做种子轮融资的时候，曾有一个假设：在某个时间点，风险会拖住 AI 的落地。当时这还像是假想，但现在已经过了那个阶段。显然，契机到了，因为有了 Mythos、Fable 这些模型。AI 落地的真正硬约束就是风险，这一点已经非常明显。所以对我们来说，这就像同一个假设的自然延伸，过去是猜测，现在更像是事实。

Swyx [00:00:54]：能不能列出你们 A 轮宣传中重点提到的客户？

Rune Kvist [00:00:58]：当然。我们现在合作的客户包括 Cursor、Harvey、Lovable、ElevenLabs。

Swyx [00:01:05]：太棒了，恭喜。

Rune Kvist [00:01:06]：谢谢。

Swyx [00:01:07]：你是出了名地早期加入做 GTM（Go-to-Market）和产品的人之一。我很好奇：你是怎么进入 AI 领域的？简单回顾一下。

Rune 进入 AI 的路径：标度定律、资本与 Anthropic

Rune Kvist [00:01:18]：好。

Rune Kvist [00:01:19]：2021 年末，我把自己第一家教育科技公司卖了。我有一点时间思考接下来要做什么。我读到了 Scaling Laws（标度定律）论文，那一瞬间像被闪电击中一样。我当时就想："这是一个大想法。" 简单来说，Scaling Laws 论文就是讲：模型越大，模型就越聪明。

Swyx [00:01:38]：所以这是 Kaplan 那篇，不是 Chinchilla 那篇？

Rune Kvist [00:01:40]：没错，是 Kaplan 那篇。

Swyx [00:01:42]：嗯。

Rune Kvist [00:01:42]：对我而言，当时领悟到的重要一点是：资本将会读懂这件事。如果你投入更多钱，就能产出更多钱，于是就会引爆一轮炒作周期。你可以预见到稳定的回报，事实上后来也确实如此。所以我直接收拾行李。我从未来过旧金山，从没去过那里。我就收拾行李飞过去，去找写那篇论文的人。当时他们刚刚成立一个叫 Anthropic 的小实验室，团队大概 40 人左右。我喝了好多杯咖啡，最终被介绍给了 Dario。那时候他们正在纠结一些问题，比如：我们应不应该部署模型？要不要做营收？怎么与外界互动？他们刚从 OpenAI 分拆出来，公开报道说过，他们对当时处理部署问题的方式有些担忧。所以他们正在思考这些问题。那时是 2022 年初，一切都还在迷雾之中。当时最火的产品是 Jasper 这类东西。市场上什么都没有。所以价值会在哪里聚集、产业链上各个环节会如何分布，都是悬而未决的问题。

Swyx [00:02:48]：我想特别提醒一下大家，你会问这些问题，是因为你有 PPE（Philosophy, Politics and Economics，哲学、政治与经济学）的背景。

Rune Kvist [00:02:52]：是的。

Swyx [00:02:52]：我当时其实在新加坡，参加某种为 PPE 做准备的预科项目。我有一位导师，我们学哲学、政治、经济。但我觉得，你的这种背景很重要。读 Scaling Laws 论文的机器学习研究者，未必会得出和你一样的结论。但任何资本家读了都会惊呼："我的天哪。"

Rune Kvist [00:03:19]：没错。

Swyx [00:03:20]：对吧？

Rune Kvist [00:03:21]：是。

Swyx [00:03:21]：是谁把这篇论文推荐给你的？因为这在你的圈子里不是常读的那种论文，对吧？

Rune Kvist [00:03:26]：对。其实自从 AlphaGo 之后，我就对 AI 有一定程度的重视。

Swyx [00:03:36]：嗯。

Rune Kvist [00:03:36]：但当时感觉 AI 更多是抛出一些有趣的哲学问题，从远处看并不清楚会具体走向哪里。但已经足够明显的是，如果找到合适的机制让"技术-资本机器（techno-capital machine）"真正运转起来，那将是一件大事。只不过那时还看不清。所以某种意义上，这件事后来变得显而易见，而在当时并不那么明显。就是觉得，哇，这好有意思。但来自哲学和经济学的背景会让人意识到：如果这是真的，你就要和整个社会的所有大问题搏斗。你学过的所有政治学都会被扔出窗外。你学过的所有经济学至少会受到挑战。所以有意思的就是站在这个前沿，它会影响方方面面。所以我才去找它。

Swyx [00:04:32]：显然这是非常棒的洞察。顺便提一下，不知道的人可能不知道，PPE 项目是培养首相的地方（译注：牛津大学的 PPE 专业长期被视为英国政治领袖的摇篮）。所以你后来见到了 Dario。

Rune Kvist [00:04:41]：对，先见到 Dario。

Swyx [00:04:43]：嗯。你和他们的对话，有没有让你获得原本假设里没有的洞见？

Anthropic 的早期信念与 Scaling Laws 的水晶球

Rune Kvist [00:04:50]：如果你读 Scaling Laws 论文，你会得到一个非常模糊的草图：天哪，这看起来挺重要。图表上有几条线。这看起来挺重要。我觉得 Anthropic 团队比任何人都更深入思考的是：如果把这个想法真正推演下去，会带来什么含义？当时他们对 2026 年的世界长什么样有内部愿景文档，详细推演需要多少算力、CapEx（资本支出）会是多少、有哪些社会层面的隐忧，以及最终会释放出多少经济价值。所以感觉他们手里握着一颗水晶球，事后回看完全被证实了。他们并不是拿着水晶球说"我们显然是对的"，他们只是说："认真对待这个假设。"

Swyx [00:05:38]：把它想透，对吧。

Rune Kvist [00:05:38]：用和"情境感知"，也就是 Swyx 写的那篇著名的 AI 趋势预测文章，一样的方式把它想透。

Swyx [00:05:43]：就在街对面。

Rune Kvist [00:05:44]：就在街对面。

Swyx [00:05:44]：你们的办公室，是的。天哪，我们所有人都挤在同一平方英里内。

Rune Kvist [00:05:50]：没错。这已经过去几年了，但最近大家又开始引用它，特别是 Fable 和 Mythos 发布这几周。如果认真对待这一个想法，很多事情就顺理成章。

Vibhu [00:06:03]：而且要注意，Anthropic 当时的核心团队，做过 GPT-1、GPT-2 和 GPT-3。

Rune Kvist [00:06:08]：没错。

Vibhu [00:06:08]：这可不是什么实验性的东西。这是我们真正扩展开的模型。

Rune Kvist [00:06:14]：他们对这件事有强烈信念：如果你准备一大块算力和数据，它就是会自己学会东西，由此产出越来越聪明的模型。具体细节并不清晰。

Vibhu [00:06:26]：对。

Rune Kvist [00:06:27]：所有的影响也不清晰。但他们对核心命题的深刻信念让人晕眩。这既非常有趣又激动人心，但同时也很快意识到：如果这个假设成立，我们今天所熟知的世界将不复存在。所以从某种宏大意义上说，这也让人觉得很重要。

Vibhu [00:06:48]：那段经历如何塑造了你？那是 2022 年初。当时不仅有 GPT-1、GPT-2、GPT-3，Anthropic 那批了不起的、从未分家的创始人们，唯一没分家的，他们有信念离开 OpenAI，建立自己的实验室。你说当时有 40 人左右。那段日子是什么样的？

早期 Anthropic 内部：使命、部署与风险

Rune Kvist [00:07:06]：从外面看今天什么样，那时基本就是什么样。高度团结、使命导向，同时活在两种想法的张力之中：AI 既可能走向极好，也可能走向极差，而他们想参与建设它。这种张力是非常巨大的。他们当时在和激励机制上的难题搏斗，他们知道自己身处一场竞赛中，可能被迫走捷径，但他们也想站在技术前沿。所有这些想法当时都已经存在。这条线一直很清晰，不管你喜欢他们还是不喜欢他们，他们都真正坚守了自己的立场。有一组核心理念，他们坚守得比大多数公司坚守任何理念都要深。

Vibhu [00:07:58]：对。快进到今天。

Rune Kvist [00:08:00]：嗯。

Vibhu [00:08:00]：这些经历如何把你引向 AI 承保公司？你们现在在做什么？是什么促使你创办这家公司？

从 Waymo 到 AIUC：为 AI 构建信心基础设施

Rune Kvist [00:08:05]：好。AIUC 通过标准和保险，为前沿 AI 构建信心基础设施。从 Anthropic 到做信心基础设施的联系，是从 Anthropic 办公室的窗户向外看，看到 Waymo 自动驾驶汽车驶过。早在 2022 年初，Waymo 在某种意义上就是汽车的 AGI（Artificial General Intelligence，通用人工智能）。它们是超人级的司机，但你没法打一辆去机场。四年多之后的今天，你依然没法打 Waymo 去机场，尽管现在所有人都看了证据说："它们比人类司机更好。" 这个具体案例清楚说明：限制 AI 发挥作用的，已经不是能力，而是责任、风险或信任。这个问题是普遍的。现在 Fable 没有对外开放，不是因为它不是一个好模型，而恰恰因为它是一个非常好的模型。你很难对"它会做什么、不会做什么"做出承诺。而 AI 越强大，这个问题就越严重。基本上，更智能的 AI 意味着更强的自主性，这更有价值，但风险面也在扩大。因此，Waymo 给我们的启示是：除非你构建起能就 AI 做出承诺的信心基础设施，或者至少把风险透明化，否则落地就会被卡住。政府、银行、医院、军队需要知道 AI 会做什么、不会做什么，才能把它纳入运营。这就是我们想解决的问题。

那么，为什么是标准和保险？把这个问题放进历史长河去看，每一波技术浪潮都面临过类似的问题。比如回到 1900 年前后，电力开始普及，
Vibhu [00:09:47]：本·富兰克林。
Rune Kvist [00:09:48]：汽车失火，抱歉，是房子失火，很多人丧生。
（译注：Vibhu 此处接"本·富兰克林"，是戏谑地呼应本杰明·富兰克林著名的风筝电实验；紧接着 Rune 口误说"cars"再改口为"houses"，对应早期电气化导致房屋火灾的真实历史。）
1930 年代，汽车成了大事件，撞死很多人。1950 年代，民营核电成为大事件，风险巨大。在每一个案例中，市场都会跑到监管前面，去建立信心基础设施，因为"上马/不上马"的决策需要信心。市场从根本上是想要落地的。在所有这些案例中，标准和保险之间形成了一个共同的蓝图。这两部分之所以重要：标准提供了"道路规则"，它规定需要做哪些测试，让我们能知道风险有多高。以汽车为例，那就是碰撞测试。这些标准如今影响着保险定价，也影响购买决策。这基本上就是风险框架。保险公司之所以重要，是因为它们来买单。所以它们是最倾向于……最被激励去真实量化风险，并找出所有降低风险的方法的私营机构，因为这会增加它们的利润。所以它们帮助塑造了激励机制。这两者协同工作，效果很好。

那么，这怎么变成一家公司呢？显而易见的一点是，甚至在几年前就开始显现，前沿公司，包括我们今天的一些客户，比如 Cursor、Sierra、ElevenLabs、Harvey，向银行卖一个试点项目很容易。演示效果就能卖出去，它本身就是魔法。但要把试点扩展到全行或全医院的部署，就必须走风险流程。这些银行甚至不知道该问什么问题，更不知道什么样的回答是合格的，更别提怎么去测试这些智能体是否真的按预期工作了。所以它们面临的问题是：我们能说什么来赢得信任？我们觉得有一句话堪称黄金句式："嘿，我知道你很担心幻觉（hallucination）或越狱（jailbreak）之类的问题。我们已经让独立第三方按金标准测试过我们了，我们高分通过。作为信心的体现，全球最保守的保险公司已经看了这些数据。"

Rune Kvist [00:12:07]：它们愿意把一部分风险放在自己账上。

Swyx [00:12:07]：所以万一出了问题，背后有钱兜底，对吧。

Rune Kvist [00:12:09]：没错。这就是整件事的逻辑联系。我们后面可以深入谈一些和技术测试相关的难点，那是关键问题，但我先在这里停一下。

Swyx [00:12:19]：你和 Rajiv 是怎么走到一起的？这个，你看起来总是很自信，我们今天在宣布你的 A 轮，但我想了解早期的构思阶段。

与 Rajiv Dattani 共同创办 AIUC

Rune Kvist [00:12:31]：好。Rajiv 其实是我未来的姐夫。

Swyx [00:12:35]：哦。

Rune Kvist [00:12:36]：我大概一周半之后就要和 Rajiv 的妹妹 Hena 结婚了。

Swyx [00:12:42]：好，这下关系铁了。

Rune Kvist [00:12:44]：没错。

Swyx [00:12:44]：原来如此。

Rune Kvist [00:12:45]：所以，我和 Rajiv 已经相识十年了。有趣的是，我和 Rajiv 还有他妹妹 Hena 是同时认识的，当时我和 Hena 在伦敦麦肯锡做实习生，Rajiv 被分配做我的导师。所以我们是同时认识他们俩的。很长一段时间里，我们一起工作并不是必然的。我在创业，他在麦肯锡做保险业务的合伙人。三四年前，我想是 Hena 让 Rajiv 相信 AI 会成为一件大事。所以他辞掉了麦肯锡在伦敦那份舒服的合伙人工作，收拾行李飞到旧金山，最后加入了 METR。你们大概上网足够多，Swyx [00:13:24]：CEO。

Rune Kvist [00:13:24]：对。

Swyx [00:13:24]：我们听过 METR。

Rune Kvist [00:13:25]：你们看过那张图，智能体能承担的任务范围（task horizon）正在以极快的速度翻倍。所以他在 METR 担任 COO，主导了与 Anthropic 和 OpenAI 的合作，在模型发布前对其进行测试，同时也和美国、英国政府紧密合作，研究如何判断一个模型能否发布。从某种意义上说，那对他来说是完美的背景……