AI 安全、个人智能体与分化的风投退出市场

Harry Stebbings 与 Jason Lemkin、Rory O’Driscoll 开始圆桌讨论，首先询问对放缓前沿 AI 开发和可能引入外部监督的呼吁有何看法。三人辩论企业和政府应如何处理发生概率及时间均不确定的风险。

O’Driscoll 说，讨论应区分几个问题：滥用、经济扰动和失去控制。他批评一些极端的公开主张，同时将它们与他认为 Anthropic CEO Dario Amodei 提出的具体关切区分开来。他的评估不能确定任何风险发生的概率。

O’Driscoll 质疑在缺乏公认依据时给灾难性风险赋予精确概率，同时指出不同研究人员提出的主张也不相同。嘉宾没有深入检视底层证据，因此他们的怀疑并非对风险的测量。

他说，网络安全风险值得关注，但对大规模失业的预测持怀疑态度。对于可能失去控制的情况，他不太确定该如何评估。他认为，自愿监督、政府监管和国际协调分别带来不同的实际问题。

O’Driscoll 认为，如果政府决定需要监督，应由公共监管机构而非仅由企业决定规则。他担忧创新及实施问题，并说自己理解两种反对意见：一种质疑监管的必要性，另一种质疑由行业自行设计监督机制。

Lemkin 提出另一种解读，推测公开讨论风险也可能帮助公司为未来可能的 IPO 相关问题做准备。他将其描述为自己关于公司沟通的个人理论；嘉宾并未确定任何声明背后的动机或上市时间。

嘉宾区分了个别研究人员的言论与公司 CEO 的立场。O’Driscoll 呼吁公众审视严肃主张，Lemkin 则预测此事会受到广泛政治关注。提出的听证会及其可能后果都不是讨论中已确定发生的事件。

Lemkin 说，非技术背景的熟人曾向他询问 AI 安全，他预计这个话题会在公共辩论中变得更加突出。O’Driscoll 同意，政治和监管反应可能成为额外的商业风险。这些是对公众反应的预测，并非某项具体行动将发生的证据。

嘉宾讨论开发潜在风险产品的公司应承担什么责任。Lemkin 认为，高管必须处理重大危险，不能把责任完全交给外部人士。O’Driscoll 同意公司领导者负有义务，同时承认未来风险的确切性质和程度仍有争议。

Stebbings 问，自我改进的系统是否可能以开发者意想不到的方式发展，或被滥用。O’Driscoll 认为失去控制是一个严重的不确定因素，并主张，如果开发者认为自己无法管理重大风险，就不应不受约束地继续。

O’Driscoll 说，相比其他一些关切，他更难轻易排除失控的可能性。他倾向于在发现重大危险时让开发者承担主要责任，而嘉宾没有确定独立监督应如何评估这种判断。

Stebbings 和 O’Driscoll 对中国开放模型的发展在多大程度上依赖美国实验室的工作存在分歧。O’Driscoll 说，他无法评估具体技术主张，并提醒不要把所有进展都归功于某一个群体。这是观点交流，并非对某个组织的调查结论。

嘉宾回到公开言论如何影响信任的话题。他们指出，不同人提出了不同主张，直接把研究人员的观点归给公司领导者可能产生误导。他们预计有关就业、安全和治理的公共讨论会继续。

Stebbings 说，过去公开提出的就业警告可能影响人们如何理解后来的言论。O’Driscoll 回应，风险沟通可能影响公众信任。他们讨论的是外界感知，并未确定任何人私下真正相信什么。

Lemkin 提出一般性的两用问题：帮助人们的能力也可能被滥用。他主张采取保护措施，尤其是在强大系统被广泛使用时。嘉宾没有证明每种能力都必然对应一种有害用途，也没有证明任何特定保护措施足够。

被问及基础设施市场时，O’Driscoll 描述了自己对半导体和网络安全股票短期变化的解读。他将其视为一个时点的观察，而不是某项安全声明导致价格变动、或市场价格可以衡量 AI 风险的证据。

Lemkin 认为，获得巨额财务回报的前景会鼓励冒险，让高速发展的行业更难放缓。O’Driscoll 同意，经济激励与公众担忧可以同时存在。他们的交流没有量化创始人中有多少人怀有有害动机。

O’Driscoll 观察到，人们可能一边表达对技术的担忧，一边继续投资。嘉宾认为，财务激励与对技术有益用途的信念可能把人拉向不同方向，但没有解决任何具体公司应如何平衡的问题。

话题转向 Meta 的 Muse 和个人助手类别。Lemkin 说，他的早期体验是积极的：在自己的测试中，产品完成了几项日常任务并帮助处理网站。Stebbings 说，录制时自己无法从英国直接使用该服务。

Lemkin 说，他尝试让 Muse 整理信息和修改网站，对它能够完成任务印象深刻。这些例子只是他的初步体验，并非跨用户对可靠性、隐私或性能进行的独立测试。

Lemkin 认为，提供智能体服务可能带来不可忽视的算力和托管成本。他相信 Meta 受益于现有基础设施和自有模型，但他对每位用户成本的估计只是举例，而非经审计的产品经济数据。他认为基础设施可能成为 Meta 对小型竞争者的优势。

尽管称赞实现方式，Lemkin 仍问什么会让用户频繁回来使用。他不确定偶尔订餐或发送消息是否构成决定性的使用场景。Stebbings 则认为，旅行、购物和日历任务上的许多小幅改善加在一起，可能使助手有价值。

Stebbings 问，助手能否像超级应用一样成为发现和购买产品的入口。Lemkin 说，他想看到用户持续频繁使用的理由；Stebbings 认为，多个活动中的便利性可能已经足够。

Stebbings 说，Instinct 帮助他完成了若干任务，但响应延迟有时令人沮丧。他的体验只是单个用户的叙述，并非比较性基准。O’Driscoll 说，只要整体交互方便，这一类别即使没有单一的惊艳用途也可能成立。

O’Driscoll 将这一抱负与早期超级应用和消息产品的尝试作比较。他认为，更好的模型可能使移动端交互比旧式聊天界面更有用，同时追问赢家会是独立公司，还是嵌入大型现有平台的服务。

Stebbings 介绍 Instinct 据报道以 100 亿美元估值融资 10 亿美元，并启动模拟投资委员会。Lemkin 最初扮演支持者，认为专注的团队可能跨服务满足用户需求，并与注意力分散的大平台竞争。

在假设性推介中，Lemkin 提出互操作性问题，并质疑大型公司能否持续投资一款短期营收很少的产品。这些是竞争假设，不是对 Meta 产品限制的已验证结论，也不是对某位员工离职的预测。

完成指定的支持论证后，Lemkin 说自己实际上不会参加那轮投资。他担心 Meta 能将自有模型、算力、分发和资本结合起来，并强烈希望构建同类应用。他承认自己的判断可能有误。

他用假设的每用户基础设施成本说明经济问题：在业务找到可持续变现方式之前，庞大用户群就可能产生可观的年度账单。风险资本可以暂时补贴成本，但使用量、定价和续费之间的关系仍不确定。

O’Driscoll 同意，个人助手似乎是 Meta 的核心战略，而此前一些企业产品未必如此。他还指出成功初创公司可能出现另一种结果：大型买家可能希望获得其团队、用户或技术。节目没有将任何收购描述为已经达成或得到保证。

Stebbings 说，拥有卓越人才的创始人可能吸引大型战略买家，并提到一个假设中的巨额出售。Lemkin 提醒，不要建立一个必须依赖某种特定收购结果才能成立的投资论证，因为买家、优先事项和时机都难以预测。

Lemkin 说，大型战略收购可能取决于买家不断变化的重点和具体决策者。今天看似合理的买家，在初创公司需要退出时可能已不再可用，因此这种结果难以纳入投资判断。

O’Driscoll 考虑投资组合是否可以包含少量依赖收购结果、波动很大的押注，尽管这不是他自己偏好的方式。他强调，预期价值和风险取决于价格、概率以及投资组合的其他部分。

O’Driscoll 强调，投资组合方法无法消除单笔交易的不确定性。即使某些高风险投资有正的预期价值，投资人仍需要足够的资本和分散程度来承受失败。

投资人比较了早期融资与价格高得多的后续融资的风险回报。O’Driscoll 说，即便最终出售价值不变，同一个结果从低价进入时可能产生很高倍数，从高价进入时回报则会更小。

Stebbings 说，他发布一条关于 Instinct 的社交媒体内容后收到大量关注，包括许多邀请码请求。嘉宾将这则轶事视为好奇心的迹象，但持续使用、留存和变现等更广泛问题仍未解决。

Lemkin 介绍一种聚焦超大型科技退出的投资框架。他说，如果此类结果数量增加，较高的进入价格可能更容易得到解释，但他承认整个市场的算术是否成立仍不确定。这是一个情景，并不保证未来会出现这些退出。

话题转向协作和白板公司 Miro。Stebbings 提到其此前据报道为 175 亿美元的私人估值，以及据报道约 13.5 亿美元出售给 Bending Spoons。他说投资人、创始人和员工的结果各不相同；嘉宾没有独立核实完整交易条款。

O’Driscoll 说，当市场条件和增长发生变化时，长期未更新的估值可能难以维持。他认为出售是弥合差距的一种方式，并说后期投资人可能拥有合同保护，但具体投资人的待遇取决于实际交易文件。

O’Driscoll 认为，后期投资人有时可以通过合同优先权限制损失，并将一笔表现疲弱交易中收回一倍本金描述为较好的结果。能否真正收回本金取决于合同、可分配收益和其他投资人的权利。

嘉宾讨论买家通过削减成本和提高价格改善现金流的战略。O’Driscoll 认为，单一所有者可能比风投支持的董事会更容易作出大幅运营调整。他并未声称知道这笔具体收购的精确计划或未来表现。

他认为，不同所有权结构可能导致不同的经营选择：风投支持的公司和以收购为重点的所有者，可能对增长、成本和现金流有不同目标。Stebbings 追问这些选择对客户可能产生的影响。

Stebbings 担心涨价和削减成本可能导致大量客户流失。O’Driscoll 认为，如果留下的用户足够重视产品并愿意多付费，买家可能接受失去对价格敏感的客户。他们的例子只是说明，实际结果取决于客户行为和执行情况。

Lemkin 担心，对增长放缓、早期估值很高的成熟私人软件公司而言，有吸引力的退出机会可能很少。他将市场比作可用座位越来越少，同时承认未来仍可能发生更多交易。这是他的市场观点，并非已确认买家的统计。

Lemkin 以 Miro 为例：据他所说，这家企业仍有可观的经常性营收和正现金流，但出售估值远低于此前一轮。他担心更弱的公司选择可能更少。这些指标出现在讨论中，没有独立核实。

嘉宾简短讨论了涉及 Sam Bankman-Fried 的法律案件。Lemkin 推测可能的上诉论点和结果，O’Driscoll 则说相关事实应由法律程序确定。他们的讨论没有确认上诉会被受理、判决会改变或任何人会获释。

O’Driscoll 从更一般的角度认为，一项投资后来的表现本身，不能解决先前决策作出时资金使用是否恰当的问题。他承认法律条款和事实很重要。这是嘉宾的观点，并非裁决或法律建议。

随后嘉宾讨论了与 WordPress 相关的 Automattic 据报道涉及 Matt Mullenweg 的领导层和董事会争议。他们描述了领导层变动及随后撤回的情况，但没有确定治理文件内容或报道中的争议背后的全部事件。

O’Driscoll 批评该公司处理涉及 WordPress 生态和 WP Engine 的冲突的方式。他认为经营商业公司与维护开源项目之间存在张力。他的叙述反映个人解释；节目没有裁定各方的法律或事实分歧。

他认为，对任何成熟软件平台而言，更广泛的挑战是当 AI 改变网站和应用的构建方式时，如何继续保持有用。在他看来，治理冲突可能分散对这一战略工作的注意力。WordPress 和 Automattic 也可能出现其他市场结果。

O’Driscoll 根据董事会和股东权力，提出一种领导层争议可能如何演变的假设性解释。他明确表示这是猜测，而不是对 Automattic 章程或内部投票的了解。访谈没有验证他的推测。

Lemkin 思考，一些软件企业是否更愿意保持独立和盈利，而不是接受风险投资。他勾勒出一家义务和优先事项不同的假设小公司。这个例子不是对 Automattic 财务状况或 Mullenweg 私下动机的已验证描述。

O’Driscoll 同意创始人应理解接受风险投资带来的义务，同时将这个问题与领导开源社区的责任分开。嘉宾认为，商业所有权和社区维护相互关联，但属于不同问题。

Lemkin 说，开源公司必须艰难选择要从周边生态中获取多少收入。他认为，给合作伙伴留出建设空间，也可能让其他公司获得收入。他对 WordPress 生态的评论是个人观点，并非认定任何一方行为不当。

嘉宾将面临艰难退出的低增长软件公司与估值迅速上升的 AI 初创公司作比较。O’Driscoll 说，风投结果异常分化：高速增长类别的股权估值，可能与稳定但增长缓慢的老产品截然不同。

Stebbings 回忆与一位经验丰富的投资人交谈，对方认为当前市场异常极端。O’Driscoll 将这份热情和不确定性与互联网泡沫时期相比，但说在他看来，围绕 AI 的资本规模和想象空间更大。这是历史视角，而非对再次崩盘的预测。

Stebbings 引述 Mistral 据报道的 30 亿欧元融资，并说尽管公司在增长，仍受到批评。嘉宾没有独立核实融资条款或节目中提到的未来营收数字。

O’Driscoll 认为，欧洲对 AI 能力的需求可能部分由主权考虑驱动：政府和客户可能希望拥有能够在当地获得并施加影响的替代方案。他将这一战略理由与欧洲过去的产业努力相比。这是他的解读，并不能证明每位投资人的动机。

讨论中还包括对美国模型访问和政治决定的回忆。O’Driscoll 凭记忆发言，节目没有确定任何限制的具体政策、时间或范围。更广泛的问题是，对外国供应商的依赖会如何影响客户偏好。

Lemkin 指出，战略投资人的目标可能不止普通财务回报。O’Driscoll 同意，融资中投入的现金很重要，而估值既可能反映战略考虑，也可能反映财务比较。他们没有声称了解该轮融资背后的保密谈判。

Stebbings 问及 Adobe 据报道的领导层变动。Lemkin 批评继任安排，怀疑它是否意味着重大战略转变。O’Driscoll 也质疑仅靠 AI 专项指标能否证明整体业务增长加速。他们的判断和财务描述是录制时的观点。

Lemkin 认为，Adobe 的规模和现有现金创造能力使其比小型软件公司更有余地度过转型。不过，他仍希望看到新产品能够维持增长的证据。O’Driscoll 区分了客户采用新功能，与整个业务出现可衡量增长这两件事。

被要求预测 Adobe 未来市值时，嘉宾给出粗略猜测并讨论现金流倍数。他们也承认，一款成功的 AI 产品可能改变公司的发展轨迹。这些数字是推测，不应视为投资建议。

Stebbings 问，他们更愿意投资 Canva 还是 Adobe。Lemkin 强调增长放缓带来的困难；O’Driscoll 澄清，按照他引用的数字，Canva 仍在增长，只是速度下降。这个区别很重要：增速放缓不代表营收已停止增长。

O’Driscoll 说，随着公司成熟，投资人经常改变估值框架。高速增长公司可能按营收和扩张情况评估，增速较慢的公司则可能更侧重盈利或现金流。即便业务规模仍然可观，框架转换也可能给估值带来压力。

他回忆一家上市软件公司经历过类似转型，并说现金流追上此前成长估值可能需要数年。对调整期间寻求流动性的非上市公司而言，问题可能尤其困难；上市公司也要面对投资人结构变化。

嘉宾希望一家由创始人领导的公司能够重新加速，但也认识到，无论增长重新加快还是获得某个退出价格都没有保证。O’Driscoll 说，即使增速和估值倍数下降，盈利公司仍可能继续经营；结果取决于实际表现和市场条件。

Lemkin 因另一项安排离开后，Stebbings 和 O’Driscoll 结束节目。圆桌中的安全、法律和市场讨论反映参与者录制时的观点；报道数字和未来情景需要独立评估。