30 秒看懂
Speechify 联合创始人兼 CEO Cliff Weitzman 与 Harry Stebbings 讨论购买 GPU 并将其托管在租赁设施中、混合使用自有和租赁算力,以及如何权衡物流负担与灵活性。他反思 ElevenLabs、Speechify 的企业战略、招聘和工程流程,并分享个人对 AI 应用于生物学的希望。成本示例、产品比较和医疗轶事均归属于发言者,访谈没有独立确立。
- 1购买与租赁的计算Weitzman 举例比较 GPU 购买和租赁成本;实际决策还取决于利用率、电力、设施和折旧。
- 2租赁设施,自有硬件他说 Speechify 将自有 GPU 托管在租用的数据中心空间,由设施提供网络、电力和安装支持。
- 3灵活性与控制权Stebbings 更喜欢租赁的简便性,而 Weitzman 认为拥有设备可以提供控制权和及时使用同址集群的机会。
- 4错过的 API 机会Weitzman 说,他低估了早期面向企业的产品作为进一步创新入口的价值。
- 5奖励产出他要求工程师演示和交付有用功能,而不是把 token 消耗作为绩效目标。
- 6对生物学的个人希望他对家庭健康和拟议研究的叙述属于轶事;访谈没有独立验证诊断、治疗或治愈效果。
要点建议
- 拥有 GPU 可以为基础工作负载提供可预期的算力,但经济性取决于利用率、融资、折旧、设施和运营成本。
- Weitzman 说 Speechify 混合使用自有硬件和租赁容量,并预计旧芯片对部分工作负载仍有价值。
- 他认为没有更早进入面向企业的语音 API 是重大失误,现在把产品视为进一步创新的入口。
- 两位嘉宾对一家消费者优先的公司是否应扩展到拥挤的企业市场存在分歧。
- Weitzman 看重实际招聘练习、智能体监督和已交付结果,而不是单独看 token 用量。
- 他对 AI 应用于生物学的希望和家庭健康叙述是个人轶事,不是经验证的医疗结论或治疗建议。
按章节阅读整理后的全文
购买 GPU 与算力经济性
Weitzman 解释 Speechify 为什么开始购买 GPU,并用示例比较租赁。嘉宾讨论折旧、利用率和季节性需求。
Speechify 联合创始人兼 CEO Cliff Weitzman 与 Harry Stebbings 讨论公司为什么购买 GPU、如何管理 AI 研究,以及他从语音技术竞争对手身上学到了什么。他们还讨论招聘、客户支持,以及他对 AI 应用于生物学的希望。
Stebbings 首先问到 Speechify 对 GPU 的投资,以及提前获得设备的成本。Weitzman 说,公司在 2022 年首次购买一个机架用于训练:工程师此前不愿在租来的机器上运行昂贵实验,因此拥有设备让他们能更可预期地使用算力。
他把这种情况比作运动员需要一个不必按小时付费的训练场。随着公司开发模型,它继续增加投资。他关于 Speechify 模型质量和相对价格的说法属于公司主张,讨论没有独立确立这些比较结果。
随后,Weitzman 以 H100 GPU 为例,演示购买与租赁的计算。他把假设的 3 万美元购买价,与按小时租用一整年可能累积的更高费用相比。这些例子取决于利用率和市场价格;单凭这一比较不能涵盖拥有设备的全部成本。
他说,大型训练任务还需要 GPU 和数据存储部署在同一地点,他预计公司自有硬件能让团队更好地控制这一安排。他还认为,这些机器可用于运行开放权重模型推理。实际经济性取决于网络、设施、维护、电力和工作负载。
Stebbings 反驳说,芯片会折旧,新架构推出很快,购买可能让买家受困于旧硬件。Weitzman 回应,Speechify 仍用较旧的 GPU 进行部分推理和实验。训练实验可能受益于最新硬件,但响应时间已经可以接受的任务未必需要它。
他说,拥有满足基本需求的设备并不意味着放弃云服务。Speechify 也租用专用实例和竞价实例,应对包括学生返校季在内的需求波动。在他看来,多块 GPU 可以同时保持用途,不像旧手机放在抽屉里闲置。
Weitzman 说,多余容量有可能租给其他人,但他承认自己预计不会有太多闲置。他将有实际用途的硬件回报与持有现金或债券相比。这是针对自己公司的投资判断,不是收益保证,也不是完整的风险比较。
他的融资比较假设硬件对业务持续有用。这并不意味着显卡本身产生无风险收益:所有者还面临利用率、技术过时、维修和转售的不确定性。Stebbings 在整场对话中反复强调保留租赁灵活性的价值。
设施、采购与物流
他描述硬件托管、供应商、冷却、电力及据报道的融资进展。Stebbings 质疑拥有设备是否值得承担运营负担。
他说,Speechify 通过供应商购买机架,并租用数据中心空间;该设施提供网络、电力和负责安装维护的人员。他认为电力供应是主要限制。公司购买硬件并将其托管在租赁设施中,并不一定意味着自己新建一栋楼。
为预测需求,他将相对可靠的基础负载与高峰区分开。在一个示例分配中,公司可能为正常用量中较保守的部分购买设备,用长期合同覆盖另一部分,其余依赖竞价容量。他也考虑未来招聘如何改变需求。
Weitzman 用假设中的 11 月基准、一个更忙的月份和一个较平静的月份,说明自己如何规划容量。只购买覆盖部分基准需求的设备,可以留下通过租赁实例应对高峰的空间。这些百分比只是规划方法示例,并非披露的实际容量计划。
他认为,旧加速器在不再最适合最苛刻的训练任务后,仍能支持实验或推理。这取决于工作负载和设备使用寿命。他对耐用性的预期不是保修承诺、市场价格预测,也不能替代折旧和维护分析。
Weitzman 描述了一项据报道涉及 Nvidia 与金融机构的融资安排,他认为这可能支持 GPU 二级市场。他认为抵押品及潜在转售价值会影响贷款方的计算。访谈没有独立确认安排条款,也没有保证任何具体芯片存在转售价格底线。
被问到对 AI 循环融资的担忧时,他认为 GPU 是有实际用途的实体资产,并将其与他批评的其他融资安排区分开。他的观点不能证明每块 GPU 都会保持特定价值,也不能消除交易对手、折旧和融资风险。
他说,购买芯片涉及供应商、供应情况、合同条款和交付时间。公司已经为机房空间付费时,设备延迟到货可能代价高昂。他回忆与供应商谈判,并表示愿为更快获得设备支付更高费用;讨论没有确定适用于每块芯片的统一溢价。
他描述了要求供应商按照现有合同交付设备,以及货物延迟后比较其他报价的过程。每次延迟也意味着继续为尚未产生用途的预留数据中心容量付费。他的叙述展示了采购风险,并不概括任何供应商的一般做法。
他把运输保险、摊销、实体安全、网络和冷却加入考虑清单。较新的机架可能需要液冷,现有设施可能需要额外设备和安装。他描述的是一种可能的配置,并不能保证所有数据中心都支持特定机架。
Stebbings 反驳说,租赁更灵活,让团队专注于产品,而不必处理运输、保险和冷却。Weitzman 同意可以租用,但说同址部署的集群可能需要昂贵的长期承诺,运营控制也更少。他们的分歧既涉及优先事项,也涉及表面成本。
Weitzman 认为,当研究人员竞相测试想法时,及时获得算力本身可能成为优势。他预计购买会让 Speechify 更早获得某些硬件。这是他对采购的预期,并非独立验证的交付保证或市场独占。
数据与语音 AI 业务
嘉宾讨论算力、数据和工程决策。Weitzman 考虑数据销售的风险,并反思 ElevenLabs 更早进入企业 API 市场。
他认为团队工作需要三个要素:数据、算力和工程决策。他说工程师协调多个智能体、检验假设,并花时间清理或生成训练数据。在他的描述中,可用数据或算力不足都可能限制本来有能力的团队。
两位嘉宾都预计,随着更多公司按自身需求调整模型,对专业数据的需求会增长。Weitzman 说 Speechify 买过小型数据集,外部提供商能够节省时间。他补充说,购买数据的公司需要确认来源和权利,尤其是在训练材料争议持续存在的情况下。
Stebbings 认为,即使公司用自己的专有信息训练模型,也可能购买补充数据。Weitzman 认为,专业提供商可以缩短开发周期,因为实验室不必自行组织每一次采集。两人也指出训练数据的合法来源很重要。
他提醒,数据销售不一定是年度经常性收入:买家可能不会再次购买。提供商还需要快速运营,并提供真正能改善客户模型的数据。Stebbings 认为,如果企业买家加入前沿实验室,未来市场可能更大;但这是一种情景,而非经过测量的预测。
Weitzman 说,消费者客户过去支付的费用低于企业客户,因此公司面临低成本运行文本转语音服务的压力。他称赞 ElevenLabs 更早建立面向企业的产品,并承认自己的公司此前专注消费者。他引用的比较价格和市场地位是个人说法,未经独立基准验证。
他称,没有更早开展面向企业的 API 是 Speechify 最大的战略失误。他曾预计文本转语音 API 会成为同质化产品,却低估了初始产品作为后续创新入口的价值,包括更多声音、语音识别和对话工具。
按照他的说法,ElevenLabs 先建立开发者 API 和创作者工具,后来又为企业用户推出智能体。他说,AI 公司在推出首个产品后必须持续创新,而不能假设单一功能会永远独特。他认为,接触客户和获得反馈是扩展产品的重要基础。
在他看来,企业 API 可以成为与工程师建立关系的起点,随后也可能接触购买更完整智能体产品的高管。他提到按结果定价是另一种可能的商业模式。这些是战略解释,不能证明任何特定 API 客户都会购买后续产品。
企业扩张与招聘
Stebbings 质疑进入拥挤的企业市场,Weitzman 则主张参与并学习。两人争论公司业务范围、薪酬和潜在人才池。
Stebbings 质疑 Speechify 转向企业销售的做法,认为与资金雄厚的现有参与者竞争需要建设困难的市场进入能力。他怀疑,当现有对手拥有强大分销和融资能力时,第三家企业能否捕获足够价值。这是他的战略反对意见,而非已经确定的结果。
Weitzman 回应说,Speechify 的消费者基础和工程资源能够同时支持消费者及企业产品。他引用公司的使用数据,并认为市场能够容纳不止一家提供商。这些数据和竞争比较由公司自行报告;访谈没有证明该企业战略一定有效。
他举出一些在先行者之后进入市场、后来取得成功的公司。即便 Speechify 不能赢得每个现有用途,他仍希望客户能使用公司的 API 或智能体,以便逐渐学习并增加功能。Stebbings 仍怀疑市场价值是否会被平均分配。
Weitzman 承认竞争对手在现有产品中可能拥有强势地位。他认为,市场演变时大公司仍可能留下空隙,挑战者需要向客户学习并不断改进。Stebbings 同意多家公司有生存空间,但怀疑它们的回报是否一定相近。
谈到“复合型初创公司”,Weitzman 澄清,并不是每家新公司都必须立刻建设很多产品。他认为,到一定阶段,有能力的团队可能需要扩大产品范围。他强调迭代和执行,但他认为智能体会让这一过程更容易,仍是对未来工作流程的观点。
讨论转向大型 AI 实验室提供极高薪酬时,初创公司是否还能招聘。Weitzman 说,处于成长阶段的成熟企业在招聘高级领导者时面临激烈竞争;而如果 AI 工具能帮助有能力的人快速学习,早期团队的人才池可能更广。
他说 Speechify 越来越看重技术潜质、解决问题和学习能力,包括来自数学、物理或编程竞赛的候选人。他仍然重视工程知识,但不再那么看重候选人手写每一行代码的能力。这是他的招聘偏好,不是所有工程岗位的规则。
Stebbings 反驳说,一些规模异常大的“种子轮”有能力提供可观薪酬,直接争夺有经验的 AI 人才。Weitzman 将这些资金充足的团队与首轮融资少得多的创始人区分开。两人同意,“种子”这一标签可以涵盖规模和招聘情况截然不同的公司。
他们也争论,员工如今是否更偏好流动性较好、更确定的薪酬,而不是充满不确定性的初创公司上涨空间。Weitzman 认为,每个候选人对风险和确定性的权衡不同。他指出,除了其他上市理由之外,公开上市还可能让股权价值更明确,从而影响招聘。
AI 辅助工程与评估
Weitzman 描述智能体采用、实际工程审查,以及为何奖励已部署结果。他讨论 token 成本、迭代和实际招聘练习。
他说,在 Speechify 内部,AI 研究人员已经协调智能体,而一些经验丰富的产品工程师起初更喜欢熟悉的手写代码流程。他通过让熟练实践者演示方法、分享学习资源,鼓励团队采用新方式。他提到 Claude Code 和 Cursor 是公司常用工具。
他说,鼓励团队采用智能体工作流程的一种方式,是让技术熟练的工程师通过屏幕共享演示具体例子,再提供学习资源。Speechify 也使用项目管理任务单组织工作。在他的描述中,人仍负责检查结果和处理边界情况。
Weitzman 将工程师的角色描述为设定方向、检查生成的功能、识别边界情况并作出架构决策。他希望智能体处理工作,同时由人评估输出是否符合目标。这是管理方式的描述,并非证明自动生成的代码无需审查就可靠。
他不奖励 token 排行榜,而是要求演示和交付功能。他说,一个有前景的模型实验,只有进入生产环境、让用户能够反馈后,才会获得同样的认可。他举例说,一位团队成员在观看录制的产品评审后迅速解决了问题。
对 Weitzman 而言,有用的演示包括产品实际在用户手中运行,而不只是令人印象深刻的研究结果。他会录制自己使用功能的过程,让工程师看到并复现问题。重视生产反馈是他的管理理念,并不意味着能够消除所有缺陷。
他说,尽管希望团队大量使用 AI,他仍会关注没有理由的 token 支出。合适的用量取决于任务。他把抓取数千个页面的广泛操作,与更直接地获取所需信息作比较,强调减少不必要的工作。
他举例说,有人构建应用时获取了远超过任务所需的网页数据,产生了高额账单。他说,有经验的工程师可以缩小请求范围、设定更高效的路径。他的重点是监测工作和成本,而不是单纯最大化调用次数。
对于长时间运行的智能体,他强调选择明确目标、定义衡量方式,并检查反复迭代的结果。当困难任务带来有用进展时,大笔支出可能合理;但低效循环也可能消耗资源而不创造价值。输出比 token 数量本身更重要。
他建议的招聘流程包括实际练习:构建功能、进行测试,并检查对现有代码库所作修改的影响。他希望看到候选人如何使用智能体,也想了解他们如何推理代码。他还提醒,高强度 AI 辅助工作可能让团队疲惫。
语音产品与客户支持
两人讨论同质化和竞争市场。Weitzman 区分语音 API 与完整支持应用,并解释为何希望向企业客户学习。
Stebbings 担心,随着替代品增多,语音转文本产品正变得同质化。Weitzman 讨论自己对竞争对手的印象,并说有些产品将模型与更广泛的界面结合起来。访谈没有独立确认底层模型,也没有证明任何特定产品被认为表现变化的原因。
Weitzman 说,他看重一个人进步的潜力,而不只是当前技能。他描述与承担结果责任、同时使用智能体的同事合作。虽然他个人重视高强度投入工作,也明确承认需要避免团队倦怠。
Weitzman 说,自己以前构建过个人口述体验,但没有推出,因为他预计大型平台提供商会让这一功能普及。他现在认为等待是另一个错误,并说 Speechify 已推出竞争产品。他得到的教训是,应该测试机会,而不是假设现有大公司一定会占领它。
Stebbings 质疑拥挤的客户支持市场:成熟供应商、新 AI 公司和企业自建团队都在竞争。Weitzman 把 Speechify 的核心企业 API 与完整客户支持应用区分开。他说,该 API 旨在为构建多种产品的客户提供语音能力。
Weitzman 说,API 供应商与销售完整客户支持工作流程的公司可能处在市场不同层次,尽管产品可能重叠。他将企业智能体描述为理解客户需求的一种方式,而不只是试图复制另一家公司的完整产品。
与此同时,Weitzman 希望直接与企业客户合作开发智能体,让团队了解他们的问题并发现新产品机会。他把相对价格和质量的说法作为 Speechify 推介的一部分;访谈没有独立评估这些比较。
被问到 Sierra 和 ElevenLabs 哪家会更大时,他预测两者都有巨大潜力,并把 AI 智能体描述为超越客户支持的广阔市场。Stebbings 认为两家公司产品目标存在差异。两位嘉宾都没有确定未来估值,也没有保证这些公司战略一定成功。
未来界面、投资与生物学
嘉宾预测语音界面和科技公司的未来。Weitzman 最后分享个人经历及对 AI 应用于生物学的希望,这些并非独立验证的医疗发现。
在快问快答中,Weitzman 预计语音会成为计算机和可穿戴设备更常见的界面。他将预期与更简单的交互联系起来,而不是假设屏幕会立即消失。他对当前语音产品及未来采用情况的评价是个人观点。
嘉宾比较了对 Meta 和 SpaceX 的假设性投资。Weitzman 偏好 Meta,理由是他所理解的数据、创始人领导和估值;Stebbings 对马斯克旗下业务的机会有不同看法。他们的评论属于个人推测性观点,不构成购买任何一家公司的建议。
在投资讨论中,Weitzman 说自己偏好创始人领导的公司,并认为 Meta 拥有有价值的资产。Stebbings 认为其他科技企业有更广泛的潜在市场。这是基于各自信念的假设性比较,没有对相对估值作出经过验证的预测。
他们讨论创始人、资本支出和估值在上市及私人科技公司中的作用。Weitzman 认为底层技术和商业资产很重要,而 Stebbings 质疑市场会如何回应管理层变化。两人都无法从讨论中确定未来股价或投资回报。
被问到最令他兴奋的事情时,Weitzman 转向 AI 在生物学中的应用,并谈到一位患有严重罕见疾病的家人。他描述了收集生物数据和自我报告数据,并用计算工具分析的过程。这些是个人研究经历和希望;访谈没有提供独立临床验证。
他推测可以使用计算工具研究生物机制和可能的干预方式。他对自己能够解决疾病或找到治疗方法的信心属于愿景,不是诊断、经验证疗法或治愈的证据。这类研究需要适当的科学和临床评估。
他描述如何将重复样本的测量结果与自我报告的生活质量数据比较。他希望计算分析能够发现有用模式,但个人叙述中的相关性不能确立疾病机制或有效干预。访谈没有报告独立同行评审或临床结果。
Weitzman 将自己对无障碍技术的兴趣与成长经历联系起来:他有阅读障碍,通过有声读物学习英语,并在 Brown 大学构建文本转语音工具。他说技术帮助了自己学习和工作。这一个人经历不能泛化为该软件治疗或治愈阅读障碍或 ADHD 的主张。
他分享了另一段家庭健康经历,希望更好的工具能够改善研究和生活质量。这些医疗说法属于轶事,访谈没有独立确认。Stebbings 最后感谢他就硬件、公司战略和 AI 潜力展开开放讨论。
同频道的其他文章
23:48EN → 简体中文
1:13:26EN → 简体中文
59:41EN → 简体中文
1:19:50EN → 简体中文
1:03:05EN → 简体中文
1:17:09EN → 简体中文