30 秒看懂
Jane Street 研究员兼交易员 In Young Cho 与 Ron Minsky 一起追踪交易想法从探索、数据收集到建模和生产的全过程。他们讨论研究工具、可复现性、低信噪比金融数据、市场状态变化、硬件限制,以及公司在 2025 年谈及的机器学习计划。
- 1交易对手为何重要了解大客户的交易背景有助于做市商评估影响并提供执行服务。
- 2研究流程Cho 将探索、数据收集、建模和生产视为交易想法相互关联的组成部分。
- 3灵活性与稳健性新假设需要快速实验,而成熟系统受益于生产级控制。
- 4可复现的研究notebook 状态、变化的数据集和代价高昂的重新运行,使可靠比较变得困难。
- 5噪声中的信号Cho 用一个比喻说明数据虽多,但有用的部分很少且事先未知;交易行为也会使市场规律发生变化。
- 6硬件塑造模型在短时间尺度上,延迟和吞吐量限制可能决定哪些模型切实可用。
要点建议
- 交易研究、软件工程和实时决策经常在同一个岗位上交织。
- 探索性研究受益于快速迭代,而生产系统需要可靠性和审慎验证。
- 金融数据集需要关注公司行为、幸存者偏差和其他数据质量问题。
- 可复现性在研究和部署中都很重要,尤其是在 notebook 状态和数据源可能变化时。
- 市场数据含有大量噪声,参与者交易消除规律或世界进入新状态时,数据也会发生变化。
- 模型设计不仅要考虑预测准确率,还要考虑推理延迟、吞吐量和硬件限制。
按章节阅读整理后的全文
从实习到交易
Cho 回顾从医学预科到 Jane Street 的经历,介绍学习技术技能和与客户合作的过程。
Ron Minsky 介绍 In Young Cho:她是 Jane Street 的研究员兼交易员,帮助领导机器学习工作。他们讨论她如何进入交易行业、研究如何开展,以及金融建模的独特之处。
Cho 最初以为自己会成为医生,同时也参加数学竞赛。她决定医学不适合自己,并在几个行业尝试实习后,听朋友称赞 Jane Street 的面试过程,于是决定一试。
面试很有挑战,让她感到脑力耗尽,但她喜欢这段经历。尽管对金融知之甚少,她还是接受了实习机会,并在完成本科学业后全职加入公司。
实习期间,每天都有新的谜题或技能需要学习。Cho 既看重工作本身,也珍惜聪明、谦逊的同事所提供的支持:他们投入精力帮助实习生学习并充分发挥能力。
作为量化交易员,Cho 学习了 OCaml、VBA、shell 工具、SQL、金融术语和与经纪人通话。她回忆说,有一次接电话时喊出了“park”,因为她不知道电话上有一个叫这个名字的按钮。
客户、市场与交易员的角色
养老基金的例子说明做市商为什么重视交易对手的信息。交易融合了实时决策、软件开发和研究。
Minsky 问,一家以技术为导向的交易公司为什么还要接经纪人的电话。Cho 解释说,大约从 2013 年开始,Jane Street 除了在电子交易所匿名交易,也开始建立更直接的客户关系。
大型养老基金重新平衡指数投资组合的例子说明了区别。做市商看到大量匿名买单时,可能不知道总规模,也不知道买单是否反映了自己缺少的信息,因此可能更保守地报价。
了解客户及其计划的交易,有助于公司估计市场影响,并提供定价或执行建议。Minsky 指出,当交易是常规的投资组合再平衡,而不是基于信息优势的押注时,交易对手信息可能对双方都有价值。
Cho 还编写工具,将交易可视化并分析过去的机会。她将这些活动描述为软件工程、研究和实时交易的混合,尽管它们都是交易员日常工作的一部分。
Minsky 补充说,实时交易不仅是与交易对手通电话,还包括对自动化系统及其行为做出实时决定。两位发言者指出,“交易员”这个职位在不同公司可能有不同含义。
从想法到生产的研究
Cho 将研究分解为探索、收集数据、建模和在生产环境中执行交易。Minsky 和 Cho 讨论模拟与灵活探索工具之间的取舍。
被问及研究是什么样时,Cho 描述了一个从探索开始的流程。交互工具必须快速、清晰地展示信息,让研究员能够及时提出和舍弃假设。
以养老基金为例,探索可能涉及查看客户投资组合和公开申报文件,了解持仓变化和可能的订单流。目的是判断潜在市场影响以及可以提供的价格。
一种假设可能是客户的大多数交易影响不大,但某个特定持仓会带动市场。检验这一假设需要收集可能的交易日期、规模、时间和收益,以及其他相关信息。
Minsky 强调需要基础设施处理股票拆分、代码变更和数据错误。Cho 说,在处理数百万或数十亿行数据之前,手工构建一个小数据集有助于了解错误会在哪里出现。
建模阶段需要确定预测什么以及哪些特征重要。只有少量观测值时,简单线性回归可能更合适,因为表达能力更强的模型可能过拟合。更大的数据集和复杂的交互关系,可能需要包括深度学习在内的更复杂方法。
模型和看似可信的样本外预测只是工作的一部分。投入生产意味着决定如何在市场中表达这一预测,并确保技术系统能够可靠地执行预期交易。
Minsky 区分了两种方式:模拟一个接近生产交易系统的系统,或者先研究问题的简化版本,再将结果转化到生产中。他问 Cho 如何权衡这两种方法。
对于新市场或信心较低的想法,Cho 更倾向于灵活、快速地迭代假设,而不是先构建完整的生产系统。但用非生产工具开展的快速研究,之后可能带来可靠性和部署困难。
成熟系统提供稳健的实验环境,但即使是很小的修改,也可能需要学习庞大的库生态。两种方式并无天然优劣;合适的平衡取决于工作的成熟度、市场和研究问题。
Minsky 说,一些交易台自然会通过修改现有算法系统来开展研究。模拟仍有成本,包括处理海量原始数据。轻量级摘要和较短的迭代时间很重要,因为许多研究想法最终会失败。
培训与现代研究工具
他们对比了过去的亲手研究与较新的数据集和可视化工具。培训从基础开始,数据仍需要验证。
Cho 将研究的发展比作草图逐渐变成细致的画作。早期工具支持的研究较粗糙,但一个人可以深入理解每个阶段,从数据集每一列的含义,到回归和交易实现。
即便回头看这些工作显得原始,亲手参与的经历仍然很有教育意义。随着工具和模型变得更强大,要让新研究员保留这种直觉理解也变得更难。
Cho 说,培训从基础开始,而不是立即呈现完整抽象。新交易员先理解各个动态,再将它们组合成策略;研究员也可能先花时间学会解读一张示例图,再面对成百上千张图。
他们的工具有了显著改进。Cho 估计,十年前需要一周的研究,使用当时的工具可能十分钟就能完成,但能力提升也带来了复杂性。
数据基础设施必须考虑公司行为、股票拆分、股票代码变化和历史股票范围。重建多年前的交易对象时,如果只看今天仍存在的公司,就可能引入幸存者偏差。
公司的工具可以在正确的时间为观测值关联市值、波动率和内部历史估值等元数据。尽管如此,Cho 仍鼓励研究员“信任但验证”:检查数据并报告可疑结果,而不是假定每个数值都完美无缺。
可视化工具可以在更细的时间尺度检查市场事件,并制作交互式历史图或实时图。Minsky 将其与过去手工操作电子表格行并使用基础绘图控件的方式作了对比。
Notebook 与可复现性
Python notebook 让探索具有交互性,但可能难以复现或投入生产。两位发言者都主张研究与工程之间的协作。
研究员可以使用树模型、深度学习模型和特定回归方法的库。Python notebook 让交互式研究的组织和代码推理过程的注释更容易,但它并非为生产系统设计。
Minsky 觉得 notebook 的执行顺序令人困扰:单元格可以按任意顺序运行,使可见代码与生成结果时的状态不一致。可复现性也很难保障,因为大型研究任务的重跑成本可能高到不能随意进行。
Cho 描述了研究员希望快速修改、工程师需要可靠高性能系统之间的张力。跨越这两个领域工作的人可以弥合差距,防止分歧演变成地盘之争。
Minsky 认为,研究内部同样需要可复现性。模型发生变化时,研究员需要知道实验是只改变了一个预期变量,还是同时改变了底层数据源、代码等多个因素。
Cho 同意,人们常常通过艰难的经验学到这一点。在 Jane Street,研究与生产角色的边界并不僵硬,了解两者的人可以帮助构建更好的工具并增进相互理解。
市场中的机器学习
发言者对比了小数据与大数据环境下的研究纪律,并讨论可解释性、噪声、市场竞争和市场状态变化。
话题从较简单的线性模型转向神经网络和树模型。Cho 指出,习惯小数据集和强先验直觉的研究员,随着模型和数据集变大,也必须改变习惯。
数据稀缺时,研究员可能限制所测试的假设,并尽可能保留数据用于拟合。面对更大、更复杂的模型,Cho 强调要严格管理训练集与验证集、样本外评估,并避免不同团队重复搜索相似假设。
Minsky 将其描述为不同形式的纪律:在低数据环境中限制模型和假设;当模型较难解释时,则使用审慎的数据和评估程序。Cho 说,对希望直观理解模型行为的研究员而言,这种转变可能令人不适。
简单模型可能足够容易理解,以至于研究员能在疫情等异常事件后调整它。Minsky 将其称为一种面向干预的可解释性:充分理解模型,从而在世界变化时决定如何修改它。
Cho 认为金融机器学习尤其困难。她用一个比喻说明:有 100 份数据,其中只有一份包含有用信号,却不知道是哪一份。这是对低信噪比的说明,而不是测量得出的比例。
数百万相互作用的参与者决定数千种金融工具的价格,因此任何一组特征可能只能解释收益的一小部分。Minsky 补充说,市场参与者会针对可观察的规律交易,可能消除研究员从过去数据中发现的模式。
Cho 称这是市场的反归纳性质。与稳定的基准不同,金融数据可能在危机或其他事件之后发生变化;有时市场的运作方式不同,是因为世界本身已经改变。稳健的模型必须应对这样的状态变化。
硬件限制与未来方向
交易模型必须符合延迟和吞吐量限制。Cho 和 Minsky 讨论规模化、迁移学习、多模态数据和员工工具。
Minsky 说,公司每天处理数十 TB 的市场数据,而预测涉及截然不同的时间尺度。有些系统在意约 10 纳秒量级的变化,其他决策则需要人参与,时间尺度长得多。
Cho 表示,对最快的模型来说,硬件不是事后才考虑的问题。延迟和吞吐量限制可能决定设计问题本身:先了解现有硬件能支持什么,再在约束内寻找最佳模型。
Minsky 列出相关限制,包括 CPU、FPGA、GPU、不同的内存系统、互连和存储。他将此联系到机器学习中更广泛的经验:能在现有硬件上高效扩展的架构可能特别强大。
他不认为规模会让先验知识在所有交易问题中都失去意义。在数据稀缺的领域,研究员可以借鉴相关市场的经验;在其他领域,规模化能力会改变模型和硬件的选择。
谈到未来时,Cho 对预测保持谨慎,但对近期进展感到兴奋。她说,Jane Street 已获得数千块高端 GPU 的使用能力,并提高了对模型、数据和服务硬件的理解。
公司记录大量市场及其他数据,并在使用深度神经网络预测方面取得进展。Cho 预计,未来还将研究如何把成熟资产类别中的知识迁移到数据稀缺的类别,并将市场数据与文本或图像结合。
Minsky 区分了从文本和图像等熟悉模态中提取信息,与直接建模金融时间序列:后者的许多相关实践并未公开发表。他预计多模态和推理技术的进展会在更广泛的交易流程中创造机会。
两人也对提升员工效率的工具感兴趣,例如能处理特殊内部语言、系统和数据集的助手或智能体。Cho 说,哪些功能自行构建、微调或从合作伙伴获得,这些决定仍然困难且没有定论。
同频道的其他文章
1:48:29EN → 简体中文
1:36:37EN → 简体中文
1:05:45EN → 简体中文
1:25:00EN → 简体中文
1:16:29EN → 简体中文
27:39EN → 简体中文