斯坦福研究者用 AI 挑战思考，而非取代思考

Cynthia Bailey 介绍了三位斯坦福研究者：英语系的 Mark Algee-Hewitt、法学院的 Megan Ma 和生物工程系的 Markus Covert。他们分别在不同研究领域使用计算方法或 AI。

Algee-Hewitt 将自己的工作描述为数据科学与人文学科的交汇。他的研究中心雇用本科实习生，为学生提供参与计算人文项目的机会。

他将这种方法称为大规模阅读：模型可以在数千篇文本中寻找模式，也能从读者不容易观察到的维度分析一部小说。相关项目还绘制地理指涉和历史通信网络。

他说，对他的团队而言，生成式 AI 是统计基础与人类解读之间的中间层。人仍须解读文学数据以及模型正在做什么。

他的项目“AI 时代的风格”研究模型的写作风格如何影响意义。他说，这对人文研究尤其重要，因为文字不只是报告结果的工具，也是意义形成的一部分。

Algee-Hewitt 对比了经常用数字表达结果的学科与文学研究：后者的措辞本身参与构建论证。他问，如果这些措辞由生成式 AI 提供，会发生什么变化。

一项试点研究分析了约 2000 篇文章，探讨学科是否具有独立于主题、可以识别的风格。规模更大的研究正扩展到 18 个学科的 10000 篇文章；主题模型最初将哲学和计算机科学放在相距很远的位置。

分类器不依据主题，而是使用语法、句子长度和命名实体数量来识别学科，成功率约为 43%。Algee-Hewitt 将其与约 5% 的随机水平作比较，并说方法仍在改进。

随后，团队提示本地语言模型以计算机科学的风格改写哲学文章。风格分类器将许多改写后的文章归为计算机科学，但仍有一些留在团队正在研究的长尾中。

另一个基于内容的主题模型也将改写后的哲学文本稍微推向计算机科学。Algee-Hewitt 说，初步结果表明风格与意义之间可能存在可通过计算检测的关系，而不仅是表层语法发生变化。

Megan Ma 介绍了斯坦福法律前沿技术创新实验室，简称 LIFT Lab，该实验室研究 AI 在法律实践中的应用。一个核心问题是：当客户无法总是直接判断自己购买的是什么时，如何定义法律工作的质量。

Ma 说，法律工作高度依赖判断，客户也会与具体律师建立关系，因此很难用单一标准答案评估法律质量。她的实验室研究评估、法律服务交付、培训和其他新方法。

Ma 介绍，实验室的 JudgmentBench 研究发现，偏好排序——从两个输出中选出更好的一个——的表现远超评分标准。她说，这一结果显示律师直觉具有价值，并提出更大规模的偏好数据能否帮助形成用于模型训练的评分标准。

AI 提高生产率也给按小时收费模式带来压力。Ma 举例说，过去需要十小时的工作借助 AI 可能只需两小时，并问律所应该如何考虑不同法律工作中的利润空间和受影响程度。

她的团队计划与法律 AI 提供商开展观察研究，查看编辑历史以及人类在哪些地方介入。团队希望区分：哪些工作无人修改是因为智能体处理得好，哪些则是因为价值较低、受到的关注较少。

培训是另一个担忧。Ma 说，律师通过实践积累判断力，但传统上交给初级律师的一些日常任务可能消失。她的实验室正探索模拟训练，让他们在风险较低的环境中练习。

实验室开发了谈判和证词询问模拟器；Ma 说，证词询问工具是开源的。用户可以上传证据开示文件或证人陈述，创建 AI 证人，然后按需反复练习提问。

在资深诉讼律师的参与下，模拟器提供 14 种证人原型，包括好斗、回避和健忘，程度可以调节。目标是练习如何在面对难缠行为时引导提问。

Ma 回忆，一名律师在真实证词询问中受到干扰：对方律师的笑声反复打断了其注意力。她希望模拟训练不只演练理想程序，也能让律师练习应对或避免某些情况。

另一个研究方向探索个性化法律角色：让模型模仿某个具体合伙人，而不是一般意义上的律师。Ma 说，模型很容易进行角色扮演，但也容易滑向漫画式刻板形象；挑战是表现一个人如何根据情境和程度调整行为。

Ma 以一位进取型谈判者为例，其行为会随情境变化。她问，数字化控制能否保留这种细微差别，而不是生成夸张的刻板形象。

Markus Covert 在介绍生物工程工作时说，复杂疾病是多种遗传、表观遗传和环境因素共同作用的结果。他认为，要理解疾病，就必须处理这些相互作用的原因，而不是将其视为单基因问题。

他的实验室建立了细菌细胞的计算模型，考虑其基因内容并预测可观察到的行为。模拟可以展示细胞生长、DNA 复制和分裂；他说，一个细胞周期会产生约 1 GB 数据。

模拟环境变化时，传感机制、基因表达和代谢会共同响应，改变细胞的生长和复制。Covert 认为这项工作更接近人工生命而非 AI，同时也研究二者如何相互作用。

十多年前，他的团队开始使用深度学习识别并追踪显微图像中的单个细胞。他回忆了在 Google X 附近参与的工作和专用硬件，说明未来计算能力可能让过去难以接近的问题变得可处理。

Covert 回忆了有关 AlphaGo 背后硬件的讨论，认为这是计算能力发生重大变化、影响自己的一次经历。他说，这种进步可能改变研究人员认为哪些事情可行。

Covert 追问，当 AI、诱导多能干细胞或 CRISPR 等技术出现时，人类可以开始设想哪些宏大目标。对他而言，重要的问题不只是哪些小任务得到改善，更是哪些过去不可行的问题现在可以着手解决。

Covert 与助教利用自己课程和教材的内容开发了 AI 学习助手。他说，读过一份他理解为将此类工具与更差的学习和身心状态结果联系起来的 MIT 报告后，团队投票决定不发布它。他将这一决定归因于避免潜在伤害，而不是他们自己试验得出的发现。

他从有关 AI 与信仰传统的对话出发，询问新工具如何支持人类繁荣。他关注技术变化时，不同传统认为什么值得保护。

他说，宗教和世俗传统可能对如何保护人、促进繁荣提供不同看法。他希望这些问题成为技术开发的一部分。

Covert 再次表达担忧：生产力工具可以创造更多产出，却留下更少思考时间。他问，AI 能否反过来让科学家有时间推理、医生有时间关怀、学生有时间探索、人们有时间建立联系。

Bailey 询问研究人员应如何在 AI 当前的局限与五年后不确定的能力之间取得平衡。当一个工具或研究计划需要多年才能建立时，这个问题尤其重要。

Covert 回忆，在 Google X 有人告诉他应假设计算和内存充裕，而不是仅围绕当前限制设计。他说，这种建议帮助他放开思路，同时他也意识到所需条件可能要以后才会出现。

Algee-Hewitt 怀疑是否有人能可靠地预测五年后的模型能力。他转而关注人类与模型互动的体验：人及其需求变化的速度可能慢于技术。

Algee-Hewitt 说，与对技术作出具体预测相比，人类与模型的互动是更稳定的研究对象。即使底层系统变化，研究人员也仍然可以研究这些互动。

Ma 说，法律科技常常寻找标准化的理想文件，而法律职业却高度依赖个人判断和关系。法律实践中的隐性知识与工具如何面向律师之间的差距，既是文化问题，也是技术问题。

Ma 介绍了实验室的 Socratic Mentor：它反复追问用户为何作出某项决定，并帮助拆解研究问题。她说，在与资深律师的试用中，这些追问帮助他们说清经验如何塑造判断。

Ma 认为，研究不应只关注让 AI 执行法律工作，帮助律师理解和解释自己为何这样工作也有价值。她说，随着模型改进，这种来回交流可以更有效。

Bailey 问，当人们对负责任使用 AI 的期待不一致时，应如何处理。例如，学生可能认为有限使用 AI 编辑可以接受，而教师不认同。在别人期待个人投入的地方，也可能出现类似差距。

Bailey 举了信仰群体的例子：领导者必须考虑一项任务被视为行政工作，还是需要个人或具有精神意义的投入。发现期待与实际做法不一致，可能损害信任。

Covert 就用 AI 写推荐信向全班做调查。他说，自己决定亲自写推荐信，但可能用 AI 保存和检索学生实习经历等信息。

他的目标是提高推荐信质量，而不仅仅是节省时间：信中应传达他对学生的个人了解和双方关系。Ma 请全班将此与教授让学生起草推荐信、自己签名的做法作比较。

Covert 问全班，更支持教授在 AI 协助下写信，还是让学生自己起草。这个问题说明，面对实际备选方案时，简单的禁令会变得更复杂。

Ma 说，一些初级律师不愿使用 AI，因为担心虚构引文等错误被公开报道。她回忆曾讨论过一起事件；据她说，七名律师看过那份法律文件，问题仍未被发现。

她说，一些律所合伙人会记录自己如何使用 AI，以指导初级同事。由于模型和工作变化很快，Ma 认为有经验的用户和教育者应解释负责任的做法，而不是期待每个人只依靠自己的直觉。

Ma 问，随着工具变化，教育者是否应继续反复使用相同的考试和材料，还是重新思考教学方式。她认为，有经验的从业者有责任说明自己的界限和方法。

Algee-Hewitt 反思了图灵测试：这项历史上颇具影响力的测试，基于机器被误认为人。他应对可接受用途不确定性的办法是透明：说明工具在何处、如何使用，让其他人能够评估并讨论期待。

Bailey 询问期刊、会议和公共媒体中可行的披露规范。Algee-Hewitt 认为，全面禁止可能促使人们继续使用 AI 却不承认，尽管某些用途确实存在问题。

Bailey 问，从研究投稿到 AI 生成的政治广告，需要什么基础设施来支持披露。她请嘉宾同时考虑社区规范和正式标识。

他说，在计算文学研究中，写作本身是人类思考过程的一部分，而研究人员可以用 AI 辅助编程。一些期刊区分这些用途：不要让 AI 写论文，但要披露并注明其对软件开发的帮助。

Algee-Hewitt 说，他的领域重视写作，既把它当作思考过程，也当作人类创造的作品。对需要计算方法但没有接受过计算机科学训练的人文学者来说，编程可能不同。

Ma 介绍 LIFT Lab 的内部政策：研究人员可以使用当前工具，但必须解释为何使用，以及过程中作出的重要设计选择。她说，有些看似完成的项目一旦被追问研究影响或架构，解释就站不住脚。

Ma 说，如果研究人员无法解释输出背后的选择，完成一个结果还不够。实验室期望成员理解架构，以及自己的决定对研究造成的影响。

Covert 担心学生可能用 AI 完成熟悉的课程作业而不进行思考，随后却要面对工具不那么可靠的陌生现实研究问题。他说，学生既需要掌握 AI，也需要获得他们来学校学习的基础教育。

Covert 要求实验室中用 AI 节省时间的研究人员，将部分时间重新用于检查自己和同事的工作。他举例建议拿出 20% 检查，再拿出 20% 深入思考重要问题。

Covert 说，大量生成内容可能让读者和出版系统不堪重负。对他而言，透明和质量需要认真审核，不能假定页数越多就越有用。

他还希望研究人员花时间与其他有好奇心的人交谈。他回忆了在博物馆听到的一次关于思想革命的讨论，认为社交交流可以帮助新思想出现；在他看来，如果 AI 能为这种思考和联系腾出空间，就具有价值。

一位观众问，随着 AI 能力增强，学生应保护哪些能力以免退化。Algee-Hewitt 提到批判性思维：用自己的想法和经验进行解读，而不是在能力形成之前就把它外包。

Ma 提到判断力，以及积累个人经验参考库。她鼓励学生不要只是在学校一路赶进度，而应拥有更丰富的生活，以便日后借助不同经历建立类比并讲述有意义的故事。

Covert 提到科学品味：决定哪些问题值得关注。他还强调智识勇气、熟悉多个领域、团队合作和持续好奇心，因为事实与工具都可能迅速变化。

Covert 鼓励学生结合不同领域的知识，挑战看似无法解决的问题。他认为，团队合作与保持好奇的习惯比今天学到的任何单一事实都更持久。

一名学生问，使用 AI 学习新技能和直接让它完成任务之间的界限在哪里。Covert 将让 AI 做完所有课程作业比作看机器人举重：学习者错过了增强自身能力的锻炼。

Covert 描述了一次写作实验：他自己起草每个段落，再请 Claude 提出遗漏的引文、最有力的反驳和其他领域的类比。他说，自己检查了建议的论文，没有直接相信模型能正确识别文献。

Covert 针对每句话要求模型提出三项可能遗漏的参考文献、三个可能削弱论点的反驳，以及其他领域的类比。他持续整理清单，并亲自检查论文。

两天后，他写出了四个自己认为最好的段落之一。他说，凭已有知识本可以写得更快，但这种对话促使他更深入地阅读和思考，同时保留了自己的声音。

Algee-Hewitt 说，界限取决于活动的目的。在一门拟议的游戏批判课程中，学生会设计并试玩游戏，研究叙事和玩法；AI 则可以帮助实现课程并不打算教授的简单代码。

Algee-Hewitt 说，如果是在编程课中，游戏设计的例子可能正好相反：编程可能是核心技能。相关界限取决于活动真正想要培养什么。

Ma 说，AI 可以帮助人们掌握相邻领域的基础，但好奇心不应止步于第一个答案。她建议以此为起点，与拥有更深专业知识的同事交流。

最后一位学生问，教育 AI 的哪些设计选择可以避免 Covert 提到的负面结果，并介绍了一门课程使用 AGENTS.md 文件为 AI 辅助设置边界的做法。

Covert 没有指出导致这些结果的具体功能。他强调向在前沿实验的研究人员学习的机会，将当下与早期网络搜索的变化作比较，并鼓励学生选修该领域正在积极发展的课程。