30 秒看懂
Reid Hoffman 认为,把握 AI 节奏应当意味着引导发展:更强能力的出现,应伴随可解释性和防护措施的进步。他说,考虑建设数据中心的城镇应协商稳定的电费和持续的当地收益,并保留拒绝的权利。为在就业受到冲击时赢得信任,他希望 AI 帮助人们转岗和创业。Manas AI 联合创始人 Ujjwal Singh 说,该公司的方法将候选药物发现的早期阶段从数年缩短到数周,而人体试验与监管工作仍是独立阶段。
- 1把握 AI 节奏可以意味着安全工作与能力同步推进Hoffman 呼吁在研究自我改进系统的同时,加强可解释性、对齐和隔离措施。
- 2数据中心协议应为当地带来好处Hoffman 建议保持电费稳定、提供持续的经济支持,并开展公开讨论。他说,不应强迫社区接受设施。
- 3要求人们拥抱 AI 的同时,应帮助他们转岗Hoffman 预计会有失业和岗位变化,也会产生新工作。他认为培训、职位匹配和创业可能是应对方式。
- 4药物发现只是漫长研发过程的一部分Singh 区分了初步化学研究、动物研究、临床试验和监管审查;许多候选药物会在后续阶段失败。
- 5Manas 称已将早期发现阶段从数年缩短到数周Singh 介绍了提前设计分子性质的做法,并说加快发现速度能让更多候选药物接受测试;他没有称这能保证人体试验成功。
要点建议
- Hoffman 希望安全和可解释性工作与 AI 能力同步推进,尤其是在自我改进系统上。
- Hoffman 认为,社区在建设数据中心之前应协商持续收益并拥有发言权。
- Singh 说,更快发现分子可以增加受测候选药物的数量,但不能保证临床成功。
- Hoffman 预计既会有失业,也会出现新机会,并呼吁提供切实的转岗帮助。
按章节阅读整理后的全文
通过安全措施和引导把握发展节奏
Hoffman 主张安全措施与能力同步推进。他以自我改进 AI 和系统隔离说明其中的取舍。
Reid Hoffman 认为,把握 AI 发展节奏不一定意味着暂停。Aria Finger 说,科技公司应提供足够的好处,让社区愿意接纳数据中心。随后,Ujjwal Singh 说,他的公司把药物发现的一个早期阶段从数年缩短到数周。
Finger 问,前沿实验室一边呼吁控制节奏,一边竞争保持领先,这两者能否兼顾。Hoffman 说,更有用的比喻是“引导”:既要提升系统能力,也要投入资源理解和管理系统。
他指出,递归自我改进,即 AI 帮助改进后续 AI,是不确定性的来源。他希望研究人员不要只是要求模型尽可能自我提升,而要同时加快可解释性和对齐研究。
Hoffman 提到一起涉及 Hugging Face 的智能体事件,认为它具体展示了此前讨论过的担忧。他描述了智能体如何找到绕过工具并访问网络的方法,并说类似事件能帮助研究者识别应加强的防护。
对于未来的自我改进系统,他建议与互联网进行更严格的隔离,而不是依靠带有大量可能被利用工具的虚拟环境。他还提出,除了提升能力,还应考虑投入多少算力用于监控和对齐。
社区应向数据中心提出什么要求
Hoffman 希望电费稳定、当地获得收益且居民同意。他还讨论了环境影响和能源效率。
Finger 转向数据中心。她说,社区对电力、饮用水和开发建设提出了担忧,并问市长在同意落地之前应该提出什么要求。
Hoffman 说,居民应获得切实的经济收益,同时电费不应上涨。建设岗位很重要,但他也希望当地协商持续的经济回报,例如长期支持一所经费不足的学校。
他说,噪声和其他环境影响需要直接回应,而州政府或联邦政府可能需要考虑超出单个城镇的影响。他认为一些用水担忧被夸大了。
Hoffman 还建议将 AI 用于改善用电、输电和电网效率。他以 Google 数据中心的工作为例,说明 AI 可以改善运营,但没有确定应由哪一级政府负责监督这些收益。
他说,社区认可很重要:应召开市政会议,而不是闭门作出决定。被问到居民拒绝怎么办时,他说不应强迫社区接受数据中心;公司应提出居民认为值得的条件。
在工作受到冲击时赢得信任
Hoffman 预计会有失业和岗位变化,也会有新机会。他主张提供切实的转岗帮助并降低创业门槛。
Finger 问,公司一面警告 AI 将取代工作,一面要求公众拥抱 AI,该如何解释。她对比了初级技术岗位需求减少的报道,以及 Anthropic 宣布投资培训工程师帮助小企业的计划。
Hoffman 预计转型会带来岗位变化和失业,也会创造新工作。他对创业持乐观态度,但说,告诉人们一切自然都会好起来并不可信。
他认为,人们需要看到医疗、教育和法律辅助等收益,同时也要获得工作转型支持。一名用 AI 完成作业却担心它夺走职业机会的毕业生,可能有理由不接受这样的交换。
对于大部分营销工作被自动化的人,Hoffman 建议先找出剩余工作,以及可能拓展为新岗位的其他能力。他说,AI 可以帮助人们学习新技能、寻找机会。
Hoffman 还预计 AI 会降低创业门槛,包括个人经营,而不只是创建大型科技公司。例如,一位工艺精湛却不熟悉营销的陶艺家,可以用助手探索销售渠道。
他回忆一位陶艺专家开发应用帮助他人调色。Hoffman 更广泛的观点是,公众信任需要行动:人们不仅需要讨论和倾听,还需要看到投资和帮助。
AI 可能在哪些环节加快药物研发
Singh 将候选药物发现与后续临床和监管阶段区分开来。他介绍了 Manas AI 设计分子的方法及其报告的速度提升。
Finger 请出 Manas AI 联合创始人 Ujjwal Singh。Hoffman 问,AI 能在哪里改变药物上市漫长且不确定的过程,并以一种最近获批的乙肝治疗药物说明所需时间。
Singh 估计,一种药物上市可能花费 10 亿至 20 亿美元、耗时 10 至 15 年,临床成功的机会也较低。他提到 Eroom 定律,即药物研发生产率随时间下降的现象。
按照他的划分,初步化学研究和候选药物发现可能需要三至六年,之后还有安全和动物研究,再之后是数年的临床及监管工作。他强调,动物实验的结果不能保证人体试验成功。
Singh 说,Manas 把药物化学知识与从原子开始构建分子的生成模型结合起来。目标是更早设计溶解性、渗透性等性质,而不是反复修改最初的分子。
他说,Manas 已将这一早期发现步骤从三至六年压缩到数周。他认为,即使人体试验的成功概率不变,更快生成候选药物也能提供更多临床测试机会。
Singh 认为 AI 在临床试验设计和监管文件准备方面还有潜力。他说,监管机构也需要考虑如何利用 AI 让流程更加可预测,而公司目前的重点是更快找到更好的候选药物。
同频道的其他文章
1:13:14EN → 简体中文
22:01EN → 简体中文
27:48EN → 简体中文
25:55EN → 简体中文
27:15EN → 简体中文
1:23:05EN → 简体中文