30 秒看懂
Palmer Luckey 认为,如果自主武器能够经证实减少对平民的伤害,使用它可能是更合乎道德的选择,但人仍须对其使用负责。这位 Anduril 创始人也认为,考虑到现有技术的局限,由人控制许多打击决策是合理的。他的公司通常先用自有资金研发产品,再出售给政府;他说这种模式有利于加快研发。另外,他认为 AI 辅助研制生物武器的威胁足以使限制措施成为必要,即便这会牺牲一部分医学研究。
- 1易学的界面可能限制专家的能力Luckey 认为,模仿 iPhone 的产品很容易上手,却没有为技能提升留下足够空间。他也把初代 Oculus Rift 纳入了这一批评。
- 2Facebook 将 VR 视为战略必需,承诺持续投入Luckey 说,Facebook 需要自己的平台,因此承诺在十年内每年至少投入 10 亿美元。他说,最终的研究支出远高于此。
- 3寻找新国防承包商的过程促成 Anduril 创立Luckey 和投资人 Trae Stephens 寻找值得投资的初创公司,后来决定自己创办一家。Anduril 通常先投资开发产品,再由政府客户购买。
- 4Luckey 主张按可衡量的伤害评价自主武器他认为,能够减少平民死亡的系统可能优于辨别能力较差的武器。他主张监管武器的性能和使用,并追究人的责任。
- 5现行人类参与决策的规则反映了技术局限谈到由无人机操作员作出打击决定时,Luckey 说,过去的自主系统过于粗糙,无法胜任,因此这项原则一直是合理的。
- 6他最希望优先限制的 AI 风险是生物武器Luckey 担心 AI 会让更多人有能力从事危险的生物研究。尽管可能影响合法研究,他仍会考虑限制敏感信息的获取。
要点建议
- Luckey 只在自主武器的效果可衡量、且证实能减少伤害的情况下支持使用,并认为人必须承担责任。
- 考虑到现有技术的局限,他认为目前由人控制无人机打击是合理的。
- Anduril 通常先自行出资研发产品,再对外销售;客户有时也分担研发费用。
- Luckey 会优先防范 AI 辅助研制生物武器,即使这可能妨碍开放的医学研究。
- 他认为易学的界面可能牺牲专家用户继续提高能力所需的空间。
按章节阅读整理后的全文
离开 Facebook 后选择继续创业
Luckey 说,他选择再创办一家公司,而不是花多年时间争辩自己的解雇。Isaacson 引出了谁应当控制自主武器的问题。
Palmer Luckey 说,离开 Facebook 后,他面临一个选择:花多年时间为自己认为遭受的不公平待遇抗争,还是再创办一家公司,证明自己仍有能力做出成果。回头看,他认为第二条路适合自己,尽管他希望两件事都能做到。
Walter Isaacson 讲述了 Luckey 早年在加利福尼亚长滩市家门外的拖车里做实验的经历。他做出的原型最终发展成 Oculus Rift 虚拟现实头显。Facebook 于 2014 年以约 20 亿美元收购 Oculus。Luckey 后来创办了 Anduril,也因此参与了有关自主技术、军事决策和责任的讨论。
在家上学的少年如何创办 Oculus
在家上学让 Luckey 有时间试验虚拟现实,也有机会在网上找到合作者。科幻作品帮助他想象尚不存在的技术。
Luckey 说,在家上学对他的社交和学习都很有帮助。与此同时修高中和大学学分,让他学会管理时间:越高效地完成学业,就有越多时间研究虚拟现实。他认为,如果没有在家上学,就不会有 Oculus。
随着年龄增长,他的一些密友来自 ModRetro。这是他为电子产品和复古游戏爱好者创建的线上社区。几位论坛管理员后来成为 Oculus 的早期硬件工程师。第一位员工 Chris Dycus 是他在两人线下见面前就招募的朋友。
Luckey 喜爱通过故事探索技术的科幻作品,包括儒勒·凡尔纳的《海底两万里》。他记得书中大段描述鹦鹉螺号及其背后的设想。虚拟现实尤其吸引他,因为它让人有可能感觉自己身处一个人为构建的世界。
他说时机很重要:如果早出生 20 年,光有热情也不可能做出 Oculus。技术必须发展到一定程度,能够创造出令人信服的虚拟环境的设备才会变得可行。
易用的界面为何可能限制熟练用户
Luckey 认为,iPhone 的易用设计启发了许多产品,但这些产品为专家技能提升留下的空间有限。他认为自己开发的 Oculus Rift 也属于这一类。
谈到人机界面的未来,Luckey 说,行业从 iPhone 开始走错了方向。他认可 iPhone 的易用性,但认为依照其模式设计的产品容易快速掌握,对于愿意投入数千小时练习的人来说,之后可提升的空间却很小。
他希望看到一些需要数月或数年才能掌握的界面,熟练使用后能让人完成多得多的工作,就像人们投入时间学习音乐、运动或舞蹈一样。他担心某些脑机接口的研发也在重复同样的做法,过于强调立刻上手。
Isaacson 指出,Oculus Rift 本身就很直观。Luckey 表示同意:它的入门门槛和技能上限都不高,这也帮助了销售。他认为,认识到什么样的产品容易成功,与希望专家用户拥有更多种类的工具,是两回事。
Oculus 为何卖给 Facebook,以及之后发生了什么
Facebook 对自有计算平台的需求让 Luckey 相信它会大力投资 VR。他评价了 Meta 的产品和裁员,也回顾了自己离开的经历。
Luckey 说,Oculus 考虑出售时,Google 和 Microsoft 的业务广泛,并不依赖虚拟现实的成功。相比之下,Facebook 缺少自己的主要硬件和操作系统平台,认为 VR 和增强现实能改变自身的位置。
据 Luckey 所说,Facebook 承诺在十年内每年投入至少 10 亿美元用于研发。他说最终支出高得多,并认为这表明 Facebook 持续投入,即使部分研究需要多年才能应用到产品中。
Isaacson 提到 Meta 在 VR 业务中的裁员,并质疑其消费产品是否足够吸引人。Luckey 称 Meta Horizon 是一款糟糕的产品,但认为它不能代表 Meta 的全部研究。他说,裁员后留下的 Reality Labs 团队仍远大于竞争对手的 VR 团队。
Luckey 还说,Meta 决定停止制作某些第一方游戏可能有利于外部开发者,否则这些开发者可能担心与在推广和定价上占优的平台所有者竞争。他说自己同情失业的员工,同时认为这一变化可能增强整个生态。
被问到是否希望自己仍在 Meta 时,Luckey 说他喜欢在 Anduril 的工作,并认为这份工作产生的影响更大。他觉得,重回 Oculus 本身无法解决他感受到的、与湾区潜在同事之间的政治分歧。Isaacson 指出科技界部分人士的政治立场已有变化;Luckey 同意他的抱怨有一部分已经过时。
Isaacson 将 Luckey 的解雇与一笔政治捐款联系起来,问他是否应该更努力地抗争。Luckey 说,也许确实应该,但诉讼无法让他重新领导公司,而且会占据他多年的精力。
他把选择归结为:为过去的事抗争,或者把同样的精力用来再创办一家公司。他说,理想情况下,他既会为自己遭受的待遇抗争,也会同时建立 Anduril;但他怀疑自己能否把两件事都做好。
Isaacson 问他是否能像其他一些创始人一样,同时经营多家大型企业。Luckey 说,埃隆·马斯克在这方面的能力非常特殊。与 Anduril 相比,他自己的 ModRetro 业务——生产向 Game Boy 致敬的高端产品——以及一项冰淇淋投资,只占用他很少的时间。
在政府购买之前打造 Anduril
Luckey 没能找到一家值得投资、能够挑战传统国防公司的初创企业,于是创立了 Anduril。他说公司先用自有资金研发产品。
Luckey 说,他和朋友认为美国在国防技术方面正在落后。在他看来,传统国防公司的激励机制不利于推动所需的投资,而大型科技公司又不愿与国家安全机构合作。
起初,他想投资一家有前途的国防初创公司,而不是自己创办。他认识了 Founders Fund 的 Trae Stephens,后者也在寻找一家有能力成为大型政府供应商的企业。Luckey 说,他们没有找到一家自己认为能够成长为大型承包商有力竞争对手的公司。
离开 Facebook 后,Luckey 给 Stephens 打电话,提议他们自己创办这家公司。他说,目标是快速打造并销售性价比更高的系统,为纳税人省钱,同时建立一家规模可观的企业。
Luckey 以 Anduril 的 Fury 飞行器入选美国空军协同作战飞机项目为例,说明公司如何争取重大项目。他预计,公司此前八年的投资会帮助它赢得更多大型合同。
Isaacson 问他如何在收到政府委托之前开发产品。Luckey 说,Anduril 通常自己筹集或赚取资金,决定开发什么,然后销售产品。客户有时也会分担开发费用或与公司共同研发,但他认为,用自有资金承担风险能让公司保持专注。
谁控制武器,谁承担责任
Luckey 认为外交政策应由政府官员而非武器公司高管制定。他主张按结果评价自主武器,同时保留人的责任。
Anduril 这个名字来自《指环王》中的一把剑。Luckey 说,公司在道德和政治上并不中立:他希望与大体支持言论自由和自治的国家合作。
他还说,美国政府政策最终决定了公司可以向哪里销售。他认为,外交政策应由民选官员制定,而不应交给少数武器公司高管。他认为,这样决策才能接受民主问责。
Luckey 将 Lattice 描述为 Anduril 许多产品共同使用的软件。它连接传感器和系统,使信息能够在各系统之间共享。他说,投资共享软件可以同时改进许多产品;公司从事 Lattice 工作的人数与所有硬件产品的人员总数相当。
Isaacson 问,是否应允许自主系统在没有人参与的情况下作出致命决定。Luckey 认为,如果一项技术能够经证实减少平民死亡和附带伤害,使用它可能是合乎道德的选择。他的论点取决于结果的质量,而不是仅仅因为其中使用了 AI。
他假设有一种武器能够区分军事目标和载有儿童的车辆。Luckey 说,他会选择辨别能力更强的系统,而非无差别攻击的系统。他提议监管算法质量、结果和使用方式,并让人对滥用负责,而不是全面禁止。
Isaacson 提出反问:美国无人机行动通常要求有人观察并授权打击,那么现行军事原则是否错了?Luckey 说,这项原则一直是合理的,因为此前可用的技术过于粗糙,不适合托付此类决策。
Luckey 补充说,远程控制系统的通信可能存在漏洞,而一些现有武器已经能执行定义范围较窄的目标识别功能。他预计,未来自主系统会依据各自的具体能力和局限接受评判。
两人讨论了一些能够对条件作出反应、无需每次都由人立即作决定的旧式武器。Luckey 认为,目标识别技术的进步不会免除追究责任的义务:制造和使用武器的人必须了解其局限,并在武力遭到滥用时承担责任。
机器能否减少战争伤亡或阻止战争?
Luckey 认为精确打击和自动化正在减少战争中的人员代价,并希望威慑能阻止与中国的冲突。他还认为 AI 辅助研制生物武器是一项重大风险。
Isaacson 问,未来的战争是否可能主要由机器作战,只有很少的人死亡。Luckey 说,与过去冲突中的大规模轰炸和死亡相比,现代精确武器已经改变了战争。他承认数万人死亡依然可怕,同时将其与世界大战中大得多的伤亡作比较。
Luckey 认为,战争在减少人员伤亡方面已经走了很远,并预计未来损失更多的是设备而非人。他不认为死亡会因此消失,也不同意自动化本身会使已经降低的战争门槛再大幅下降。
被问到技术是否能够威慑战争时,他说这是他的希望。Luckey 认为,如果避免了与中国的冲突,国防公司和各国对威慑所作的贡献可能很难被看到。他说,如果战争中经常需要使用这些武器,那就意味着威慑已经失败。
Isaacson 引用 AI 研究者李飞飞的警告:这项技术带来了重大的责任。Luckey 说,虽然他总体反对审查,但 AI 辅助研制生物和化学武器是他最愿意认真考虑加以限制的领域。
他担心 AI 会降低从事危险生物研究所需的专业知识门槛,并帮助协调实验室流程。他提出的应对措施包括考虑限制敏感信息的获取,包括在机构内部。他承认其中的取舍:限制措施也可能约束独立医学研究和药物研发。
更便宜的商品与海上定居的未来
Luckey 预计一体化制造将降低日用品成本。他也希望材料的改进能使永久性海上定居成为可能。
展望未来,Luckey 对更紧密地结合发电、制造、加工和回收感到兴奋。他预计自动化和一体化会让日用品便宜得多,并设想在人们有生之年,一辆车的价格可能降到约 1,000 美元,必要时再按通货膨胀调整。
他的另一个愿望是在海上建立永久定居点。他认为材料技术的进步可能使寿命很长的海上建筑成为现实,并改变经济和政治。谈回儒勒·凡尔纳时,他说科幻作家往往先想象出未来,随后建设者才把其中一些设想变为现实;他仍然相信海上定居的理念。
同频道的其他文章
43:05EN → 简体中文
36:45EN → 简体中文
53:48EN → 简体中文
42:06EN → 简体中文
1:08EN → 简体中文
57:47EN → 简体中文