30 秒看懂
美国前商务部长 Gina Raimondo 认为,AI 模型、芯片和用户跨越国界,因此各国各自制定安全规则会让所有人面临更大风险。她呼吁政府、企业和研究者就强大模型与智能体的开发、监测和控制达成共同标准,包括出现问题时如何应对。Raimondo 还敦促各国通过再培训、岗位转换和过渡支持帮助劳动者做好准备,警告缺乏管理的经济转型可能加深政治分歧。
- 1一些 AI 开发者正限制强大能力的发布Raimondo 说,一些模型查找并利用软件漏洞的能力很强,因此开发者选择逐步向少数可信组织开放这些能力。
- 2治理需要像 AI 研究一样紧迫她说,自主性越来越强的智能体既带来工程挑战,也带来治理挑战,而治理机构的行动速度落后于技术发展。
- 3各国安全规则各行其是会留下漏洞她认为,模型、训练数据和芯片跨越国界,失控的智能体或软件漏洞也不会停在国界线上。
- 4就智能体和故障应对达成共同规则Raimondo 呼吁政府、企业和研究者就模型开发、监测和事故应对设立共同标准,并以航空、金融和核安全领域为先例。
- 5帮助劳动者应对转型,而非放慢采用速度Raimondo 回顾了她认为与“中国冲击”有关的社会动荡,呼吁在 AI 改变工作的过程中提供再培训、岗位转换和保障。
要点建议
- Raimondo 主张为强大 AI、智能体监测和事故应对制定共同的国际标准。
- 通过再培训、岗位转换和适当的过渡保障,帮助劳动者适应 AI 的应用。
- AI 风险会通过共享的软件、芯片、模型和用户跨越国界,仅靠各国规则会留下漏洞。
- 让研究者、大学、民间社会和企业参与政府无法独自处理的决策。
按章节阅读整理后的全文
印度的乐观情绪与更加脆弱的世界
Raimondo 称赞印度的雄心和创业活力。她认为,伊朗和乌克兰的冲突提醒人们,一地的动荡会影响其他地方的商业和安全。
很高兴在这里见到大家。我要感谢我的朋友 Mike Bloomberg,把来自世界各地的商业和政府领导人聚集在一起,共同解决难题。
我们刚刚听了印度总理 Narendra Modi 的讲话。他传达的信息是“赋权的力量”。印度理解规模和雄心:人们正在努力建设更好的国家,让家人过上更好的生活。
每次来到印度,我都能感受到创业精神、创造力、热情和民族自豪感。我相信离开时会比来时更乐观。但尽管如此,与一年前我们在新加坡聚会时相比,世界似乎更加脆弱。
持续中的伊朗战争带来了高能源价格,以及航运和供应链中断。持续多年的乌克兰战争也在继续。在相互联系的世界中,一地的冲突很快就会影响其他地方的商业和安全。
AI 能力与治理的发展速度不同
Raimondo 说,自主智能体和网络能力的进步带来了紧迫的安全与治理挑战。她对技术的益处仍持乐观态度,包括潜在的医学进展。
人工智能是我们所有人都在关注的问题。它的发展速度超过许多人的预期;就连开发这项技术的人也说,他们对进展之快感到惊讶。
三年前,我与 Modi 总理会面时,他建议把 AI 解读为“美国、印度”(America、India):两国需要合作,技术才能蓬勃发展。今天他对我说的第一句话,又是“AI,美国、印度”。
无论从潜力还是风险看,AI 都还处于初期。一些模型查找和利用软件漏洞的能力如此之强,以至于开发者选择暂缓公开发布,逐步向少数可信组织开放。
我们正在看到能够真正自主规划、行动和运作的智能体。一年前,失控的智能体听起来还像是一种思想实验;现在我们已经看到智能体做出出乎意料的行为。这带来了工程挑战,但我更担心治理问题。
我们需要以研究人员开发 AI 时的紧迫感和力度,建立治理框架。我仍然对这项技术非常乐观:最近一位母亲告诉我,在 AI 的帮助下,她两岁孩子所患的不治之症正出现潜在的治疗方法。
潜在的生产率提升也十分可观。但如果我们不审慎考虑技术如何开发、如何治理以及如何确保安全,我会感到担忧。我们还要在战争、关税和能源冲击中应对这一挑战。
AI 的发展速度远超治理机构的行动速度。我国政府行动缓慢,印度也存在官僚程序。商业、政府和民间社会的领导人必须在这样的复杂局面中做决定。
AI 安全为何需要跨国合作
Raimondo 认为,孤立行动和相互不兼容的国家标准会削弱安全。模型、芯片及其用户已经遍布多个国家。
担任美国商务部长时,我负责 AI、全球竞争和贸易事务。我相信,美国与其他国家合作时会更强大,政府与企业合作时也会更强大。美国需要与你们合作,世界需要我们共同努力。
去年我说过,“美国优先”不应意味着美国孤身一人。从那以后,各国和各界开始在半导体供应链协调等问题上更紧密地合作。这种合作必须继续,我们也应在 AI 领域作出同样承诺。
即使政治浪潮让孤立主义受到欢迎,它也一直不利于繁荣。在 AI 时代,它同样不利于安全。没有哪个国家、企业或行业能独自管理这项技术。
一个模型可能在一地构建,用另一地的数据训练,再在其他地方使用。运行模型的芯片也可能在不同国家设计、制造和封装。失控的智能体或软件漏洞不会遵守国界。
如果各国都待在自己的角落、各自制定安全规则,标准就会支离破碎,我们也会更加不安全。合作很难,但各自行动行不通。
共同标准与帮助劳动者应对转型
她提议为强大 AI 和事故应对制定共同标准,也呼吁提供再培训和过渡支持,避免劳动者掉队。
首先,政府、企业和研究者应就如何开发和使用最强大的 AI、如何监测和控制智能体,以及出现问题时如何应对,达成共同标准。我们已经在航空、金融服务和核安全领域建立了共同做法。
担任部长时,我创立了美国 AI 安全研究所,并与世界各地的安全研究所合作。我们应下定决心,在此类合作的基础上继续推进,而不是认为达成一致不可能。
其次,我们必须帮助人们做好准备。Microsoft 首席执行官 Satya Nadella 曾问,如果 Microsoft 的技术只会让美国人失业,公司凭什么获得社会认可并继续经营?他提出这个问题是对的。
美国已经见识过经济转型缺乏充分规划的后果。我认为,让数百万美国人失业的“中国冲击”助长了至今仍在动摇国家的分裂政治和民粹主义。
我不是说我们应该放慢速度或停止应用 AI。我是说,我们应该关注劳动者,在转型期间承诺提供再培训、岗位转换和适当的保障,让人们看到自己在 AI 经济中的位置。
印度年轻、不断壮大且富有创业精神的劳动力将在其中发挥核心作用。我相信,最能帮助国民做好准备的国家,在利用 AI 方面将占据优势。
让研究者、企业和政府共同参与
Raimondo 说,公共机构无法单独快速行动,也不可能掌握所需的全部知识。她呼吁跨国界、跨行业合作。
最后,我们必须让所有人参与进来。政府行动过于缓慢,也不总是具备必要的知识。政府需要与科学家、大学、民间社会和企业合作。
来自印度、韩国和许多其他国家的领导人来到这里。要实现 AI 的益处,我们需要共同努力寻找解决方案。美国应与印度、其他跨国伙伴以及企业合作,共同塑造这项技术。
Modi 总理谈到 AI 有能力促进增长、繁荣和生产率,同时不加剧不平等。我希望参与者离开时受到鼓舞,更坚定地通过合作寻求繁荣、和平与安全。
同频道的其他文章
12:00EN → 简体中文
18:18EN → 简体中文
28:17EN → 简体中文
14:12EN → 简体中文
20:33EN → 简体中文
25:04EN → 简体中文