30 秒看懂
Rishi Sunak 认为,让 AI 进入日常生活的国家和企业,可能比仅仅发明它的国家和企业获益更多。但他说,在民主社会,如果人们看不到这项技术会帮助而非伤害自己,公众信任不足可能限制其应用。他曾召集 2023 年布莱切利园 AI 安全峰会,如今建议在实验室内部设立独立评估人员,并在前沿模型发布前进行外部测试,最好由政府监督。他还以印度的数字基础设施和低成本个性化学习项目为例,说明普及应用的潜力。
- 1普及 AI 的竞赛可能比发明竞赛更重要Sunak 认为,国家能获得多少好处,取决于应用技术的效果。他以荷兰共和国的印刷业为例,说明技术应用可能让发明地以外的地方获得经济价值。
- 2Sunak 认为印度有条件广泛应用 AI他提到印度具有 AI 素养的劳动力、数字公共基础设施和创业生态。他以 Mindspark 辅导项目为例,说明低成本个性化教育如何可能惠及印度和非洲的儿童。
- 3公众是否同意可能成为 AI 的限制因素Sunak 对比了印度的乐观情绪和英美的负面情绪。他认为,人们需要看到证据,证明 AI 会赋能他们,而不是取代或伤害他们。
- 4等待严重事故发生可能引发广泛反弹Sunak 警告说,未来事故的规模无法预知,而灾难可能促使监管机构出台令开发和应用停滞的规则。他主张在事故发生前采取行动。
- 5独立评估人员应能看到实验室如何开发模型他建议在实验室内部设立独立审查人员,并在每个前沿模型发布前进行外部测试。出于民主监督和国家安全知识方面的考虑,他希望政府参与。
要点建议
- Sunak 认为,谁能从一项技术中获益,取决于广泛应用,而不只是率先发明。
- 他说,如果人们担心被取代或受到伤害,公众是否同意就可能限制 AI 的应用。
- 他建议在实验室内部设立独立评估人员,并在每个前沿模型发布前进行外部测试。
- Sunak 说,针对严重风险制定的规则应当维护竞争和增长。
按章节阅读整理后的全文
为什么 AI 可能比以往的技术传播得更快
Sunak 将 AI 与工业革命、启蒙运动和印刷术相提并论。他认为,技术、发现方法和知识获取相结合,可能加快变化的速度。
大家早上好,感谢各位在最后一天的第一场早间会议到场。整个论坛期间,大家的热情都令人振奋。我很高兴 Bloomberg New Economy Forum 在德里举行;我的女儿们也很高兴,因为我回家时会带上排灯节前的礼物。
Demis Hassabis 曾说,AI 将在一半的时间里产生相当于工业革命十倍的影响。他在 Google 的一位同事将其比作工业革命和启蒙运动的结合:一项新技术伴随着一种新的思考和发现方式。
我还要加上印刷术,它让更多人得以获取知识和信息。AI 结合了技术、新的发现方法和知识传播。我相信,这种结合将使未来的变化速度超过我们以往经历的一切。
想一想各种技术触达一亿人花了多久:电话用了 70 年,电力用了 50 年,个人电脑用了 15 年,互联网用了 7 年。ChatGPT 只用了两个月。这就是我们现在所处的速度。
应用技术的优势
荷兰共和国的印刷业说明了 Sunak 的观点:发明本身不能决定谁会获益。他说,印度凭借劳动力、基础设施和初创企业,有条件推广 AI。
新闻头条关注的是哪家公司或哪个国家能率先实现通用人工智能。我认为,更重要的竞赛是日常 AI 的普及:把技术的好处传播到经济和社会的各个领域。领先地位不仅取决于发明,还取决于一个国家能多有效地部署和应用它。
印刷术就是一个例子。Johannes Gutenberg 在美因茨发明了印刷术,但 Geoffrey Ding 教授指出,荷兰共和国获得了其中大量经济价值,在 17 世纪成为出版业强国,而 Gutenberg 本人却破产了。
荷兰的行会没有德意志各邦的行会那么强大,因此更多人可以开办印刷企业。荷兰的限制性审查法律也较少,阿姆斯特丹的金融市场还帮助人们管理纸张和印刷成本。我从中得出的教训是,国家、企业和组织都必须应用这项技术。
印度处于有利位置:这里有具备 AI 素养的劳动力、统一支付接口 UPI 等数字公共基础设施、充满活力的创业生态,以及节俭创新的文化。印度将 Chandrayaan 送上月球的成本低于电影《星际穿越》的制作费用。印度最近在斯坦福大学的全球 AI 实力排名中超过英国,升至第三位。
莫迪总理在 2 月主办的 AI 峰会凸显了这项技术如何可能促进增长、提高发展中国家的生活水平。它已经在农业、医疗和教育领域提供解决方案,成本仅为上一代人所需费用的一小部分。
个性化教育与争取公众同意
Sunak 以 Mindspark 为例说明负担得起的个性化学习。他说,民主社会部署 AI 需要信任和公众同意。
以印度开发的 Mindspark 为例,它现在为印度和非洲 50 万名学生提供教学。它每月只需几美元就能提供个性化课程;据我了解,孩子们的学习速度提高了一倍。它不需要高速宽带或昂贵的笔记本电脑,一台预装内容的普通平板就够了,背后是 20 年的研究和 50 亿次学生互动。
在我的国家,尤其是在美国,人们对 AI 的讨论比印度负面得多。我们必须理解这种担忧。在自由社会发展 AI 最重要的条件是公众同意:没有这一点,拥有再多算力也不够。
在我们向人们证明 AI 会赋能他们,而不是取代或伤害他们之前,信任问题可能比技术更限制 AI 的发展。公众舆论可能迅速转变;停止 AI 开发的主张可能从边缘走向主流。看看美国的政治氛围如何转向反对数据中心就知道了。
事故发生前做好安全检查
Sunak 认为,等待伤害发生可能引发广泛反弹。他建议在实验室内部进行独立监督、对模型开展外部测试,并针对严重风险制定可预期的规则。
我一直认为,AI 进步和安全相辅相成。因此我将安全作为 2023 年布莱切利园世界领导人峰会的重点。我担任大臣时得到过一条有用的建议:问问自己出了事以后会怎么做,然后现在就去做。
现在有一种逐渐蔓延的宿命论,认为只有发生现实后果的事故后,大家才能就安全问题达成共识。我认为这既有风险,在道德上也有缺陷:我们不知道事故会严重到什么程度。灾难还可能带来全面监管,使 AI 的开发和应用停滞。我们应该提前行动,让行业迅速采取措施,并邀请政府参与。
首先,独立评估人员应在实验室内部工作,检查实验室是否遵守自己的安全程序,并了解模型如何开发和测试。理想情况下,这些人员来自政府,以便进行民主监督;但关键是独立性,以及能否进入实验室。
其次,每个前沿模型发布前都应接受外部测试。我同样倾向于由政府执行,既是为了民主问责,也是因为政府能全面了解模型对国家安全的影响。
我们还需要透明、清晰且可预期的规则,让客户、投资者、企业和公众都能理解并信任。政府参与可能抑制创新或保护现有企业,因此规则应聚焦最严重的风险,同时支持竞争和增长。
选择如何让 AI 改善生活
Sunak 将 AI 描述为能够帮助创造新工具的工具。他呼吁用它改善生活,同时提高生产率。
AI 是一种帮助发现和制造新工具的工具,是创新方法本身的一次创新。未来有多种可能。我们需要选择如何利用这项技术提高生活水平、赋能个人,同时提高经济生产率。
同频道的其他文章
15:57EN → 简体中文
18:18EN → 简体中文
28:17EN → 简体中文
14:12EN → 简体中文
20:33EN → 简体中文
25:04EN → 简体中文