AI 智能体该获取你的个人数据吗？一场关于信任的辩论

在 Masters of Scale 峰会上，主持人 Jeff Berman 提问：人们是否应该停止将个人信息交给 AI 智能体？Signal 总裁 Meredith Whittaker 支持这一命题；Abundance Institute AI 政策负责人 Neil Chilson 反对。

Whittaker 说，Signal 的责任是保护通信隐私，而用户有时面临生死攸关的处境。她希望技术通过可验证的属性赢得信任，而不是仅凭公司的承诺。

为了安排一场生日聚餐，智能体可能需要访问联系人、付款信息、日历、浏览器和消息。Whittaker 说，便利性依赖广泛的权限，也依赖智能体在不逐步询问用户的情况下执行多个动作。

她认为提示词注入是严重弱点：智能体遇到的文本可能被当作指令。她提到针对助手和浏览器的攻击报道、某项测试中保护措施有时失效的结果，以及一个通过日历影响智能家居的攻击。

Chilson 将智能体与常见的互联网交易模式对比：过去公司收集数据来支持广告。他认为，智能体可以为个人目的处理个人数据，并让更多人获得过去主要由富人委托他人完成的服务。

他说，智能体还可以降低执行隐私保护措施的负担，例如阅读条款、使用隐私工具或向数据经纪商提出退出申请。他说自己用一条简短提示，让智能体向五家主要数据经纪商提出移除申请。

Whittaker 回应说，消费级智能体通常由公司而不是用户控制。她提到 Meta 的 Muse 被报道泄露地址或私人信息的案例，认为广泛访问会打破应用之间的隔离。

她认为，一个人使用智能体的选择也可能影响其他人。如果用户允许智能体访问联系人和通信记录，没有安装该工具的联系人也可能受到影响；对人权工作者而言，后果可能尤其严重。

Chilson 同意智能体需要更好的安全性，但认为应将其与并不完美的现状比较。是否信任取决于具体智能体、任务和所需权限。他说自己通常允许智能体在线读取，但不允许它们在线写入。

被问及便利为何值得承担提示词注入风险时，Chilson 将其与通信工具比较：人们没有因为某些平台不安全而放弃通信，而是建立了更好的平台。他认为使用和竞争有助于改进智能体。

Berman 询问，智能体与同样能接触敏感信息的人类助理有什么区别。Whittaker 说，人类助理通过工作关系承担责任，也可以被解雇；而广泛部署的系统一旦出错，可能伤害很多人。

Whittaker 将某些智能体架构与定向恶意软件相比：它们获得大量设备权限，通过截图或无障碍功能访问数据、处理信息，并以用户身份执行动作。她说，一家银行拦截某个智能体的例子体现了区分用户意图与注入命令的困难。

Chilson 认为，公司有机会提供值得信任的智能体。在他看来，代表客户行动的产品有动力维护这一关系，尽管公司和用户都会犯错。

被问及 Signal 为什么不制作智能体时，Whittaker 说 Signal 不收集这类产品所需的数据，而是专注于可验证的私密通信。她强调，对许多人来说，隐私是必需品而非奢侈品。

她质疑万能助手的营销承诺：智能体跨应用做得越多，可能需要的信息和权限也越多。她说，确认步骤和隔离措施可以减少暴露，但也可能限制宣传中无缝的使用体验。

Whittaker 认为，截图或设备外处理可能在加密应用显示信息后再次暴露内容。她说，这会把实际控制权从应用的安全边界转移到智能体及其提供商。

Chilson 反对智能体必须获得完整访问权限的说法。他说，权限可以按任务限制，并建议逐步测试和验证行为，而不是把所有使用场景都看成非黑即白。

Berman 提议做一个小范围实验：让智能体只总结独立的新闻简报邮箱。Whittaker 则问，用户是否知道产品究竟收集了什么信息；她引用有关联系人和通信数据的报道，认为相关做法在营销中并不明显。

Chilson 回应说，智能体可以帮助人们阅读并理解点击同意的条款。他说自己了解 Muse 的数据使用方式，并认为这种权衡值得，同时接受其他人可能作出不同决定。

总结时，Whittaker 再次强调对第三方的影响：用户不能替别人同意暴露双方的通信内容。她认为操作系统层面的访问可能削弱单个应用提供的隐私保障。

Chilson 同意分享一个人的信息可能影响其他人，但认为这不是智能体独有的问题。他主张改进工具而不是完全退出，包括用智能体让数据经纪商退出申请等隐私保护措施更容易执行。