AI风险新视角：超越深度伪造，警惕日常“耳语”式AI助手的潜在威胁

多数人尚未充分认识到人工智能（AI）即将对人类自主性构成的深远威胁。一种常见的说法是“AI只是一种工具”，其益处和危险取决于人们如何使用它。然而，这是一种过时的思维方式。AI正在从我们使用的工具转变为我们“佩戴的假肢”，这将带来我们尚未准备好的重大新威胁。

这里所指的并非令人毛骨悚然的脑植入物。这些AI驱动的“假肢”将是我们在亚马逊或苹果商店购买的主流产品，并以“助手”、“教练”、“副驾驶”和“导师”等友好的名称进行营销。它们将在我们的生活中提供真正的价值——以至于如果他人佩戴而我们没有，我们会感到处于劣势。这将迅速推动其大规模普及。

我所指的“假肢设备”是“AI驱动的可穿戴设备”，如智能眼镜、吊坠、胸针和耳塞。您的可穿戴AI将看到您所见的，听到您所听的，同时跟踪您的位置、您正在做什么、您和谁在一起以及您试图实现什么目标。然后，无需您说一句话，这些“精神辅助”设备将向您的耳朵低语建议，或在您眼前闪现指导。

工具与假肢之间的区别可能看似微妙，但对人类自主性的影响却是深远的。通过对输入和输出的简单分析可以最好地理解这一点。工具接收人类输入并产生放大的输出，可以使我们更强壮、更快或让我们飞行。而精神假肢则围绕人类形成一个反馈循环，接受来自用户的输入（通过跟踪其行为并与他们进行对话），并产生可以立即影响用户思维的输出。这个反馈循环改变了一切。这是因为身体佩戴的AI设备将能够监测我们的行为和情绪，并可能利用这些数据说服我们相信不真实的事情，购买我们不需要的东西，或采纳我们原本不会接受的观点。