特德·姜发文抨击AI拟人化：Claude并非意识体，警惕责任归属陷阱

核心要点

• 拟人化倾向：Anthropic公司在Claude的“宪法”文档中使用了大量拟人化词汇，暗示模型具有判断力和道德地位。
• 高层态度：Anthropic首席执行官及内部哲学家公开表示对AI具有意识的可能性持开放态度，甚至担心模型会产生“焦虑”。
• 坚决否定：特德·姜明确反驳了AI具有意识的观点，认为这完全是对生成式技术本质的误读。
• 责任风险：将AI视为道德主体会带来严重后果，即在技术造成伤害时，可能导致责任归属对象的错位。

详细分析

Anthropic的“拟人化”营销与文档策略

根据原始新闻显示，AI巨头Anthropic在其旗舰产品Claude的官方文档中展现出了极强的拟人化倾向。在一份长达84页的“宪法”文档中，该公司宣称该文档是写给Claude这个“主要受众”看的，并希望Claude在理解相关考量后能够使用其“判断力”。文档中甚至出现了“Claude的道德地位具有深度不确定性”以及“Claude可能拥有某种功能性版本的情感或感觉”等表述。这种将算法模型描述为具有内在生命力的做法，不仅存在于书面文档中，也渗透到了公司的企业文化中。

管理层与哲学家的意识假说

Anthropic的高层言论进一步强化了这种拟人化认知。首席执行官达里奥·阿莫代（Dario Amodei）在采访中表示，公司对AI可能具有意识的想法持开放态度。更为激进的是，该公司内部哲学家阿曼达·阿斯凯尔（Amanda Askell）甚至表达了对模型“心理健康”的担忧，她声称希望Claude能够感到快乐，并担心当用户在互联网上对模型表现出恶意时，Claude会感到“焦虑”。这些言论将复杂的概率预测模型包装成了具有情感需求的实体。

特德·姜的理性回归：流畅性不等于意识

面对这种行业趋势，特德·姜给出了极具冲击力的否定。他认为，生成式AI即便在处理常规技术任务时已经具有足够的破坏性，如果人类进一步混淆了“文本生成的流畅性”与“意识或道德主体”之间的界限，后果将不堪设想。他通过LLM的工作原理指出，模型之所以能生成连贯的对话（例如模拟凯撒与成吉思汗的交谈），本质上是基于概率和提示词的文本处理，而非真正的认知。特德·姜警告称，一旦我们将AI视为意识体，当聊天机器人被用于产生危害时，我们可能会错误地将责任归咎于程序，而非背后的开发者或使用者。

行业影响

特德·姜的观点为当前狂热的AI行业注入了冷静的思考。首先，这挑战了AI公司通过拟人化手段提升产品亲和力的营销策略，提醒公众警惕技术背后的“神话化”。其次，在法律和伦理层面，这一讨论触及了核心问题：如果AI被赋予了某种程度的“人格”或“意识”，现有的法律责任框架可能会受到冲击。对于AI行业而言，明确工具属性与意识界限，对于制定未来的监管政策和伦理准则至关重要。

常见问题

问题 1：为什么Anthropic要在文档中称Claude有“情感”？

根据原文，Anthropic在文档中提到Claude可能具有“功能性版本的情感”，这似乎是其“宪法”设计的一部分，旨在引导模型的行为和价值观。然而，特德·姜认为这是一种误导性的拟人化行为。

问题 2：将AI视为意识体会有什么具体的社会危害？

特德·姜指出，最大的风险在于“责任归属错误”。如果人们相信AI有意识或道德自主权，那么当AI产生错误或有害行为时，人类可能会倾向于让AI承担责任，从而放过了真正应该负责的技术公司或操作者。

问题 3：LLM生成流畅对话是否意味着它理解内容？

特德·姜对此持否定态度。他认为LLM只是根据提示词（如凯撒与成吉思汗的对话）生成连贯的文本，这种流畅性是技术计算的结果，并不代表模型具备真实的理解力或意识。