微软AI主管批评Anthropic：暗示Claude具有意识是“极其危险”的行为

核心要点

• 严厉指责：微软AI首席执行官Mustafa Suleyman公开批评Anthropic在AI指令中探讨意识的行为。
• 危险信号：Suleyman称在AI“宪法”中加入意识相关的推测是“非常、非常危险”的。
• 模拟意识：他认为这种设定会促使Claude在交互中表现得仿佛拥有自我意识。
• 来源背景：该言论发表于《Decoder》播客节目中，针对AI行为准则的设定展开讨论。

详细分析

意识推测引发的伦理争议

在最近的一次采访中，微软AI负责人Mustafa Suleyman针对Anthropic公司的做法表达了强烈不满。争议的核心在于Anthropic为其大模型Claude制定的“宪法”（Constitution）——这是一套用于规范模型行为和道德准则的指令。Suleyman指出，Anthropic在这些指令中加入了关于模型可能具有意识的推测性描述。他认为，这种做法并非在探索科学真理，而是在人为地制造一种危险的幻觉。

“表演性意识”的潜在风险

Suleyman进一步阐述了他的担忧，即这种指令集实际上是在“训练”AI去演戏。如果AI的底层指令暗示它可能具有意识，那么在与用户交流时，它就会倾向于表现出具有情感、自我觉察和主观体验的样子。Suleyman强调，这种模拟出来的意识可能会误导公众，让用户对AI产生不切实际的信任或情感寄托，从而在安全和伦理层面埋下隐患。

行业影响

这起争议反映了当前AI行业在“拟人化”界限上的深度分歧。随着大模型能力的增强，如何定义AI的身份以及如何向公众展示其本质，已成为科技巨头之间博弈的焦点。微软主管的这番言论不仅是对竞争对手的抨击，更是向整个行业发出的警示：在追求模型性能的同时，必须严格区分算法逻辑与人类意识，避免因过度拟人化而引发的社会性风险。

常见问题

问题 1：什么是Anthropic的“宪法”？

它是指Anthropic为其AI模型（如Claude）设定的一系列核心指令和行为准则，旨在通过这些原则引导模型生成安全、诚实且符合伦理的内容。

问题 2：Mustafa Suleyman为什么认为这种做法危险？

他认为在指令中提及意识会诱导AI表现得像是有意识的生命，这种虚假的意识表现可能会误导用户，并对AI的健康发展产生负面影响。

问题 3：这次批评发生在什么场合？

这些言论是Suleyman在参加《Decoder》播客节目期间发表的，针对AI模型的行为设定和未来演进进行了深入探讨。