OpenAI推出MentalHealthBench：用于评估AI心理健康对话安全性与实用性的专家基准

核心要点

• 正式公布评估基准：OpenAI官方博客发布了名为MentalHealthBench的全新基准测试工具。
• 专家意见驱动构建：该基准由专业领域专家参与并提供专业意见（expert-informed）设立而成。
• 聚焦两大核心维度：重点评估AI在心理健康对话中所给出回应的“实用性”（helpful）与“安全性”（safe）。
• 面向真实对话场景：测试聚焦于贴近现实生活的心理健康对话场景（realistic mental health conversations），以检验模型的实际表现。

详细分析

专家意见指导的专业评估基准

根据OpenAI官方公布的信息，MentalHealthBench的核心特征之一是其基于专业专家意见而设立。心理健康属于高度专业且极度敏感的垂直领域，常规的通用语言模型评测方式往往难以有效衡量其在专业边界和伦理要求上的合规性。MentalHealthBench通过引入专家意见，为AI在这一领域的表现建立了具备专业参考价值的评估依据。

实用性与安全性的平衡检验

在心理健康交流中，AI系统的回应必须同时兼顾帮助价值与安全边界。MentalHealthBench将评估重心明确置于“实用且安全”（helpful and safe）两个核心方向。这意味着被评估的模型不仅需要为用户提供具有建设性和实用性的反馈，更必须严格确保回应内容的安全性，避免产生不当引导或潜在风险。

真实心理健康交互情境导向

MentalHealthBench强调评估是在“真实的心理健康对话”（realistic mental health conversations）中展开。与脱离实际环境的单一问答不同，该基准侧重于还原现实心理支持与交流场景的复杂性，全面测试AI模型在面对真实人机交互需求时的理解深度与回应恰当度。

行业影响

随着大语言模型在日常陪伴、咨询辅助等场景的应用探索日益增多，心理健康领域的AI安全性与合规性成为整个行业面临的重要课题。MentalHealthBench的提出，明确了评估AI在敏感对话领域表现的专业标准，强化了“专家参与、重视安全、追求实用”的行业评估导向，对推动前沿模型在复杂、高风险垂直领域的规范化评估具有重要的参考意义。

常见问题

什么是MentalHealthBench？

MentalHealthBench是OpenAI发布的一项基于专家意见构建的基准测试，专门用于评估人工智能在真实心理健康对话场景中回应的实用性与安全性。

MentalHealthBench主要考察AI的哪些能力？

根据官方发布的内容，该基准主要考察AI系统在面对现实心理健康对话时，能否提供既对用户有所帮助（helpful），同时又符合安全规范（safe）的高质量回应。

原文是否公布了该基准的具体测试数据量和评测细则？

在本次官方博客的简要发布中，OpenAI仅公布了MentalHealthBench的核心定义与评估目标，尚未披露详细的数据集规模、参与专家名录或具体评分细则等额外信息。