OpenAI推出ChatGPT“紧急联系人”功能：AI识别自残风险将自动提醒亲友

核心要点

• 可选安全功能：OpenAI为ChatGPT引入了名为“紧急联系人”的可选安全机制。
• 目标用户群体：该功能目前主要面向成年用户开放。
• 风险识别与通知：当AI检测到用户讨论自残或自杀等敏感话题时，会触发通知流程。
• 社会化干预：指定的紧急联系人（如朋友、家人或护理人员）将收到相关安全警示。

详细分析

心理健康干预的新尝试

OpenAI推出的“紧急联系人”功能标志着AI助手在处理用户心理健康问题上迈出了重要一步。通过这一功能，ChatGPT不再仅仅是一个被动的信息提供者，而是成为了一个具备安全预警能力的工具。当成年用户在对话中表现出潜在的自残或自杀倾向时，系统能够识别这些危险信号，并将其转化为对现实世界中信任对象的求助信号。

功能运作与用户自主权

根据OpenAI的设定，该功能是可选的（Optional），这意味着用户拥有是否开启该机制的自主选择权。用户可以指定特定的朋友、家人或护理人员作为“Trusted Contact”。这种设计在保护用户隐私与确保生命安全之间寻求平衡，确保在极端情况下，用户能够得到来自现实社交网络的支持，而不仅仅是AI生成的安慰话语。

行业影响

该功能的推出展示了AI行业在伦理责任和用户保护方面的持续探索。随着大语言模型（LLM）在日常生活中扮演越来越重要的角色，如何处理用户的情绪危机已成为AI公司必须面对的课题。OpenAI的这一举措可能为其他AI助手类产品树立安全标杆，推动行业从单纯的“算法屏蔽”转向更具社会责任感的“风险联动”模式。

常见问题

哪些人可以被设定为“紧急联系人”？

用户可以指定朋友、家人或专业的护理人员作为其“Trusted Contact”，以便在发生安全疑虑时接收通知。

该功能会自动开启吗？

该功能是一项可选（Optional）的安全功能，用户需要根据个人需求自主决定是否启用并设置联系人。

系统在什么情况下会发出提醒？

当OpenAI的系统检测到用户在与ChatGPT的对话中讨论了涉及自残或自杀等心理健康及安全相关的话题时，会向指定的联系人发送提醒。