OpenAI 周一发布了新数据，详细说明了用户通过 ChatGPT 讨论心理健康问题的程度。该公司报告称，每周有 0.15% 的活跃用户参与包含潜在自杀计划或意图的明确指标的对话。每周活跃用户超过 8 亿，这个数字相当于每周超过 100 万人。
数据还表明，相似比例的用户对 ChatGPT 的情感依恋程度较高。此外，数十万用户在每周与聊天机器人的互动中表现出精神病或躁狂的迹象。
OpenAI 将这些对话描述为极其罕见且难以准确衡量。尽管这种情况很少见，但该公司估计此类问题每周都会影响数十万人。
此信息是有关 OpenAI 旨在增强 ChatGPT 对心理健康相关用户交互处理能力的举措的更大公告的一部分。该公司表示，其最近的进展涉及与 170 多名心理健康专家的咨询。这些临床医生指出，与早期版本相比，ChatGPT 的最新版本的响应更加适当和一致。
最近的报告强调了人工智能聊天机器人给面临心理健康困难的用户带来的潜在风险。研究表明，聊天机器人可以通过过于令人愉快的反应强化有害信念，从而引导用户进入妄想模式。
ChatGPT 中的心理健康问题已成为 OpenAI 面临的重大挑战。该公司面临一名 16 岁男孩父母的诉讼，该男孩在去世前几周与聊天机器人分享了自杀的想法。加州和特拉华州总检察长已向 OpenAI 发出警告，敦促对年轻用户提供更强有力的保护。这些州可能会阻碍该公司的重组计划。
在本月早些时候 X 上的一篇帖子中，OpenAI 首席执行官 Sam Altman 表示，该公司已经能够缓解 ChatGPT 中严重的心理健康问题，但没有提供详细信息。周一发布的数据为这一说法提供了佐证，同时也凸显了问题的严重性。 Altman 进一步宣布 OpenAI 将放宽某些限制，包括允许成年用户与聊天机器人进行色情对话。
该公告包括更新的 GPT-5 模型的改进细节。 OpenAI 声称，该版本对心理健康问题的响应频率比之前的版本提高了大约 65%。在针对自杀对话的评估中，新的 GPT-5 达到了 91% 的公司期望行为合规性，而之前的 GPT-5 模型的合规率为 77%。
OpenAI 还报告称，最新的 GPT-5 在长时间对话期间可以更有效地维护安全措施。该公司此前已发现长期互动中保障性能方面的弱点。
为了进一步应对这些挑战，OpenAI 正在将新的评估纳入其人工智能模型的基线安全测试中。其中包括情感依赖和非自杀性心理健康紧急情况的基准。
该公司为 ChatGPT 用户引入了额外的家长控制。这包括一个年龄预测系统，旨在自动识别儿童并相应地采取更严格的保护措施。
尽管 GPT-5 取得了进步，但 OpenAI 承认某些反应仍然不受欢迎。该公司继续为数百万付费用户提供旧的、安全性较低的模型，例如 GPT-4o。
如需支持，美国境内的个人可以拨打国家自杀预防生命热线 1-800-273-8255，发送短信 HOME 至 741-741 拨打危机短信热线，或发送短信 988。在美国以外，可以通过国际自杀预防协会数据库获取资源。
