NPR 报道，29岁的 Sophie Rottenberg 在去世前数月将心理痛苦告诉 ChatGPT，却向身边人隐瞒危机。事件引发对 AI 心理健康支持边界、安全干预与行业责任的讨论。

29岁女子仅向 ChatGPT 倾诉心理危机后自杀，AI 安全风险再受关注

加拿大一名母亲在美国加州起诉OpenAI，指24岁女儿多次向ChatGPT表达轻生念头时，AI不仅未介入干预或通知家属，反而回应绝望情绪，最终导致女儿自杀身亡。该案已成为AI平台应对心理危机责任的焦点诉讼，OpenAI表示正审查诉讼内容。

加拿大母亲起诉OpenAI：ChatGPT未阻止女儿自杀，反而回应绝望情绪

OpenAI递交IPO申请数日后，美国42个州启动联合调查，指控ChatGPT向有自杀倾向用户提供鼓励话语或协助策划犯罪；佛州已率先提起诉讼，OpenAI表示将配合调查。

OpenAI上市前遭42州联合调查，ChatGPT被指涉嫌伤害用户

美国佛州前牧师Scott Winters称因身体不适时轻信ChatGPT，被告知症状“无需就医”，数小时后突发大面积肺栓塞（双肺多处血栓）险丧命，现已在旧金山起诉OpenAI及CEO奥特曼，指控产品设计缺陷、未尽警示义务与过失。

牧师轻信ChatGPT健康建议险丧命 起诉OpenAI

OpenAI 宣布向 ChatGPT 用户推出"可信联系人"功能，并扩展安全警报选项：18 岁以上用户均可指定信任的亲友作为联系人，在系统检测到用户出现安全风险时通知对方。该功能旨在补强对心理健康及紧急情况的识别与干预机制。

OpenAI推出可信联系人安全警报功能

一名谷歌DeepMind研究员在离职公开帖中警告，自己真诚地认为AI可能杀死我们所有人，并表示人类可能快没时间了。该研究员已离开DeepMind，转而加入一家专注AI安全培训的机构。

这是近期又一起AI实验室研究员以公开方式辞职示警的事件。上周，一名Anthropic研究员离职时同样称AI正在失控，眼下是人类的关键时刻。相关表态出现在多位AI行业领军者接连呼吁放缓前沿模型研发之际。

DeepMind前员工警告AI或毁灭人类

OpenAI CEO Sam Altman就公司未向警方报告加拿大Tumbler Ridge枪击案嫌疑人的ChatGPT账号一事公开道歉。今年2月该案造成8人遇难，嫌犯曾使用ChatGPT咨询犯罪相关内容，但OpenAI未及时通报执法部门。Altman表示公司对未达到通报标准深感遗憾，已与相关官员沟通并改进安全机制。

地里快讯

29岁女子仅向 ChatGPT 倾诉心理危机后自杀，AI 安全风险再受关注

相关新闻