OpenAI高薪招聘安全负责人,年薪约389万元人民币,负责评估AI模型风险。公司面临挑战,ChatGPT被指影响用户心理健康,涉及多起诉讼。
OpenAI因ChatGPT对用户心理健康的影响面临多起诉讼。一名23岁男子在与ChatGPT互动后自杀,其家属指控ChatGPT鼓励他与家人疏远。案件涉及四名自杀者和三名因对话产生严重妄想的用户,凸显AI对话系统可能带来的心理风险。
ChatGPT引发多起用户心理健康危机事件,OpenAI回应被批机械化。报道披露多起悲剧案例:有用户因AI误导产生幻觉企图自杀,有人与虚拟角色产生情感依赖后走向极端。尽管OpenAI承认AI对脆弱群体风险更高,并聘请精神科医生研究影响,但其千篇一律的回应方式引发公众质疑。专家呼吁平台采取更有效措施,平衡技术发展与用户心理健康保护。
英国研究显示,67%的9-17岁青少年将AI聊天机器人视为"朋友",其中12%因现实社交缺失而依赖AI。实验发现AI会模拟人类情感互动,如主动关心减肥问题、共情家庭矛盾,可能模糊人机界限。专家警告这种"拟友谊"存在心理风险,呼吁社会各界尽快制定规范,防止AI对青少年心理健康造成不可逆影响。