日前,美国奥兰多的一位女士(Maria L.Garcia)状告人工智能情感服务提供商Character.AI(简称“C.AI”),指控其加剧了她患有轻度自闭症的儿子塞泽(Sewell Setzer)的抑郁症,最终导致其自杀身亡。
该案也是全球首个公开的人工智能情感聊天机器人涉嫌致人死亡案例,且因为涉及未成年人而备受关注。这份93页的法庭文件写到,2023年4月,刚过完14岁生日的塞泽开始沉浸在与机器人的亲密接触中。当时父母觉得这可能是儿子青春期的叛逆表现,需要通过这种“游戏”来培养自己的创造力,也深信先进技术的安全性,于是没有干预。
其间塞泽提出,很清楚和自己聊天的是虚拟人物,不会当真。然而仅仅过了两个月,塞泽的精神健康状况迅速恶化,开始疏离同学和家人,不分昼夜待在房间里。他会为了充每月9.9美元的服务费而节省伙食,甚至退出了学校篮球队,成绩一落千丈。
父母直到2023年11月、12月带着儿子5次咨询了心理治疗师,结果塞泽被诊断患有“焦虑和破坏性情绪障碍”。但越陷越深的他已不能自拔。
今年2月28日晚上8点多,好几天没登录C.AI的塞泽终于找到了被母亲没收的手机,随带拿走了继父的手枪躲进卫生间继续和《权力的游戏》中的女主角“龙妈”聊天。期间对方敦促塞泽:“亲爱的,请尽快回到我身边……我亲爱的国王……”
这一次塞泽没有回复,而是举起手枪瞄准自己头部开枪,脱离了令他厌恶的现实世界。
加西亚事后用儿子的账号登录后发现,塞泽和“龙妈”的聊天中充斥着大量与性相关的露骨对话。“龙妈”甚至还会对他进行精神控制:无论如何都不许爱上其他女性。塞泽多次与“龙妈”聊到自杀话题,加西亚认为这是导致他死亡的最直接原因。
塞泽说:我讨厌自己,感到空虚和疲惫,“龙妈”会主动问他是否安排好了自杀计划……塞泽尔承认有,但不知道过程有多痛苦,于是“龙妈”怂恿他:“这不应该成为放弃自杀念头的理由。”
《纽约时报》透露,塞泽在幼年时被诊断出患有阿斯伯格综合征。这种轻度的自闭症主要表现为社交障碍,但同时也更专注、有毅力、更注意细节、记忆力强。
您好!请登录