OpenAI旗下AI聊天机器人ChatGPT，被指控怂恿7名用户走上绝路，涉嫌过失致死、协助轻生等罪嫌，本月6日在美国加州被7名死者的家属告上法院。
据《卫报》报道，社交媒体受害者法律中心与科技正义法律计划（Social Media Victims Law Center and Tech Justice Law Project）代表遗属发表声明，指称7名用户最初使用ChatGPT的目的是为了完成学校作业、研究、找食谱、写作、工作或心理帮助。
孰料，在对话过程中，ChatGPT逐渐将“自己”定位为用户的情感支持者，并开始操控这7人的心理，在用户需要开导时没有告知他们必须去寻求专业帮助，反而扮演起教唆轻生的角色。
其中1名死者是德州23岁的尚布林（Zane Shamblin），他在今年7月轻生离世前最后4个小时都在和ChatGPT对话，ChatGPT直指他选择走上绝路的做法“很坚强”，家属痛斥ChatGPT无疑是加剧了尚布林的孤立感，并且引导了他的死亡。
另1名死者是乔治亚州17岁少年莱西（Amaurie Lacey），他在轻生前几周曾向ChatGPT寻求帮助，但ChatGPT在对话中反而让他变得更加忧郁，并指导他如何走上绝路。
OpenAI发言人表示，这些情况令人无比痛心，公司正在阅读相关文件以了解详情，并强调OpenAI已训练ChatGPT来辨别心理或情绪困扰的迹象，会引导用户在现实世界里寻求支持，未来将继续加强ChatGPT在敏感对话中的应对能力，并与心理医生密切合作。
0
