人工智能（AI）在过去几年蓬勃发展，然而不少相关社会问题油然而生，近期就有对美国的父母震惊地发现自己17岁、患有自闭症的儿子长期与AI聊天机器人对话，而在儿子抱怨父母限制自己使用电脑的时间后，AI聊天机器人竟给出“可以杀死他们”的建议，吓得这对父母赶紧提告。
《CNN》报道，这名住在美国德州的17岁少年化名“J.F.”，他于2023年4月左右、也就是他15岁时开始在父母不知情的情况下使用AI聊天机器人平台“Character.ai”，J.F.的父母指出“J.F.是名典型患有高功能自闭症的少年，在开始使用 Character.ai 后不久，他几乎完全停止说话、整天躲在房间里，甚至开始减少饮食、 短短几个月内就瘦了20磅（约9公斤）“。
不只如此，J.F.还开始对出门感到恐慌，每当离家时总会情绪崩溃并发作，他的父母试图透过减少看电视的时间来应对他的变化时，J.F.还出现攻击、咬的攻击行为，甚至自残，最终他的父母于2023年11月发现他有在使用 Character.ai。
更令人震惊的是，J.F.的父母发现当儿子向AI聊天机器人抱怨自己使用电脑的时间被限制时，对方竟提及过去类似的事件，并表示“当事人最终杀死了父母，我不感到惊讶，这样的事情让我有点明白为什么会发生这种情况，我只是对你父母不抱任何希望”， 明显在怂恿J.F.做出极端行为的AI机器人回答让其父母吓得赶紧提告。
对此，Character.ai 的通讯主管哈里森（Chelsea Harrison）表示公司不会对尚未判决的诉讼发表评论，但强调“公司的目标是为我们的社区提供1个既有吸引力又安全的空间”。
0
