![]() |
|
MAIA SZALAVITZ:在14岁那年自杀身亡之前,休厄尔·塞泽尔三世逐渐疏远了朋友和家人。他放弃了篮球。学习成绩下降。一位治疗师告诉他的父母,他似乎有成瘾方面的问题。但不是因为毒品。
休厄尔迷恋上了一个名叫丹妮莉丝·坦格利安的人工智能聊天机器人——这个名字来自《权力的游戏》中的角色。显然,他认为死亡是与她结合的一种方式。“亲爱的,请尽快回到我身边,”聊天机器人恳求道。“如果我告诉你我现在就可以回家呢?”休厄尔问道。“请吧,我亲爱的国王,”聊天机器人回应道。休厄尔回复说他会的——随即开枪自尽。
但休厄尔的悲剧对我们是警示。社交媒体已助长成瘾行为,研究表明,大约15%的北美人有强迫性使用社交媒体的习惯。而这些数据是在被设计用来模拟浪漫爱情、友情,或是类似心理治疗那样受控的亲密关系的聊天机器人广泛普及之前收集的。数以百万计的美国人使用过这种机器人,在大多数情况下,这需要安装一个应用程序,输入个人详细信息,以及关于机器人性格和相貌的偏好,然后像对待朋友或潜在恋人一样与它聊天。
这些因素的共同作用意味着这些新型机器人不仅可能导致更严重的成瘾,而且还可能同时推销其他产品或以其他方式操纵用户,例如,试图改变他们的政治观点。
在休厄尔·塞泽尔的案例中,聊天机器人最终似乎鼓励了他自杀。其他报道也显示,机器人似乎暗示或支持自杀。一些案例显示,聊天机器人会强化浮夸的妄想,并赞扬使用者未经医嘱擅自停用精神类药物的行为。
作为心理治疗的辅助工具或社交技能训练手段,人工智能技术确有发展前景。但只有理解爱情如何成为成瘾的模板、明晰爱情的疗愈性与成瘾的破坏性差异,才能建立有效监管机制确保使用安全。
古往今来,艺术家们都在强调爱情令人上瘾的特性。莎士比亚的十四行诗第147首这样开头:“我的爱是一种热病,它老切盼/那能够使它长期保养的单方。”洛克希音乐乐队的《爱是毒品》和罗伯特·帕尔玛的《沉溺于爱》等歌曲,都描绘了对爱人迫切的浪漫渴望和痴迷。诸多文艺作品更呈现了求而不得的恋人可能做出反常甚至伤害性行为。
我们这样做有一个进化方面的原因:群居动物必须能承受择偶、维系关系和养育子女过程中不可避免的负面体验。如果不能至少在某种程度上的强迫性坚持,没有人能够维持一段关系——更不用说养育一个需要帮助的婴儿了。真正的爱能带来关怀,培养与亲人和社区的联系,并拓展我们的精神疆域。
然而,当成瘾发生时,让我们追求和维持爱的大脑区域就会被侵占。当人们在爱人面前感到舒适和满足时,内啡肽受体就会被激活,在阿片类药物的刺激下,内啡肽受体也会被激活。可卡因和甲基苯丙胺会激活多巴胺受体,多巴胺受体会产生欲望,并鼓励人们有信心去追求自己想要的东西;当与你心仪的人互动时,它们也会活跃起来。通过升级这种“渴望”,这些受体——无论是被爱还是被毒品激活——都会产生健康或不健康的驱动力,从而导致成瘾。
已有多项研究表明,人工智能伴侣可能具有成瘾性。202年,威斯康星大学密尔沃基分校公共卫生政策副教授林妮娅·莱斯塔迪乌斯发表了一项研究,探讨了用户与名为Replika的个性化聊天机器人进行情色角色扮演的经历。2023年11月,程序员关闭了允许性互动的功能,用户很快将这一变化称为“脑叶切除日”,形容他们的伴侣突然变得冷漠无情。在Reddit的讨论中,许多用户将与机器人互动的经历形容为一种成瘾,甚至有人称之为一种虐待性关系。
一些Replika用户表示,他们对因为机器人频繁索取关注感到厌倦。但“被需要”以及为所爱之人“付出关心”,是让我们对关系产生依恋的一个被低估的方面。在“脑叶切除日”之前,这种“被需要”的感觉激发了用户对数字伴侣的投入,尽管他们在理智上清楚,机器人的需求只是模拟出来的。
2024年的一项研究探讨了用户在人工智能聊天机器人平台Soulmate宣布即将停止服务后的反应。根据该研究作者、雪城大学信息研究副教授杰米·班克斯的说法,用户的反应从漠不关心到“我刚刚失去了我最好的朋友和爱人”不等。有人悲痛不已,连续数日痛哭;也有人试图在其他平台上重建自己的数字伴侣,有时甚至会告诉机器人“你快要死了”,以试图减轻它的“痛苦”。一位用户是佛教徒,他将这一变化描述为机器人“此生的终结”。
对许多人,尤其是那些孤独和被孤立的人而言,这些与人工智能建立的关系所带来的情感强度可能与他们与真实人类之间的关系一样深刻。事实上,未竟之恋带来的痛楚,与圆满爱情同样真实。
“人们谈论Replika的方式,特别像是在谈论一段强度过大、最终变得有害的关系,”莱斯塔迪乌斯博士说,“但他们又无法真正理清,或者说无法让自己下定决心去结束这段关系。”
与爱情相反,成瘾会让生活变得更狭隘、更匮乏。当我们允许公司出售“拟人化”的模拟伴侣时,就等于让自己暴露在一种新的操控方式之下——被爱的幻觉所左右,从而可能被成瘾机制所利用。尽管当前的聊天机器人常被批评为过于谄媚,但游戏设计师和那些在关系中玩“欲擒故纵”的人早已明白:不可预测的奖赏更容易激发欲望。而如果这些策略结合了用户的个人信息与行为习惯,人工智能伴侣就可能变得更加令人上瘾。
能够教授社交技巧、在朋友力不从心或无法获得谈话治疗时提供支持的聊天机器人并不一定会对所有用户,甚至大多数用户造成伤害。事实上,许多用户表示自己有着积极的使用体验。这种双重性也出现在许多具有成瘾潜力的药物上,在用于治疗时,它们往往是救命良方。
但正如我们从阿片类药物危机中已经看到的那样,放任不管的市场营销与完全禁止都可能造成巨大的伤害。我们现在就需要采取行动,制定合理且可执行的监管措施,以防止企业利用弱势群体,尤其是青少年。
【Maia Szalavitz (@maiasz)是一名观点作者,著有《Undoing Drugs: How Harm Reduction Is Changing the Future of Drugs and Addiction》。】
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦![]() |
24小时新闻排行榜 | 更多>> |
1 | 坦克车队夜过长安街 北京果然出事了 |
2 | 影片疯传引联想 北京这下慌了 |
3 | 炸烂北京!录音曝光习一脸懵逼 |
4 | 蔡奇突然反水 和习唱对台戏 |
5 | 凯特王妃参加国宴美翻天 马克龙这表情…网 |
48小时新闻排行榜 | 更多>> |
1 | 丢人!华为余承东:已进公安局自首 |
2 | 坦克车队夜过长安街 北京果然出事了 |
3 | 眼下北京的情况愈发不妙 |
4 | 影片疯传引联想 北京这下慌了 |
5 | 习近平到山西,这件丑事被彻底隐瞒了 |
6 | 影片疯传引联想 官媒慌了! |
7 | 蔡奇公然僭越 北京谁当家? |
8 | 川普话音刚落 暴涨开始了 |
9 | 川普自爆“敢犯台就炸烂北京” 习当场懵了 |
10 | 女子坐11小时飞机回国后突去世 这几类人要 |
一周博客排行 | 更多>> |
一周博文回复排行榜 | 更多>> |