点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

作者:马青
据媒体报道,今年7月15日,《人工智能拟人化互动服务管理暂行办法》将正式施行(以下简称“《办法》”)。《办法》明确提出,严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁的未成年人提供其他拟人化互动服务,需要取得监护人同意;同时,还要求平台建立未成年人模式,支持监护人进行使用行为管理、限制充值消费等。
《办法》特别把“虚拟亲密关系”和一般“拟人化互动”作了区分,像知识问答、学习辅导、智能客服是可以正常使用的,但是,向未成年人提供虚拟“亲密关系”服务是不行的。换句话说,青少年可以与AI对话,但不可以和AI玩“角色扮演”。
为什么规定要划分得这么细?因为人是社会性动物,人际关系这件事,在一个人的生命中太重要了,而青少年时期正是学习建立人际关系的开端。诚如心理学家埃里克森的研究,12到18岁正处于有点混乱、有点迷茫的青春期,孩子们需要搞清楚“我是谁”,以及“我该怎么和别人相处”。这个过程总是充满了甜蜜又痛苦的磨合,有喜悦也有误解、有冲突也有冰释、有陪伴也有分离。这些都是成长的营养剂,让我们体验快乐,学会信任,懂得自我保护,还学会承受失去和离别。
可是,虚拟伴侣却完全没有这些“麻烦”,ta永远展现着顺从、温柔和耐心,不会拒绝,也不会离开。对成年人来说这种体验都有致命吸引力,更不用说大脑皮层尚未发育成熟的孩子。斯坦福、哈佛等机构曾研究发现,聊天机器人明显更倾向于奉承用户,这种倾向比人类要高出50%。哪怕用户的行为本身是错的,AI也往往会给出理解和支持的态度。研究还发现,当一个人不断从这样的回应中获得支持时,他会更容易觉得自己是对的,也更不愿意去反思或和他人达成和解。也就是说,这种看起来体贴的互动模式,实际上在削弱一个人处理冲突的能力。
虚拟伴侣还有一个不那么直观的缺点,就是ta容易让人产生“替代依附”,继而挤压人在真实世界的情感体验。真实的人不会有像AI那么高的配合度,不会随时在线、招之即来。一旦有了这样一个“几乎完美”的参照,现实关系的那些复杂、迟缓甚至笨拙,就显得不那么值得投入了。
生物学研究也颇能说明问题。经典的恒河猴实验中,幼猴被带离母亲后,更倾向依附柔软、能提供安抚的“布妈妈”,而不是能提供食物的“铁丝妈妈”。可是,在这种替代环境中长大的猴子,后来普遍出现社会功能障碍——不会正常和同类相处,也很难承担照料后代的角色。人当然不是动物实验的简单翻版,但这些研究至少提供了一个清晰的提醒:当正常的关系被转移到不具备真实互动的替代对象上时,个体的情感满足看似被填补,但在真实关系中才能习得的能力,很可能被削弱了。
把这个逻辑放回到虚拟伴侣的身上,就不难理解为什么要格外谨慎了。在它的参照之下,现实中的人际关系很容易被边缘化。而对未成年人来说,一旦习惯了这种完美的“替代关系”,他们会失去进入真实关系的耐心,甚至弱化正常的人际交往能力。
但说实话,对于这一代“互联网原住民”来说,“禁”是不够的,还有两堂课必须补上,而且可能比我们想得更现实,也更迫切。
一堂课是关于AI。让孩子真的理解AI是什么,比如以科学实验的方式,带领孩子与AI聊天,更换不同的问法、语气,甚至故意前后矛盾,看看它的回答是怎么变化的。背后的算法机制被看见和分辨时,孩子才有可能慢慢“脱敏”。另一堂课其实更难一点,就是让孩子在现实里学习和感受人与人的连接——与父母的、与师长的,还有与同龄人的友情,乃至异性之间的朦胧好感等各种情感体验。
从这个意义上说,《办法》的重要价值在于帮孩子们争取到了一点成长的时间,让他们不至于太早被看似完美实则失真的“人际关系”吸引。在一个越来越容易获得“替代关系”的时代,人和人建立真实的情感连接,反而是需要被认真引导,也需要被认真保护的能力。(马青)
