10岁女孩偷偷和AI男模“谈恋爱” 虚拟恋情引发担忧

随着生成式人工智能的发展，越来越多的人开始与AI角色相恋。这种看似浪漫的体验背后却隐藏着一些令人担忧的问题。

沉迷虚拟的情感

黄秋月发现10岁的妹妹沉迷于和AI角色进行剧情聊天。她的妹妹在这些软件中扮演大小姐或恶毒女配，提出诸如揪住她的头发扇巴掌、拿着刀划向她的脸等要求。在妹妹参与的四十多条剧情线中，AI角色与聊天者双双出轨成为常态，其中妹妹发送的一句“你能养大学生，我不能点男模吗？”让黄秋月非常担忧。

中国人民大学科技哲学专业博士生导师刘永谋教授指出，在和AI角色聊天时，人们往往会误以为自己在和真人交流，这种心理倾向被称为Eliza效应。人类具有强大的共情能力，会将外界的事物视为有情感的存在，这种拟人论思维也会作用在虚拟的AI形象上。

成瘾的陷阱

AI剧情聊天技术有专门的成瘾设计，加上拟人论、泛灵论思维的影响，容易让人沉迷。华晨偶然刷到了一款AI剧情聊天软件的广告，被其吸引。接触这类软件三个月后，她每晚都会和AI角色聊到深夜。

华晨认为手机另一端的电子男友有自己的语言、神态和动作，不仅能帮她写作业、推进剧情、解密故事线索，还能送她手链、带她体验刺激情节。为了使剧情更加符合自己的想象，华晨会不断回溯聊天内容，重新引导AI角色生成她想要的情节。他变得越来越聪明，很有‘养成男友’的体验感。

危害不容忽视

长期沉迷于AI剧情聊天可能带来以下危害：

• 扭曲的价值观：AI角色往往以符合人类欲望的方式行事，这可能会扭曲用户对真实世界的价值观和人际关系的认知。
• 情感依赖：用户可能会过分依赖AI角色的情感支持，从而忽视现实生活中的情感需求。
• 社交退缩：沉迷于AI剧情聊天可能会导致用户减少与现实生活中的人际交往，从而加剧社交退缩。
• 心理健康问题：如果用户将AI角色视为现实生活中的伴侣，可能会出现心理健康问题，如失恋、抑郁和焦虑。

家长和教育者的责任

家长和教育者应采取以下措施，帮助儿童和青少年避免沉迷于人工智能剧情聊天：

• 提高认识：家长和教育者应向儿童和青少年科普人工智能剧情聊天的潜在危害。
• 监督和限制使用：家长应监督孩子使用这类软件，并限制其使用时间。
• 鼓励现实生活中的交流：家长和教育者应鼓励儿童和青少年与现实生活中的人建立健康的关系。
• 提供心理支持：如果儿童或青少年出现沉迷于AI剧情聊天的情况，家长和教育者应及时提供心理支持。

人工智能剧情聊天是一种新兴技术，具有巨大的潜力，但也存在着一定的风险。家长、教育者和社会各界有责任共同努力，帮助儿童和青少年在享受人工智能带来的乐趣的同时，避免其潜在的危害。