24小时全天候陪伴、拉满的情绪价值,吸引越来越多的用户在虚拟世界里寻找爱情。随着生成式人工智能的发展,和AI角色“相恋”的故事正在上演。
跟AI“谈恋爱”,支持者有之。“好看嘴甜没臭毛病,跟AI谈过谁还跟真人谈啊。”“AI可以随叫随到,还能提供情绪价值,不会要仪式感和节日礼物。”“Al有了新形态,人类与Al建立了更加浪漫的关系!”通过这些网友留言可以看出,跟AI“谈恋爱”确实能够满足一些人的精神需求,提供心理上的慰藉,填补情感上的空白。
图源:央视网
跟AI“谈恋爱”,风险不小,问题不少。AI剧情聊天软件给用户带来新体验的同时,也带来了新风险和一系列安全问题。一方面,用户为获得更真实的恋爱体验,主动通过文字、图片与AI伴侣分享个人信息、生活细节以及情绪变化,这一行为存在信息泄露的风险;另一方面,人工智能技术拟人化越来越逼真,可能会使用户尤其是青少年群体,对AI伴侣产生情感依赖,衍生出沉迷、避世等心理问题。特别是一些AI剧情聊天软件的年龄限制“形同虚设”,未成年人在使用软件时,几乎是“畅行无阻”。此外,AI剧情聊天软件中很多虚拟形象较为极端,与用户聊天过程含有软色情意味的“擦边”回复,还有些带着如“病娇”等标签的人物角色,对未成年人的语言表达和心理健康有不良影响。
跟AI“谈恋爱”,加强监管是关键。要严格执行《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》有关规定和要求,对于没有尽到相应责任的网络产品和服务提供者,要依法给予关闭网站、吊销相关业务许可证或者吊销营业执照等处罚,对于构成犯罪的,要依法追究刑事责任。平台要从稳健发展和社会责任的角度出发,严格落实监管责任,对内容进行安全过滤,防止出现“擦边”现象,在显著位置要提示“本内容由AI生成”;要主动要求用户进行身份认证,进一步通过年龄鉴别用户,采取有效措施防范未成年用户过度依赖、沉迷生成式人工智能服务。
跟AI“谈恋爱”,更离不开正确引导。一些未成年人之所以沉迷于此,一方面原因是自制力相对较差,更重要的是缺少正确引导和有效陪伴。一些家长因为“忙”而疏于陪伴,还有的家长“简单粗暴”,动辄严厉批评,这些都是导致未成年人从虚拟世界寻求“疗伤”的原因。对于未成年人,家长要加强教育引导,不能只“严管”不“厚爱”,也不能因为“忙”,就让手机当“电子保姆”,要多一些有效陪伴,更加关心未成年人的身心健康,给他们带来更多获得感、幸福感、安全感。
撰文 郭雪营