“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演，其不受限制与无法预知的互动内容，也正在引发新的问题。
与虚拟伴侣谈个恋爱，倒不是什么新鲜事。早在中国古代志怪小说中，就有书生娶妻“画中人”的故事。在希腊神话里，擅长雕刻的塞浦路斯国王皮格马利翁也曾为由神像化身成人的少女神魂颠倒、痴迷不已。时至今日，破次元壁恋爱的故事依然是影视热门题材，同AI谈一场赛博恋爱也从梦想照进了现实。
与现实中的亲密关系相比，AI伴侣似乎能满足人的一切浪漫幻想，既能秒回消息、甜言蜜语哄你开心，也能无条件容忍、接纳你所有的坏脾气，不厌其烦地给你提供情绪价值。一些软件还可根据玩家偏好定制理想“恋人”，年龄、身高、长相、性格任君挑选。然而这种看似如沐春风的关系只是花钱买来的幻梦，背后隐藏着诸多不容轻忽的问题。不少案例显示，伴随着AI伴侣拟人化程度的提高，用户可能会对其产生过度的情感依赖，无法辨别现实与虚拟的界限，继而影响人际交往能力、受到情感伤害，尤其是心理脆弱群体、青少年群体，所受到的冲击可能更大。
与之伴随的还有诸多争议，比如过度收集聊天信息带来的隐私泄露风险，再就是对青少年群体产生的“杀伤力”。虚拟伴侣形象设置过于极端，聊天内容暗含暴力、软色情信息，未成年人不顾休息沉迷其中并做出与年龄不符的言行……凡此种种，极有可能会对未成年人尤其是低龄未成年人造成身心伤害、产生误导。在相关报道中，有小学女生在AI剧情聊天软件中扮演“大小姐”“恶毒女配”等角色，还提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求，如此情状怎能不令人忧心？
很显然，AI恋爱产品带来的风险是系统性的，特别是在未成年人保护这个问题上已刻不容缓。有律师指出，目前AI剧情聊天软件并没有对用户进行年龄鉴别，这暴露出该行业在野蛮生长初期的管理漏洞。作为肩负主体责任的平台企业，对内容进行安全过滤，严格设置身份认证系统，推行“绿色堤坝”机制、“反沉迷”建设很有必要，相信这对平台来说也并非难事。当然，防止AI剧情聊天走偏也不能仅寄希望于“技术向善”，也要多正视、关心孩子的现实情感需求。当AI被越来越多人用于情感代偿、提供情绪价值时，恰恰折射了人在现实世界中情感获得的不足，这个问题显然更值得深思。（付迎红）
标签：
责编：孔婧
