随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。据央视新闻报道，一名10岁小学女生沉迷AI聊天，因和“AI男模”聊天内容颇为露骨引发家人担忧。
伴随着科技的发展，AI为人们提供了生活上的便利，AI相关软件如雨后春笋般冒了出来，如ChatGpt、Kimi、豆包等。应接不暇的AI软件有着多种多样的功能，如整理资料、统计数据、智能识图等。对青少年来说，AI既可以答疑解惑，辅导功课，成为青少年学习中的“良师”，又可以在闲暇之余陪青少年聊天解闷，缓解枯燥生活，充当生活中的“益友”。如此看来，青少年在恰当的引导下使用AI可以收获良多。
但同时，青少年沉迷AI软件的隐患也不容忽视。AI剧情聊天技术有专门的成瘾设计，容易让人“欲罢不能”。与现实中的亲密关系相比，AI伴侣似乎能满足人的一切浪漫幻想，既能秒回消息、甜言蜜语哄你开心，还能无条件容忍、接纳你的坏脾气，给你提供情绪价值。一些软件还可根据玩家偏好定制理想“恋人”，年龄、身高、长相、性格任你挑选。然而这毕竟不是真实的。伴随着AI伴侣拟人化程度的提高，用户可能会对其产生过度的情感依赖。而青少年正处在身心发展的关键时期，自制力不足，容易沉迷在AI的世界里，难以分清现实与虚拟的边界。此外，为了迎合用户，虚拟伴侣形象设置过于极端，聊天内容暗含暴力、软色情信息，未成年人不顾休息沉迷其中并做出与年龄不符的言行，对青少年身心健康造成严重不良影响。在相关报道中，有小学女生在AI剧情聊天软件中扮演“大小姐”“恶毒女配”等角色，还提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。
目前AI剧情聊天软件并没有对用户进行年龄鉴别，部分应用虽然会询问是否启用青少年模式，但用户只需点击“不开启”即可避开年龄鉴别，且无须核实身份。成功登录后，未成年人在使用这类AI剧情聊天软件时，几乎没有受到任何限制。这暴露出该行业在野蛮生长初期的管理漏洞。
AI作为一把科技的双刃剑，发展与使用要进一步加以引导。一方面，家庭、学校、社会各方要加强对青少年使用AI的教育与引导，增加对孩子的关心与陪伴，帮助青少年树立正确的观念。另一方面，平台要压实主体责任，严格未成年人登录验证，巩固青少年安全意识，筑牢青少年安全防线。同时，相关部门也要加强对AI软件的监管，加强审核监督，完善互联网管理条例，为青少年划出一片净土。
多方引导、形成合力，形成坚实的保护屏障，才能更好地防范青少年沉迷AI，保护青少年身心健康。
来源：中青在线
