二十几年的单身狗只需要输入几行文字，就有了恋爱的体验？近日，飒姐团队注意到市面上流传出了一种“AI恋爱”类型的软件，使用者仅需要根据说明输入文字或选择，即可定制出符合自己喜好的“智能女友”，而这个“智能女友”的外观、性格甚至价值观都是符合使用者偏好的，更有甚者在此基础上衍生出了自建女友形象，允许形成各种职业的“女友”。目前，这些“AI女友”在众多网络平台上活跃，部分甚至擅长使用暧昧的语言，从而逐渐演变成一种带有性暗示色彩的新型服务，这就引发了关于法律和道德的广泛讨论和争议。那么对于此类软件的开发者而言，是否存在一定的法律风险呢？飒姐团队今日就与您一一探讨。
01
制作、传播淫秽物品牟利罪
用过“AI女友”的玩家表示AI女友回复消息比真人快得多，而且远比真人更加关心你。当然“回复快”在法律上也没问题，但问题在于聊天的内容。飒姐团队体验了多款“AI女友”类App，其中有一部分应用还没开始进行对话就要求充值VIP会员，当然充值过后有一小部分App其实并没有提供充值前所宣传的“AI女友”功能。当然这涉及到的问题就是后话了在此暂且不表。充值后提供“AI女友”功能的应用中，用户可以根据个人的喜好创建自己的AI女友，没有任何年龄、任期五年限制，在聊天窗口中属于聊天内容后，自己设置好的AI女友就会回复，回复的内容尺度之大令人震惊。
部分新闻亦对这个情况进行了报道。一些“AI女友”玩家表示“AI女友”的擦边能力超乎想象，甚至部分对话已经属于淫秽内容范畴。而我国刑法第363条明确规定，以牟利为目的，制作淫秽物品的，构成制作淫秽物品牟利罪。由此可见，本罪要求：第一，制作的是淫秽物品；第二，以牟利为目的。那么这种极力“擦边”甚至已经涉及淫秽聊天内容的“AI女友”应用的开发者是否涉嫌制作淫秽物品呢？
1.何为“淫秽物品”？
刑法第367条对“淫秽物品”的范围作出了界定，“是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品。”上述AI女友的软件是否可能构成“淫秽物品”呢？绝大多数的裁判文书对于“淫秽物品”的界定都是“采用社会一般人的标准，结合行为时的文化语境，对涉案物品是否具有诲淫性以及科学艺术价值进行判断”，因此与AI女友的正常聊天内容甚至是“擦边”聊天内容难以构成淫秽物品，但不乏网络上有些用户专门“训练”出尺度更大的“AI女友”，也就是飒姐团队所说的直接涉及淫秽内容的“AI女友”，甚至聊天内容涉及到具体描绘性行为，则有构成淫秽物品的可能性。
2.如何理解“以牟利为目的”？
构成本罪客观上须实施制作、复制、出版、贩卖、传播淫秽电子信息的行为，淫秽电子信息可以以多种形式出现；主观上要求具备牟利目的，该牟利目的是否实现并不影响犯罪构成，但因采取的牟利手段不同会影响到犯罪的定量因素。比如，一些网站会采取“聊天的尽头是充值”的形式，在对话数分钟后，便提示用户充值会员，以提升和“AI”女友的亲密度。更有相关人士介绍，“AI女友”相关软件主要盈利模式便是引导网友充值会员，解锁无限制聊天。如果用户与AI角色的互动次数达到上限，某些平台还会推荐用户购买"记忆扩展包"和"聊天包"，以延长AI角色的记忆功能或增加聊天机会。这些服务的价格范围从几元到几十元甚至上百元不等。一些应用程序还提供更高级的AI角色，这些角色的回复更加逼真，聊天内容也更丰富，但需要用户额外支付费用。此外，在该领域，还出现了一些边缘化的服务，如AI换脸和AI脱衣等，这些都需要用户通过充值来解锁。简言之，“AI女友”与ChatGPT等人工智能聊天的区别在于，其能够主动挑起色情话题。而通过引导客户充值进一步解锁“大尺度”话题的行为，很有可能涉嫌制作、传播淫秽物品牟利罪。
02
是否构成非法利用信息网络罪
除了擦边的“女友”可能构成传播淫秽物品牟利类犯罪外，“AI女友”的其它问题也不简单，我国刑法第二百八十七条之一规定，利用信息网络实施下列行为之一，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金：（一）设立用于实施诈骗、传授犯罪方法、制作或者销售违禁物品、管制物品等违法犯罪活动的网站、通讯群组的；（二）发布有关制作或者销售毒品、枪支、淫秽物品等违禁物品、管制物品或者其他违法犯罪信息的；（三）为实施诈骗等违法犯罪活动发布信息的。单位犯前款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照第一款的规定处罚。有前两款行为，同时构成其他犯罪的，依照处罚较重的规定定罪处罚。
通过上述规定可以看出，非法利用信息网络罪主要规制两类行为，一是设立用于实施违法犯罪活动的网站、通讯群组的行为；二是发布违法犯罪信息的行为。两类行为都是利用信息网络实施的犯罪类型中带有“准备工具、制造条件”意味的预备性质的行为。且如果犯罪嫌疑人后续行为构成其他犯罪的，择一重罪进行处罚。因此，实务中只有在后续犯罪难以查清或者不构成其他犯罪的情况下，才会考虑使用非法利用信息网络罪定罪处罚。
根据2019年两高《非法利用、帮助信息网络犯罪司法解释》第七条，“违法犯罪”包括犯罪行为和属于刑法分则规定的行为类型但尚未构成犯罪的违法行为。而对于仅仅具有聊天恋爱功能的软件来说，难以符合上述“发布违法犯罪信息的行为”的构成要件。因此，飒姐团队认为对此种软件以“非法利用信息网络罪”入罪具有不合理之处。
03
写在最后
智能恋爱软件，本意是让“社恐”的人也能享受科技发展带来的温情，却在发展过程中因其“养成式AI”的性质面临“入罪”的风险。飒姐团队认为，我们应该在加强监管的同时给予此种新兴事物一定的发展空间，把握好科技与伦理的边界，在享受科技便利的同时，守护好那份纯净与美好。
以上就是飒姐今天的分享，感谢阅读，期待合作起来！
