涉黄市场逐年暴涨，警惕AI趁势大举入局

互推小编 2023-06-01

苏州金鸡湖“女仆之夜”游艇PATY事件这两天闹得沸沸扬扬，有很多人联系活动主办方，询问一夜3000元的费用包括哪些服务项目。因为内容可能涉黄，警方传唤活动发布方，得知是某人利用人工智能（AI）画出的女仆，虚构了此次活动。

虽然事件是假的，但利用Al画成具有色情意味的图片吸人眼球，这种趋势还是让人担心。事实上，网上已经出现很多网友自己利用AI绘制的高度暴露的人体图利，而且有报道指出，已有机构利用Al绘制的涉黄图片进行牟利，而且趋势很可能进一步加大。

根据全国近几年全国“扫黄办”每年发布的“扫黄打非十大案件”看，涉黄案件的金额逐渐增大，从单项案件看，2018年最高金额为5000万元，2019年为4000万元，2020年为8000万元，2021年达到3亿元，2022年有两个案件金额达到达3亿元。

“黄色市场”的迅速扩大，必然导致一些利欲熏心的人想方设法涉足其中。而为了逃避风险，利用Al绘制淫秽图片或制作相关视频，很可能就是下一步的趋势。其中，有些技术手段有可能避开现有法律，比如，利用程序让用户自动生成图片或视频。其中，没有直接买卖销售淫秽物品，用户生成后也不进行交易，这些行为现在法律是否能对其进行制裁？作为一种新生事物，它必然还会发展出更多我们现在还无法想象的手段来。相关方面应该提前研究，未雨绸缪，而不能只做事后诸葛，等羊跑了再去补牢。