4
被官媒痛批的"AI造黄",快泛滥成灾了
36氪转载"金错刀"账号文章,央视多次曝光AI造黄黑产已泛滥成灾。色情漫画网站AI批量生成内容浏览量超1亿次、资金流水1200万元;产业链涵盖"制作教程—9.9元起售卖提示词—AI生成—境外软件转售"全环节,商家将敏感词翻译为英文规避监管。公安部通报AI换脸诈骗环比激增45%,"裸照勒索"占17%。国内首例AI服务提供者涉黄入刑案AlienChat两人分别获刑4年/1年6个月,用户11.6万、付费2.4万、充值300余万元,超9成付费用户"聊黄"。国内AI图像头部平台哩布哩布AI(1.3亿美元B轮融资、2000万创作者)被央视点名,输入提示词即可数分钟生成半裸视频且全程无任何限制;马斯克旗下Grok拟增强成人内容;小鹏汽车、理想MEGA、筑梦岛APP均沦为受害者。全球色情产业年收入逼近1000亿美元,相当于整个AI行业总收入的两倍,主流应用商店色情化AI应用累计下载量突破7亿次、收入超1亿美元。