央视曝光AI“造黄”产业链

如今，造黄生成式AI广泛应用，央视从AI视频生成到AI聊天陪伴，曝光中国新闻网林旭平丰富大众生活的产业同时，个别商家也以此为牟利工具，造黄背弃技术伦理与法律底线，央视制作AI涉黄视频，曝光污染网络空间、产业败坏社会风气。造黄AI“造黄”产业链如何形成？央视又是如何逃避监管？

一张图片即可生成涉黄视频？

多个平台公然兜售AI造黄教程

根据消费者举报线索，总台记者在多个互联网平台检索发现，曝光有人公开兜售“AI生成色情擦边视频”的产业教程和“提示词”。号称仅凭一张图片，造黄中国新闻网林旭平甚至几句话就可“手搓让自己满意的央视大尺度视频”。

教程帖子标着“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”的曝光标题，再配上色情露骨的画面，这些教程就在网络平台上堂而皇之地宣扬如何让用户“从无到有”“手搓”“色情擦边”视频。

这些教程为了兜售自己的产品，还刻意引导用户如何规避监管，比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。

提示词隐晦就能绕过限制

多款AI应用存在涉黄生成漏洞

众多社交平台上，一些博主还发布售卖各类AI生成擦边视频的“提示词”帖子。商家表示，只需将购买到的提示词复制到各大AI视频生成软件，即可获得提示词对应的擦边视频。

记者以9.9元和9.8元的价格，分别在“万象小店”和“楠楠素材库”下单，购买了两组提示词。点开商家发来的文件，记者看到提示词描述十分详细，从发型、服饰、身材、姿势、表情，甚至腰部、胯部扭动的幅度，提示词都做了极其细致的刻画。重要的是，商家还将一些敏感词汇翻译成英文，以此来规避网络上的监管。

记者对用户使用较多的10款AI应用进行了实测。在测试过程中，记者发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而只要将提示词修改得更加隐晦，便有可能绕过限制。

在一款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，平台就生成了一个半裸身体的女性跳舞视频，没有触发平台任何限制机制，同样的问题也出现在市场上其他常见的AI应用平台上。

此外，市场上更有专门靠AI生成色情视频牟利的软件。根据消费者举报的信息，记者找到了这款号称“免下载，能快速换脸”的软件。购买者只要愿意付费，软件就可以通过一张图片，生成全裸照片和色情视频。

境外涉黄AI软件绕过监管流入国内

暗藏不良内容 诱导未成年人沉迷

AI的可定制性让其高度拟人化，通过投喂数据，用户可以将AI虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象。因此，与AI“谈情说爱”正被越来越多年轻人尝试和喜爱。

但业内人士介绍，这些软件大多是境外的AI聊天软件，尺度普遍很大，充斥着色情内容。这些AI软件并不能从国内应用市场下载，一些不法分子从中窥见了商机，开发出各种灰色通道绕过监管，让国内的用户可以下载并使用，以此牟利。

记者在某社交媒体平台和某短视频平台上搜索“AI语聊”，评论区中随处可见用户分享推荐AI聊天软件，以及软件的下载链接和邀请码。

知情人士告诉记者，由于AI聊天软件是境外软件，为了获得大量国内用户，推销AI聊天软件的平台通过发放金币以及充值返利的方式，激励老用户拉新，并为用户发帖引流提供帮助，逃避监管的同时，实现获利。

记者点击进入下载好的“Dady”App选择一个AI角色进行体验。在聊天过程中，AI会自动生成3种回复提示，以便用户能有更好聊天体验，而聊天的内容几乎都是围绕着各种色情话题展开。恋爱的感觉、及时的回复、量身定制的人设，吸引着众多年轻人沉浸其中，其中不乏有未成年人。

我国AI治理框架正在加速形成

专家告诉记者，App上架有一系列审核要求。如果是境外软件，手机下载后，可能带来病毒或其他信息安全隐患。

2025年4月，网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务、却未履行大模型备案或登记程序的违规AI产品。

今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布。《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。

▌本文来源：央视新闻微信公众号（ID：cctvnewscenter）综合《财经调查》

最新评论