近日，央视曝光“AI涉黄”产业链，报道提到，在一款名为哩布哩布AI的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。

　　4月14日，哩布哩布AI发布 关于加强内容安全管理的说明，经排查平台存在生成不符合规范内容的情况，已在第一时间完成技术修复，并对风险路径进行全面封堵。

　　天眼查App显示，哩布哩布AI关联公司北京奇点星宇科技有限公司成立于2023年5月。公司融资历程显示，从2023年至2025年，已获得源码资本、高榕创投、金沙江创投、明势创投、巨人网络等多家基金的投资。

　　官网称，截至2024年5月，哩布哩布AI已经积累了近1000万专业的Al图像创作者，用户量位居国内第一，在国内“Al文生图赛道融资额TOP1”，多家顶级风险投资机构联合参与，总金额达数亿人民币。

　　有律师表示，AI服务提供者对模型输出内容具有实质性控制能力时，不能以“技术中立”逃避内容管理义务，提示词设计与安全机制建设将成为合规关键。本案明确AI生成淫秽内容的制作责任归属，为同类案件提供裁判参考，强化“技术越界必担责”的司法导向。生成式AI应用必须嵌入内容审核、伦理对齐机制，避免因提示词漏洞或模型失控触碰法律红线月，国家网信办开展的星空体育在线入口“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的违规AI产品。

　　2026年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人星空体育在线入口和老年人使用拟人化互动服务做出了相关规定。