自2026年4月“清朗·整治AI应用乱象”专项行动启动以来，中央网信办针对AI应用中的不规范行为进行了集中整治。重点关注了大模型备案登记不规范、AI平台安全及审核过滤能力不足、AI数据投毒以及合成内容标识不明确等问题。各地网信部门积极响应，开设“涉AI应用乱象举报专区”，受理公众举报，共同推进整治任务。
在第一阶段的整治行动中，中央网信办累计处理了超过1.4万个违规的AI产品，包括网站、应用程序和智能体，清除了600多万条违法违规信息，处理账号2.6万多个，下架违规AI商品1300多个、违规开源数据集9个，取得了显著成效。
各地网信部门根据地区实际情况，采取了有效的监督管理措施。例如，北京网信办建立了联动工作机制，及时下架违规AI应用和运营账号；上海网信办细化了平台类型的工作要求，指导平台升级举报机制；浙江网信办从多个维度组织优化语义判断能力；江苏网信办开设专项举报窗口，收集违法违规线索，并及时核实处置。
重点网站平台也积极履行管理责任，加强管控。华为在应用商店中增加了AI服务备案和标识审核；阿里巴巴加强了数字指纹比对和关键词拦截机制；智谱构建了多模态审核模型；稀宇及时识别并阻断恶意行为；DeepSeek在数据采集和预处理环节嵌入了异常检测算法。
中央网信办计划在第二阶段的行动中，聚焦AI技术制作发布虚假信息、散播不良信息、假冒仿冒、侵害未成年人权益、从事网络水军活动等问题，加大违规账号和机构的查处力度，强化AI应用管理，督促平台提升防治能力，维护网络生态，推动AI技术的健康发展。