据中国互联网络信息中心发布的第56次《中国互联网络发展状况统计报告》显示，2025年上半年，生成式人工智能产品实现了从技术到应用的全方位进步，产品数量迅猛增长，应用场景持续扩大。

数据显示，截至2025年3月31日，共有346款生成式AI服务完成国家网信办备案。截至2025年6月30日，备案数量增至439款，新增93款；另有233款调用已备案模型的应用完成地方登记，新增74款。

备案制度的监管意义不可忽视。

这表明了相关部门对于AI技术发展的重视，并且正在积极建立一套完整的管理体系来促进AI行业的健康发展。

此外，对于那些希望通过API接口或其他方式直接调用已备案大模型能力的应用或功能，则采用登记管理的方式允许上线提供服务。

这意味着即使是使用已经备案的大模型，也需要进行一定的登记程序以确保合规性。

依据《生成式人工智能服务管理暂行办法》，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，可通过属地网信部门履行备案或登记程序。

已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案或登记生成式人工智能服务情况，注明模型名称、备案号或上线编号。

随着人工智能技术的快速发展，AI技术滥用风险日益凸显。网信办于2025年4月启动“清朗·整治AI技术滥用”专项行动。

第一阶段为强化AI技术源头治理，清理整治违规AI应用程序，重点整治问题有：

清理未备案的违规AI服务，提供如“一键脱衣”等违背法律伦理的功能、违规生物特征克隆。

第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，重点整治问题有：

打击AI生成谣言、色情内容、深度伪造行为如伪造灾害图片、篡改公共事件。

接下来，2025年9月1日起将实施《人工智能生成合成内容标识办法》，强制标注AI内容来源。

《标识办法》要求，用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识；提供网络信息内容传播服务的服务提供者应当采取措施，规范生成合成内容传播活动，如核验文件元数据、添加显著提示标识并提醒公众、提供必要的标识功能并提醒用户主动声明发布内容中是否包含生成合成内容等。

随着该办法的强制施行，AI生成内容的可追溯性与透明度将进一步提升。

编辑：cc