直播间违规使用AI将被屏蔽
本报讯（记者 张楠）10个AI数字人带货直播间，其中一半未在直播界面标注“AI生成”“拟真场景”等提示信息，令消费者真假难辨。为应对AI合成技术滥用风险，市消协近日联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台，签订全国首份《促进AI技术规范应用承诺书》，为AI技术应用划定“合规红线”。承诺书提出，一旦发现没有标识的疑似AI数字人或AI虚拟场景问题，经平台研判确系存在违规行为的，将采取屏蔽链接等措施。
市消协历时3个月开展专项调查，锁定当前AI合成技术对消费者权益的侵害要点。消费者“真假难辨”困扰普遍存在，近三成消费者担忧AI生成内容“可能误导消费决策”。合成技术滥用滋生消费风险，“虚假营销”问题凸显。部分电商平台尚未建立健全AI内容审核专项制度，对商家使用AI数字人、虚拟场景等技术缺乏有效管理和精准识别。
《促进AI技术规范应用承诺书》要求，商家和内容创作者在利用AI技术生成合成数字人主播、虚拟场景时，要在显著位置清晰标注“AI生成”或“拟真场景”等提示内容；鼓励使用平台提供的统一AI内容标识功能主动声明，严禁利用AI合成换脸技术仿冒名人明星带货。
在内容审核与传播环节，采取措施对商家或内容创作者的直播内容、直播场景进行监测，一旦发现没有标识的疑似AI数字人或AI虚拟场景问题，将及时采取适当方式在发布内容周边添加显著的提示标识，经平台研判，确系存在违规行为的，将进一步采取屏蔽链接等措施。坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为，对违规账号及内容依法依规严肃处理。
市消协相关负责人表示，签订《承诺书》仅是规范AI技术应用的第一步。下一步，市消协将组织志愿者体验直播间购物、追踪反馈实际感受，督促企业严格落实承诺内容，构建“技术合规、平台履责、消费安心”的网络消费环境。