中评社北京12月5日电／据新华网报导，记者今天从北京市消费者协会获悉，为应对AI合成技术滥用风险，规范电商直播行业秩序，北京消协联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台签订全国首份《促进AI技术规范应用承诺书》，建立企业自律规范，划定AI技术应用“合规红线”。
近年来，AI数字人直播、虚拟场景带货等新技术应用普及，在提升消费体验同时，部分商家的违规操作也引发消费者担忧。北京消协历时3个月专项调查，锁定当前AI合成技术应用中存在的突出问题：
消费者知情权保障不足，“真假难辨”困扰普遍存在。据3162份有效回收问卷调查数据显示，近九成的受访者呼吁“AI生成内容需显着标识”，超七成接受虚拟背景但强调需有显着提示；超六成认为AI数字人“缺乏真情实感”，近三成担忧其“可能误导消费决策”。
合成技术滥用滋生消费风险，“虚假营销”问题凸显。针对电商平台的AI数字人、AI场景直播带货行为，北京消协对10个AI数字人直播带货样本开展体验调查发现：5个样本在直播界面标注“AI生成”“拟真场景”等提示信息，5个样本未对体验人员的问题进行及时回应或互动；6个样本存在未提示私下交易风险等问题。
此外，平台审核机制也存在短板，风险防控能力有待提升。调研发现，当前部分电商平台尚未建立健全AI内容审核专项制度，对商家使用AI数字人、虚拟场景等技术缺乏有效管理规则和精准识别技术。
针对上述问题，承诺书以“标识透明、审核严格、责任可溯”为核心，提出坚守法律底线，明确合规边界；强化标识要求，保障知情权利等具体举措。要求商家和内容创作者在利用AI技术生成合成数字人主播、虚拟场景时，在显着位置清晰标注“AI生成”或“拟真场景”等提示内容；鼓励使用平台提供的统一AI内容标识功能主动声明，严禁利用AI合成换脸技术仿冒名人明星带货。
同时，将技术监测与人工复核结合，阻断违规传播。在内容审核与传播环节对直播内容、直播场景进行监测，一旦发现没有标识的疑似AI数字人或AI虚拟场景问题，将及时采取适当方式在发布内容周边添加显着的提示标识。经平台研判，确系存在违规行为的，将进一步采取屏蔽链接等措施。
8家平台也承诺，坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为，对违规账号及内容依法依规严肃处理，维护AI制度的严肃性。 |
