9月8日，@抖音集团李亮 发文：今年一季度我们发现平台出现大量利用AI仿冒“于东来”语音、形象致富配资，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。封禁这1000多个黑灰产团伙账号的同时，我们还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款15万元。AI带来技术进步的同时也被很多黑灰产盯上，针对这些滥用AI的行为抖音一直在重点治理。对于相关违法违规内容，欢迎大家共同监督。
图源：CFP
随后，抖音黑板报转发响应：如果发现违规账号和内容，可以通过以下方式举报，我们会第一时间核实处理。1、点击视频转发按钮，在“举报”中选择“AI生成内容问题”进行举报；2、发送详情至举报邮箱：feedback@douyin.com。
此前，有商家用AI仿冒运动员及其家人带货、利用AI虚假宣传，抖音采取下架、清退措施。
9月2日，抖音电商安全与信任中心发布了关于加强治理AI内容滥用的公告。公告称，平台已对违规视频和账号采取下架、清退等措施，并强调AI应用必须合规，任何误用、滥用行为将被严厉打击。
抖音电商近期发现，少数商家和达人存在滥用或误用AI技术的情况，甚至借助AI生成误导内容，损害消费者合法经济权益，扰乱平台正常交易秩序。
具体表现如下：
●少数商家利用AI技术生成虚假商品展示、夸大不实的功能宣传内容致富配资，误导消费者购买，造成用户财产损失。
●利用AI生成虚拟人物冒充真实身份，冠以权威专家、名人的虚假人设进行带货，损害消费者信任，违规变现。
●在商品详情页、直播间使用AI生成的虚构测评、编造使用体验，刻意制造虚假口碑，影响消费者理性判断。
以下将通过典型AI内容滥用案例，帮助各位商家及达人理解平台的电商 AI 内容治理规则：
典型违规案例一：
AI仿冒名人带货
少数视频创作者利用AI仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。例如，有账号合成某知名运动员父亲、哥哥的声音，并使用相同文案称“家里要盖新房”，借此博取流量。在这些AI合成视频中，往往挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接，误导消费者下单。目前站内已及时处置相关视频，也呼吁广大创作者尊重名人肖像权，共同维护平台的营商环境。
合规解析：创作者不得利用AI生成虚拟人物或仿冒社会名人、特定专业身份（如军警等），进行带货变现，或通过卖惨方式违规营销。
典型违规案例二：
生成违背常识的AI内容致富配资
创作者利用AI创作不符合现实或不存在的商品内容，甚至夸大商品大小、量产等，涉嫌虚假宣传。如，少数创作者在直播间利用AI展示樟树港辣椒丰收的场景，辣椒的数量、分布和植株生长规律完全不符合现实农业，并在口播中夸大种苗的量产，误导消费者下单。
合规解析：创作者不得利用AI生成违背常识、虚构编造等内容，如与农业现实完全违背的内容等。
典型违规案例三：
AI内容与售卖商品完全无关
少数视频创作者利用AI制作与售卖商品完全无关的内容，从而吸引消费者关注。如，创作者实际售卖产品为硫磺润肤露，但利用AI更改各地方新闻报道画面作为素材吸引用户关注后，讲解推销相关商品。
合规解析：创作者不得使用与商品无关的虚假或误导性素材，如篡改新闻报道为虚假商品测评等来吸引关注。
典型违规案例四：
缺少AI自主声明
少数视频创作者未主动添加AI视频声明。
合规解析：用户发布 AI 生成的内容时，需自主声明，不做自主声明，平台会根据规则进行识别和治理。
此前据界面新闻报道，《人工智能生成合成内容标识办法》9月1日正式生效。
微博：对识别到的AI生成内容添加隐式标识及显式标识
微博发布公告称，站方依据《办法》要求，通过升级产品功能及技术识别手段，对平台内识别到的的AI生成内容依规添加隐式标识及显式标识。
微博还在公告中表示，如用户发表的文本、图片、音视频等内容由人工智能生成合成，用户应在“选择内容声明”功能栏中选择“内容由AI生成”。站方在用户自主声明的基础上，还在投诉侧增加 “未添加AI标识”投诉分类，如发现平台用户发布的微博内容包含AI 生成内容但未进行AI 内容标记声明，可以选择此分类进行投诉。
快手：已上线AI内容标识
快手发布公告称，平合已上线AI内容标识，会在AI生成的内容中添加“AI生成”显式标识以及嵌入文件元数据中的隐式标识。如果用户上传的内容明确由AI生成或疑似由AI生成，平台会在内容周边进行显著提示。
抖音：升级AI内容标识功能
抖音发布《关于升级AI内容标识功能的公告》，进一步规范平台上的AI内容创作与传播。《公告》显示，抖音已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。
来源：九派新闻综合自抖音黑板报、抖音电商安全与信任中心、界面新闻致富配资
途乐证券提示：文章来自网络，不代表本站观点。
