平台处置超两万条魔改动画内容！南都曾起底AI魔性侵权乱象

7月11日，平台南都N视频记者从“抖音黑板报”获悉，处置超两针对近期频发的魔改I魔“魔改”经典儿童动画乱象，平台已开展专项清理行动，动画底累计处置违规内容2.34万条，内容南都封禁违规账号1300个。曾起南都N视频持续推出《AI魔性侵权乱象系列调查》，性侵象深入揭露声音克隆、权乱虚拟伴侣等领域的平台监管盲区。调查显示，处置超两在部分AI创作平台上，魔改I魔用户仅需上传3秒原声即可克隆音色，动画底并随意篡改台词，内容南都引发版权与伦理双重危机。曾起

南都此前报道。性侵象

据抖音平台公告，近期部分账号打着“儿童动画”或“早教启蒙”的幌子，利用AI技术恶意篡改经典动画IP，传播低俗、暴力等有害信息，严重危害未成年人身心健康；另有账号借此诱导互动、吸粉引流，进行不当牟利。对此，平台采取“零容忍”态度，第一时间下架违规内容、处置相关账号，并持续升级技术打击力度。

典型案例一：AI魔改诱导未成年人，账号遭禁言
账号“9*5”以儿童动画为掩护，利用AI技术恶意篡改经典作品，刻意植入暴力、悲惨情节，并使用低龄化、幼态暗示的话术诱导未成年人点赞、关注，以此“养号”涨粉。平台识别该违规行为后，立即下架相关视频，并对账号实施禁言处罚。

典型案例二：篡改情节传播低俗暴力，账号被禁言
账号“8*7”发布多条魔改经典动画视频，内容包含“把孩子从高空丢下”等极端暴力情节，以及“男生怀孕”等低俗擦边内容，对未成年人价值观造成严重误导。平台识别后，迅速下架违规内容，并对该账号予以禁言处置。

南都N视频持续推出《AI魔性侵权乱象系列调查》，旨在起底滥用AI生成技术背后的完整侵权产业链。

4月上旬实测：3秒克隆音色，侵权成本低廉
南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟内即可完成音色克隆并任意修改台词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，已被非法上传至音色库公开素材中，使用人数过万。此外，二手交易平台上AI声音克隆服务价格低廉，每50字收费不足1元。尽管大量商家宣称AI克隆音色相似度超98%，但面对侵权质疑时，部分商家直言“问就是有侵权”，暴露出明显的法律意识淡薄。

4月7日：配音演员季冠霖发声，呼吁建立快速下架机制
知名配音演员季冠霖通过南都发出倡议，呼吁各大平台建立侵权内容快速识别和下架机制，强调“技术应为文明赋能，而非成为侵权的温床”。

4月16日：监管介入，平台功能受限
调查报道引发多地监管部门高度重视，将“AI技术滥用”列为重点整治领域。4月16日，南都记者再次进入ViiTor AI平台发现，其“音色克隆”功能已做出调整：无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；同时，公共素材库中已无法搜索到“哪吒”等相关音色，显示出平台在监管压力下的整改动作。

采写：南都N视频记者 彭雨欣

(责任编辑：热点)