近期
平台发现部分用户
利用AI技术升级违规手段
侵害未成年人合法权益
具体表现为
AI生成未成年人低俗擦边形象“养号涨粉”；AI生成虚假的未成年人“卖惨”内容，博取同情不当牟利；AI恶意魔改经典动画、动漫和文学形象，炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”内容，危害未成年人身心健康。
平台已下架相关违规内容
近一个月
对610个相关违规账号全面禁言
典型案例
1、AI生成未成年人低俗擦边内容，39个账号被全面禁言
“雪*象”“群**”等账号多次发布由AI生成的、穿着暴露且刻意突出敏感部位的幼态化形象，营造低俗擦边观感，借此“养号涨粉”。平台立即下架相关违规内容，账号因恶意违规已被无限期禁言。
2、AI生成未成年人卖惨内容，180个账号被全面禁言
“1*2”“7*9”等账号批量发布利用AI生成的“早产婴儿住院”“寒冬中未成年人背负柴火哭泣”等内容，刻意营造未成年人悲惨处境，并通过文案、话题标签等诱导用户评论区互动，以此吸粉引流。平台已下架相关内容，并对账号处以清理违规粉丝、限制商业变现、禁言处罚。
3、AI炮制暴力“邪典动画”，391个账号被全面禁言
“2*8”“1*g”等账号打着“儿童动画”标签，用动画人物形象制作AI视频，演绎残害肢体等血腥暴力、低俗恐怖画面，危害未成年人身心健康。平台已下架相关违规内容，并对账号处以禁言处罚。
保护未成年人健康成长任重而道远
需要家庭、学校、行业等
社会各界广泛参与、协同努力
转扩提醒 警民携手
共同筑牢未成年人网络安全防线
来源 | 抖音黑板报返回搜狐，查看更多