近期中央网信办启动“清朗·整治AI应用乱象”专项行动第二阶段工作聚焦利用AI制作传播虚假信息、发布暴力低俗内容、假冒仿冒他人、侵害未成年人合法权益等突出乱象部署全国网信系统深化重点领域整治工作。各地网信部门持续督促网站平台集中清理AI生成的各类违法不良信息依法依规查处违规网络账号及移动应用程序有效遏制AI生成合成信息乱象稳步推动AI应用行业规范、健康、有序发展。截至目前本次专项行动已累计清理违法违规信息561万余条查处违规账号4.9万余个处置违规网站、应用程序共计2400余个整治工作取得阶段性显著成效。专项行动开展以来各地网信部门严格落实属地监管责任结合本地网络生态实际出台多项精准有效的针对性治理举措扎实推进整治工作落地见效。北京网信办指导辖区网站平台全面升级内容审核策略持续提升对违规内容新型变体的识别与处置能力筑牢内容安全防线。上海网信办督促各平台深入开展自查自纠加大违法违规信息排查力度和违规账号处置力度同时推出AI应用“知识普及包”面向社会公众普及风险知识引导大众精准识别AI应用各类风险隐患。浙江网信办针对属地重点网络平台开展“一企一策”精准合规指导督促平台完善内部管控体系从严查处一批问题突出的AI应用软件。广东网信办定期召开重点网站平台工作例会针对多款违规AI应用存在的问题开展点对点督促整改压实平台主体责任保障专项整治工作落地见效。各大网站平台积极响应专项行动部署要求主动履行主体责任持续健全AI内容常态化、长效化治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等主流网络平台强化技术赋能持续优化多模态内容识别模型动态更新扩充人脸库、声纹库及违规样本库上线人脸实时治理系统等专项功能大幅提升违规内容智能检测、精准拦截处置效能。同时各平台加大违规账号、不良信息处置力度畅通网民线索举报渠道累计发布各类AI生态治理公告46期。豆包、元宝、千问、文心一言等AI产品平台严把原始语料审核关口严格管控违规内容生成输出严格落实AI生成合成内容标识规范从源头防范违法违规信息的生成与传播。华为、小米、OPPO、vivo等应用商店进一步完善管理规则制定严格的开发者准入标准和APP上架审核规范常态化对已上架APP开展抽检复测有效拦截各类违规AI应用入库上架。专项行动期间网信系统从严查处一批违法违规网络账号及AI应用产品。为强化警示教育、压实各方责任、规范行业生态现将本次专项行动查处的典型案例通报如下一、利用AI“魔改”经典作品炮制低俗劣质内容微博账号“天**小”、抖音账号“歪**国”、快手账号“小*菌”、微信账号“咸*i”等网络账号违规利用AI技术篡改、“魔改”《三国演义》《西游记》等经典文学名著肆意颠覆经典人物人设虚构低俗猎奇剧情博取网络流量严重消解经典文化价值。目前相关账号已被依法依约处置。二、借助AI技术制作传播虚假不实信息快手账号“云**视”、小红书账号“有*头”、抖音账号“7**员”、微信账号“长**帆”等账号利用AI合成技术伪造灾害现场、救援场景等画面编造不实社会热点信息、传播封建迷信内容通过打造AI数字人开展虚假带货宣传误导老年群体、引发公众恐慌。目前相关账号已被依法依约处置。三、运用AI技术假冒仿冒他人形象牟利抖音账号“特**力”、快手账号“石*”、小红书账号“潮**件”、微信账号“M**勒”等账号滥用AI“换脸”“换声”技术假冒仿冒公众人物形象合成制作低俗舞蹈、亲密互动等图片视频借此引流营销、违规牟利涉嫌侵权及违规传播不良内容。目前相关账号已被依法依约处置。四、批量制作发布暴力低俗不良信息哔哩哔哩账号“带**着”、抖音账号“波**C”、快手账号“虾**诡”、微信账号“星**7”等账号批量发布AI生成的恐怖诡异、暴力低俗等不良画面内容严重污染网络生态。目前相关账号已被依法依约处置。五、依托AI技术侵害未成年人合法权益小红书账号“小**娃”、微信账号“豆*a”、抖音账号“半**历”、快手账号“若**雪”等账号利用AI生成合成未成年人怀孕、聚众打架等违背未成年人身心发展特点的不良内容批量制作、传播不良“毒动画”、儿童虐向、邪典类视频恶搞、抹黑未成年人形象严重危害未成年人身心健康。目前相关账号已被依法依约处置。六、利用AI托管工具开展网络水军活动微信账号“涛**客”、微博账号“A**师”、抖音账号“风*”等账号为AI账号托管软件引流推广借助工具模拟真人运营账号、发布评论互动批量产出低质、同质化网络文案扰乱正常网络传播秩序。目前相关账号已被依法依约处置。七、多款AI产品及应用程序存在严重违规问题“N**t”“穿**元”“甜*圈”“芋**o”等多款网站平台及AI应用产品其智能体封面、简介及对话生成内容中存在淫秽色情及危害未成年人身心健康的不良信息严重破坏清朗网络生态。监管部门对拒不整改的相关主体依法采取警告、罚款、下架、关停等处置措施。下一步各级网信部门将全面总结本次专项行动治理成效精准把握人工智能行业发展规律与趋势持续紧盯AI生成合成内容领域的新型风险、突出问题及时出台针对性监管举措严防AI技术滥用、恶用乱象反弹持续规范AI应用行业发展秩序为人工智能健康创新发展营造风清气正的网络环境。文章来源 中国网信网文章内容如有侵权请联系作者