“网信上海”微信公众号于11月24日发布消息称，生成式人工智能技术蓬勃兴起，为各行各业赋予能量，给社会生产生活带来极大便利。然而，违规滥用的问题也日益凸显，诸如AI换脸、AI变声、AI伪造等侵权以及破坏网络生态的现象屡见不鲜，给新技术新应用的安全带来了诸多风险挑战。

上海市网信办在执法办案过程中察觉到，部分企业在开发使用生成式人工智能功能时，未依照法律规定开展安全评估工作，未采取必要的安全防护举措来防范违规信息生成，也未实施限制措施以防止被滥用。这致使相关功能被用于“换脸变声”“变装造假”等侵犯他人个人信息权益的行为，产出“开盒”“洗钱”等违法违规内容，以及生成色情低俗图片等信息内容。“亮剑浦江·2025”专项执法行动将“整治AI滥用”列为年度治理重点，旨在通过执法推动合规，护航新兴产业高质量发展。

专项行动期间，兼顾执法力度与温情，多管齐下引导生成式人工智能领域的企业合规运营。其一，加强日常管理。指导属地应用商店下架违规应用生成式人工智能技术的APP共计54款。依据《人工智能生成合成内容标识办法》，指导专家团队拟定“实务解析”，为企业答疑解惑。其二，强化处置处罚。对前期要求下线功能的26家生成式人工智能服务网站，进行“回头看”巡查，防止问题反弹。对3家拒不整改的生成式人工智能服务网站，首次适用《生成式人工智能服务管理暂行办法》予以立案处罚。其三，首违企业免罚。督促5家首次被发现存在未按国家规定开展安全评估工作或违规提供“论文代写”功能等违法违规问题的网站下线相关功能，并就生成式人工智能服务备案工作给予指导。

通过专项行动，生成式人工智能领域的法治观念持续强化，企业合规经营意识显著增强，“AI滥用”问题有所改善。下一步，上海市网信办将巩固专项行动成果，持续重点打击和纠正“AI滥用”“算法推荐”等存在侵犯个人信息权益、危害网络生态的违法违规行为，推动新技术新应用在法治轨道上健康有序发展。

（文章来源：界面新闻）

原标题：上海市网信办开展“AI滥用”专项执法工作

郑重声明：信查查发布此内容旨在传播更多信息，与本站立场无关，不构成投资建议。据此操作，风险自担。