引言：
随着人工智能技术的迅猛发展，AI滥用问题日益突出。近日，上海市委网信办开展“清朗・整治AI技术滥用”专项行动，重点整治包括“一键脱衣”和未经授权的人脸或人声克隆编辑在内的违规AI产品及信息。这一行动取得了显著成效，彰显了政府在AI技术监管方面的决心和力度。
专项行动背景及目标
自4月下旬起，上海市委网信办根据中央网信办的部署，启动了“清朗・整治AI技术滥用”专项行动。此次行动聚焦6类突出问题，旨在通过集中整治违规AI产品及信息，净化网络生态，维护公众合法权益。
重点整治内容及成效
此次专项行动主要针对以下几类问题：
1. “一键脱衣”：利用AI技术进行不雅图像处理。
2. 未经授权的人脸或人声克隆编辑：侵犯个人肖像权和隐私权。
3. 未备案的AI产品及商品：逃避监管，存在安全隐患。
4. 相关营销、炒作、推广、教程信息：传播违规信息，误导公众。
在此次行动中，上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，共同参与清理工作。小红书和哔哩哔哩主动发布了专项行动治理公告，并开通了有害AI内容的举报受理处置渠道。星野公司则进行了智能体的全面排查清理。
截至目前，各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经过整治，网络违规AI信息显著减少，网络生态得到有效净化。
强化合规指导与安全评估
在整治行动的同时，上海市委网信办还深化了大模型合规指导服务中心的作用，指导各类提供生成式人工智能服务的主体落实合规义务，强化安全评估。截至目前，已完成82款大模型的备案和87款应用的登记工作。
对于3款未履行备案或登记程序且存在风险的应用，上海市委网信办依法约谈并给予行政处罚，确保AI技术应用的合法合规。
案例与数据支持
此次专项行动的成效显著，具体数据如下：
– 拦截清理违法违规信息：82万余条
– 处置违规账号：1400余个
– 下线违规智能体：2700余个
这些数据充分表明了专项行动的力度和效果，也为未来AI技术的监管提供了宝贵经验。
结论与展望
上海市委网信办的“清朗・整治AI技术滥用”专项行动，不仅有效净化了网络生态，还为其他地区和部门提供了可借鉴的经验和模式。未来，随着AI技术的不断发展，政府监管部门需继续加强合规指导和安全评估，确保AI技术在合法合规的轨道上健康发展。
同时，公众也应提高对AI滥用问题的认识，共同参与到网络生态的维护中来。只有政府、企业和公众共同努力，才能营造一个清朗、安全的网络环境，让AI技术真正造福于民。
参考文献
- 上海市委网信办. (2025). “清朗・整治AI技术滥用”专项行动阶段性工作成果. 网信上海微信公号.
- IT之家. (2025). 上海市委网信办指导小红书、B站、拼多多等平台清理违规AI产品及信息.
通过此次专项行动，上海市委网信办展示了其在AI技术监管方面的坚定立场和有效措施。未来，随着技术的不断进步和社会的共同努力，我们有理由相信，AI技术将能够更好地服务于社会，造福于人类。
Views: 0