引言
“技术是把双刃剑。”当人工智能（AI）技术迅猛发展时，这一句老生常谈再次得到了验证。随着生成式AI、深度伪造（Deepfake）等技术的普及，滥用AI生成违规内容的现象屡见不鲜。近期，上海市委网信办开展的“清朗・整治AI技术滥用”专项行动，正是针对这一问题的一次重拳出击。这一行动不仅聚焦于“一键脱衣”、未经授权的人脸或人声克隆编辑等AI滥用现象，还旨在通过多平台协作，共同净化网络生态。
此次专项行动涉及小红书、哔哩哔哩（B站）、拼多多等15家重点网站平台，在为期两个多月的时间里，取得了显著成效。本文将深入探讨此次专项行动的背景、具体措施、成效以及未来展望。
AI滥用问题频发，监管迫在眉睫
深度伪造技术的滥用
近年来，随着AI技术的飞速发展，深度伪造技术逐渐走入大众视野。通过这一技术，用户可以轻松生成高度逼真的虚假图片、视频和音频。然而，这一技术的滥用也引发了诸多社会问题。例如，“一键脱衣”应用通过AI技术移除照片中人物的衣物，严重侵犯了个人隐私和肖像权。此外，未经授权的人脸或人声克隆编辑，也给社会带来了潜在的安全隐患。
监管的必要性
面对AI技术滥用带来的种种问题，监管机构的介入显得尤为必要。上海市委网信办此次开展的“清朗・整治AI技术滥用”专项行动，正是为了应对这些挑战，通过集中清理违规AI产品及信息，保护公民的合法权益，维护网络空间的清朗。
专项行动的具体措施
聚焦六类突出问题
此次专项行动主要聚焦以下六类突出问题：
- “一键脱衣”应用：清理通过AI技术生成虚假裸体图片的应用及相关信息。
- 未经授权的人脸或人声克隆编辑：打击未经授权使用他人肖像或声音进行编辑的行为。
- 未备案AI产品及应用：要求所有AI产品及应用必须进行备案，未备案者一律下线处理。
- 违规营销及炒作：清理利用AI技术进行违规营销和炒作的信息。
- 违规教程信息：打击发布如何滥用AI技术的教程信息。
- 智能体违规：清理违规智能体及相关信息。
多平台协作，集中清理
上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，共同参与此次专项行动。各平台通过发布专项行动治理公告，开通有害AI内容的举报受理处置渠道，全面排查清理违规信息。
例如，小红书和哔哩哔哩主动发布了专项行动治理公告，明确表示将严厉打击违规AI产品及信息。拼多多则通过技术手段，全面排查平台上的商品及营销信息，确保合规。
成效显著，网络生态显著改善
截至目前，各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经过整治，网络违规AI信息显著减少，网络生态得到了有效净化。
案例分析：小红书、B站、拼多多的具体行动
小红书
小红书作为国内知名的生活方式分享平台，此次专项行动中，小红书通过技术手段和人工审核相结合的方式，全面排查平台上的违规AI产品及信息。小红书还开通了有害AI内容的举报受理处置渠道，鼓励用户积极参与监督，共同维护平台的清朗环境。
哔哩哔哩（B站）
B站作为国内领先的年轻人文化社区，此次专项行动中，B站通过发布专项治理公告，明确表示将严厉打击“一键脱衣”、未经授权的人脸或人声克隆编辑等违规行为。B站还加强了内容审核机制，通过引入先进的技术手段，提高审核效率和准确性。
拼多多
拼多多作为国内知名的电商平台，此次专项行动中，拼多多通过全面排查平台上的商品及营销信息，确保所有AI产品及应用均已备案。拼多多还加强了对商
Views: 0