中央网信办开展专项整治行动，剑指AI技术滥用为期3个月

4月30日，据“网信中国”公众号报道，近期，中央网信办发布了一则通知，决定在全国范围内启动一项为期三个月的“清朗·整治AI技术滥用”专项行动。该办相关负责人透露，此次行动将分为两个阶段进行。在第一阶段，我们着重加强AI技术的根本性管理，对违反规定的AI应用进行清理和整顿，并增强AI在生成合成技术及内容标识方面的监管，同时促进网站平台提高对虚假信息的识别和鉴定能力。进入第二阶段，我们将注意力转向利用AI技术制造和散布谣言、虚假信息、低俗色情内容，以及冒充他人身份和网络水军行为等关键问题，对这些违法行为和不良信息进行集中清除，并对违规账号、MCN机构及网站平台进行相应的处理和处罚。

重点整治违规AI产品、未落实内容标识要求等6类问题

据调查，第一阶段集中解决六个主要问题：首先，针对违规的AI产品，这些产品运用生成式人工智能技术向公众提供内容服务，却未完成大模型备案或登记手续。它们提供诸如“一键脱衣”等违反法律和伦理的功能。此外，未经授权或同意，这些产品克隆、编辑他人的声音、人脸等生物特征信息，从而侵犯了个人隐私。

二是涉及传播和销售违法人工智能产品教程及商品，包括提供制作假换脸视频、假声音频等违法AI产品教程信息，以及销售“语音合成器”“换脸工具”等违法AI产品信息，同时进行违法AI产品的营销、炒作和推广。

第三点在于，训练过程中语料管理存在疏漏。信息涉及侵犯他人知识产权、隐私权等合法权益。滥用网络爬虫获取的虚假、无效或不真实内容。非法获取的数据也被使用。缺乏一套完善的训练语料管理机制，且未定期对违规语料进行排查和清理。

四是安全管理存在缺陷。缺乏与业务范围相匹配的内容审查和意图辨识等安全防护措施。尚未构建起健全的违规账号管理体系。安全自查工作并未形成常规。社交平台对于通过API接口接入的AI自动回复等服务，底数不明确，监管不严格。

第五点，内容标识要求尚未得到执行。服务提供方未能对深度合成内容添加隐式的或显式的标识信息，亦未向用户供给或提示显式内容标识的相关功能。同时，内容传播平台也未进行生成合成内容的监测和甄别工作，这导致了虚假信息的广泛传播，进而误导了公众。

六、需关注的关键领域安全隐患。对于已在备案的AI产品，若其提供医疗、金融、未成年人等关键领域的问答服务，却未针对这些行业领域设置相应的安全审核与控制措施，便可能引发诸如“AI开出错误处方”、“诱导不当投资”、“AI产生虚假幻觉”等问题，进而误导学生和患者，甚至扰乱金融市场的正常秩序。

针对AI生成并散布虚假信息、AI生成并传播色情低俗内容等七大类问题，将进行集中整治。

第二阶段着重解决七个关键问题：首先，针对利用人工智能技术制造并散布虚假信息的行为，包括凭空杜撰与时事政治、公共政策、社会民生、国际关系、突发事件相关的各类谣言，以及擅自猜测、恶意解读重要政策方针。其次，借助突发事件、灾难事故等，虚构原因、进展和细节。再者，假冒官方新闻发布会或新闻报道的形式，发布虚假信息。利用AI认知偏差生成的内容进行恶意引导。

其次，通过人工智能技术制造并散布虚假信息。将无关的图片、文字、视频拼接剪辑，制造出真假难辨、半真半假的消息。对事件的时间、地点、人物等关键要素进行模糊处理，重新炒热旧闻。制作并发布涉及财经、教育、司法、医疗卫生等领域的夸大其词、伪科学等不实内容。利用AI算命、AI占卜等手段误导和欺骗网民，传播迷信观念。

第三种情况是借助人工智能技术制作并传播低俗色情内容。通过AI脱衣、AI绘图等手段，制造出合成色情素材、他人不雅照片或视频，包含衣着暴露、姿态挑逗等软色情元素，以及二次元边缘形象，甚至丑化形象等不良导向内容。此外，还有制作并散布血腥暴力的场景，展示人体扭曲变形、超现实怪物等令人恐惧的诡异画面。同时，生成包含明显性暗示意味的“小黄文”“荤段子”等小说、帖子、笔记。

第四，AI被用于假扮他人从事侵权和违法行为。借助AI换脸、声音模仿等高级伪造技术，冒充知名专家、企业家、明星等公众形象，误导网络用户，甚至借此进行商业诈骗。通过AI对公众人物或历史人物进行恶搞、诋毁、篡改、扭曲。此外，AI还被用于伪装成亲友，从事网络诈骗等非法勾当。不当运用AI“复活”已故之人，滥用逝者个人信息。