聚焦造假、谣言、低俗等问题，中央网信办整治AI技术滥用

网信中国传来消息，旨在规范人工智能服务与运用，推动行业健康发展，并维护公民合法权益，中央网信办近期发布了一则通知，决定在全国范围内组织实施一个为期三个月的“清朗·整治AI技术滥用”专项活动。据悉，该活动将分为两个阶段进行。

值得注意的是，自今年起，中央网信办不断推进“清朗”行动，在此次行动中，着重实施的8项整治任务中，便涵盖了整治AI技术滥用等乱象，以及打击利用AI技术制造并散布虚假信息的行为。

强化AI技术源头治理

重点整治6类突出问题

在第一阶段，我们着重加强人工智能技术的根本性治理，对违规的AI应用进行清理和整顿，同时增强AI生成合成技术以及内容标识的管理，促使网站平台提高对虚假信息的识别和鉴定能力。针对以下6个方面的突出问题，我们将进行重点整治：

首先，涉及违规的AI产品；其次，这类产品运用生成式人工智能技术向公众提供内容服务，却未按照规定完成大模型备案或登记；再者，它们提供诸如“一键脱衣”等违反法律和伦理的功能；此外，在未获得授权和同意的情况下，克隆、编辑他人的声音、人脸等生物特征信息，严重侵犯了个人隐私。

二是涉及传播与销售违法人工智能产品相关教程及商品，具体包括：提供制作假脸视频、变声音频等违法AI应用的操作指南。出售“语音合成器”、“换脸软件”等违法AI产品。对违法AI产品进行营销、炒作和推广。

第三点在于对训练语料的管理不够严格。这类问题包括：采用侵犯他人知识产权、隐私权等合法权益的信息；运用网络爬取的虚假、无效或不真实的内容；以及使用非法途径获取的数据。此外，尚未建立起相应的训练语料管理机制，也缺乏定期对违规语料进行排查和清理的措施。

四是安全管理存在缺陷。缺乏与业务范围相匹配的内容审查和意图辨识等安全防护措施。尚未构建起一套有效的违规账号管理体系。安全自查工作并未形成常态化。社交平台对于通过API接口接入的AI自动回复等服务，底数模糊，监管不严。

第五点，内容标识要求尚未得到有效执行。服务提供方未能对深度合成内容实施隐式或显式的内容标识，也未向用户开放或提示相关显式内容标识的功能。同时，内容传播平台也未对生成的合成内容进行监测和甄别，这导致了虚假信息的传播，误导了广大公众。

六、针对关键领域的安全风险问题，已登记备案的人工智能产品在提供医疗、金融、未成年人等领域的问答服务时，若未针对行业特性设置相应的安全审核与管控措施，便可能引发诸如“AI擅自开处方”、“诱导不当投资”以及“AI产生幻觉”等问题，从而误导学生和患者，并可能扰乱金融市场的正常秩序。

聚焦利用AI技术滥用

整治谣言、低俗等7类问题

第二阶段主要针对利用人工智能技术制造和传播谣言、虚假信息、低俗色情内容，冒用他人身份、从事网络水军行为等重大问题，对相关违法违规不良信息进行集中整治，并对违规账号、MCN机构以及网站平台进行处置和处罚。重点解决以下七类突出问题：

首先，借助人工智能技术散布虚假信息。这类谣言涉及时事政治、公共政策、社会民生、国际关系、突发事件等多个领域，无中生有，凭空捏造。同时，对重大方针政策进行擅自猜测和恶意解读。其次，通过突发案件、灾难事故等事件，虚构原因、进展和细节。冒充官方新闻发布会或新闻报道，发布虚假信息。再者，利用AI认知偏差生成的内容进行恶意引导。

二是通过人工智能技术散布虚假信息。将无关的图片、文字、视频进行拼接和剪辑，制造出真假难辨、半真半假的资讯。对事件的时间、地点、人物等关键要素进行模糊处理，重新炒热旧闻。在财经、教育、司法、医疗卫生等专业知识领域，制作并传播夸大其词、伪科学性质的不实内容。利用AI算命、AI占卜等手段误导和欺骗网民，传播迷信观念。

第三种情况是借助人工智能技术制作并传播低俗色情内容。通过AI脱衣、AI绘图等手段，制造出包含不雅图片、视频的合成色情作品，或是衣着暴露、姿态挑逗的软色情、二次元边缘形象，以及丑化人物的不良内容。此外，还有制作并散布血腥暴力的场景，如人体扭曲变形、超现实怪物等令人恐惧的诡异画面。同时，AI还可能生成带有明显性暗示意味的“小黄文”“荤段子”等小说、帖子、笔记。

第四种情况是借助人工智能手段冒充他人进行侵权和不法行为。运用AI换脸、声音复制等高级伪造技术，假扮成知名专家、企业家、明星等公众形象，误导网络用户，甚至借此进行商业诈骗。借助AI对公众人物或历史形象进行恶搞、诽谤、扭曲、变形。利用AI假扮亲友进行网络诈骗等非法活动。不当使用AI“复活”已故人士，滥用逝者个人信息。