中央网信办重磅出手！整治AI技术滥用现象

为维护AI服务的规范性和行业发展的良好秩序，以及保护公众的合法权益，近期，国家互联网信息办公室发布了相关通知，决定在全国范围内启动一项为期三个月的“清朗行动——AI技术滥用整治”专项活动。

中央网信办相关负责人透露，此次专项活动分为两个阶段进行。首先，在第一阶段，将着重于AI技术的根本治理，对违规的AI应用进行清理和整治；同时，加强AI生成合成技术及内容标识的管理；此外，还将推动网站平台增强对检测和辨别虚假信息的技能。第二阶段主要针对利用人工智能技术散布虚假信息、不实言论、低俗色情内容，冒用他人身份以及从事网络水军等违法行为，对这些问题进行重点整治，大力清除各类违法违规和不良信息，并对违规账号、MCN机构以及网站平台进行相应的处置和处罚。

第一阶段着重解决以下六项主要问题：首先，针对违规的AI产品，这些产品运用生成式人工智能技术向公众提供内容服务，却未完成大模型备案或登记手续；其次，它们提供诸如“一键脱衣”等违反法律和伦理的功能；再者，未经授权擅自克隆、编辑他人的声音、人脸等生物特征信息，侵犯了个人隐私；此外，还包括传播、销售违规AI产品的教程和商品。传播制作假扮他人面容、声音的教程资料。销售违法的“语音生成器”“换脸软件”等商品资讯。进行、煽动、推广违法AI产品的宣传。另外，存在训练语料管理上的疏漏。采用侵犯他人知识产权、隐私权等权利的数据。采用网络抓取的虚假、无效、不实信息。采用非法渠道获取的数据。尚未建立有效的训练语料管理规范，也未定期对违规语料进行审查和清除。第四点，安全管理存在明显不足，缺乏与业务范围相匹配的内容审查和意图辨别等安全防护手段。同时，尚未构建起一个有效的违规账号管理体系。安全自查活动也未按计划定期进行。此外，社交平台对于通过API接口接入的AI自动回复等服务，底数不明，监管不严。第五点，内容标识的相关要求并未得到切实执行。服务提供方未能对深度合成内容附加隐含或明确的内容标签，亦未向用户供给或提示有关明确内容标签的使用功能。内容传播平台未进行合成内容的生成监测与甄别，致使虚假信息误导了广大公众。此外，还需关注的是，重点领域的安全风险问题。已登记的AI产品在医疗、金融、未成年人等关键领域提供问答服务，却未对特定行业领域进行安全审核和管控措施，导致出现“AI擅自开药方”“诱导进行投资”“AI产生幻觉”等问题，从而误导了学生和患者，同时也扰乱了金融市场的正常秩序。

第二阶段主要针对七类关键问题进行整治：首先，禁止利用人工智能技术制造并散布虚假信息。这类谣言涉及时事政治、公共政策、社会民生、国际关系、突发事件等多个领域，它们要么是无中生有，要么是凭空捏造。此外，还包括对重大方针政策的擅自猜测和恶意解读。借助突发事件、灾难事故等，虚构原因、进展和细节。更有甚者，冒充官方新闻发布会或新闻报道，发布这些虚假信息。借助AI认知偏差制造误导性内容，同时通过AI技术散布虚假信息。对无关的图文、视频进行拼接和剪辑，制造出真假难辨、似是而非的信息。对事件的时间、地点、人物等关键要素进行模糊处理，重新炒热旧闻。制作并传播涉及财经、教育、司法、医疗卫生等领域的夸大其词、伪科学等不实信息。利用人工智能算命、占卜等手段误导和欺骗网络用户，散播迷信观念。此外，还有通过AI技术制作和发布低俗色情内容。运用AI脱衣、AI绘图等功能，制作合成色情内容、他人不雅图片或视频，包括衣着暴露、姿态挑逗等软色情、二次元边缘形象，以及丑化人物等不良导向内容。同时，还制作发布血腥暴力的场景，以及人体扭曲变形、超现实怪物等令人恐惧和诡异的画面。制作包含“小黄文”“荤段子”等具有明显性暗示内容的小说、帖子、笔记。此外，还有借助AI技术冒充他人进行侵权和违法行为。通过运用AI换脸、声音复制等高级伪造手段，假扮成专家、企业家、明星等知名人士，误导网民，甚至借此进行商业获利。利用AI对公众人物或历史人物进行恶搞、诽谤、扭曲和变异。同时，还可能用AI伪装成亲朋好友，从事网络诈骗等非法勾当。滥用人工智能技术复活已故之人，对逝者信息进行不当使用。此外，还有第五种情况，即利用AI进行网络水军活动。通过AI技术“养号”，实现模拟真实用户大量注册和运营社交账号。借助AI内容农场或AI洗稿技术，批量制造并发布低质量、同质化的文案，以吸引流量。运用AI群控软件和社交机器人进行批量点赞、跟帖评论，进行刷量控评，人为制造热点话题并使其登上排行榜。最后，第六种情况是AI产品服务和应用程序存在违规行为。禁止制作及散布假冒、仿制AI网站与应用。这些AI应用提供违法功能，如创作工具提供“热搜热榜热点扩展成文”等，而AI社交、陪聊软件等则提供低俗的软色情对话服务。此外，还有售卖、推广引流违规AI应用、生成合成服务或课程的行为。第七种违法行为是侵犯未成年人的权益。AI应用导致青少年过度沉迷，且在其专为青少年设计的模式中，含有可能损害青少年身心健康的内容。

中央网信办相关负责人着重指出，各地区的网络信息管理部门需深刻理解开展这一专项行动在预防人工智能技术被不当使用风险、保障网民权益方面所具有的关键作用。他们需切实承担起地域管理职责，监督网站和平台依据专项行动的相关规定，完善对AI生成和合成内容的审核流程，增强技术检测效能，并确保整改措施的落实到位。提升对人工智能政策宣传的力度，推广人工智能知识的普及教育，促使社会各界准确理解和运用人工智能技术，持续增强治理方面的共识。（工人日报客户端记者 杨召奎）