第七章 违法信息监管制度——《网络安全法合规讲义》连载10
【编者按】本讲义由上海国瓴律师事务所名誉主任、上海交通大学信息内容分析技术国家工程研究中心网络空间治理研究中心主任、中国科学技术大学知识产权研究院人工智能与网络空间治理研究中心主任寿步教授撰写，是在寿步主编《网络安全法实用教程》（上海交通大学出版社2019年12月版）的基础上，全面收集整理2016年11月网络安全法发布至2024年6月期间的网络安全相关规范性文件，按照网络安全法制度设计的内在结构进行章节划分而编撰的。本讲义分为十章，同时收录2020年以来涉及网络运行安全和网络信息安全的52个案例。本讲义的内容取材于规范性文件或官方媒体，权威性高，实用性强，可供关心网络安全法律问题的读者阅读。连载共13篇。
连载目录
连载目录
10第七章 违法信息监管制度
11第八章 数据出境安全管理制度
12第九章 网络安全监测预警与应急处置制度
13第十章 网络安全法律责任制度
第七章 违法信息监管制度
网络安全法第四章网络信息安全包含第四十条至第五十条，其中第四十条至第四十五条是关于个人信息保护制度的规定，第四十六条至第五十条是关于违法信息监管制度的规定。
本章讨论违法信息监管制度，具体包括违法信息监管制度概述、网络使用者的一般义务、网络运营者处置违法信息的义务、网络运营者建立投诉举报制度、网络运营者配合监督检查的义务、国家对违法信息的监督管理等。
第一节 违法信息监管制度概述
一、违法信息监管的立法现状
随着互联网的深度普及和人工智能、大数据等技术在网络信息服务领域的广泛应用，网络信息服务业务呈现出智能化、个性化和强交互的态势。网络信息发布主体的多样性、网络信息内容的动态性、网络文化体系的开放性使得网络信息呈现出多元、多变、多样的特点。网络信息传播速度之快、传播领域之广也体现出万物互联的特色。这也为违法信息的滋生和蔓延提供了沃土。网络安全法的出台，对违法信息监管制度的完善提出了更高的要求，促进了网络信息服务相关领域法律体系的完善。
网络信息内容管理方面，2000年9月25日国务院公布施行《互联网信息服务管理办法》。该法规已根据2011年1月8日《国务院关于废止和修改部分行政法规的决定》修订。2021年1月8日国家网信办曾就该法规的修订草案征求意见稿公开征求意见。《国务院2024年度立法工作计划》已将“预备修订互联网信息服务管理办法”列入其中。
在《互联网信息服务管理办法》的统率下，中央网信办/国家网信办单独或会同相关机构先后发布《互联网信息搜索服务管理规定》、《移动互联网应用程序信息服务管理规定》（2022年6月修订发布）、《互联网直播服务管理规定》、《互联网新闻信息服务管理规定》、《互联网论坛社区服务管理规定》、《互联网跟帖评论服务管理规定》（2022年11月修订发布）、《互联网群组信息服务管理规定》、《互联网用户公众账号信息服务管理规定》（2021年1月修订发布）、《互联网新闻信息服务新技术新应用安全评估管理规定》、《微博客信息服务管理规定》、《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》、《金融信息服务管理规定》、《区块链信息服务管理规定》、《儿童个人信息网络保护规定》、《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》、《关于进一步压实网站平台信息内容管理主体责任的意见》、《关于加强互联网信息服务算法综合治理的指导意见》、《互联网宗教信息服务管理办法》、《互联网信息服务算法推荐管理规定》、《互联网弹窗信息推送服务管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》、《互联网政务应用安全管理规定》、《网络暴力信息治理规定》等。互联网信息内容的管理规范体系日臻完善。
此外，《全国人大常委会关于维护互联网安全的决定》《全国人大常委会关于加强网络保护的决定》《信息网络传播权保护条例》《互联网等信息网络传播视听节目管理办法》《互联网视听节目服务管理规定》《互联网文化管理暂行规定》《网络出版服务管理规定》《即时通信工具公众信息服务发展管理暂行规定》等亦涉及网络信息内容的管理。
总之，我国在完善网络内容管理体系、整治互联网广告业务、促进网络文化健康发展、规范网络视听节目传播秩序、加强新技术新应用信息服务管理等方面都有了显著的立法成果，为营造风清气正的网络空间提供了制度保障。
二、违法信息监管的规范性表述
网络安全法出台之前，我国网络信息安全管理的法律法规体系尚不健全。在不同法律法规中对违法信息类型及其规制有零散规定。如《全国人大常委会关于维护互联网安全的决定》《互联网信息服务管理办法》《计算机信息网络国际联网安全保护管理办法》《互联网上网服务营业场所管理条例》《电信条例》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》等。
网络安全法的出台，从顶层设计的立法层级有机统一违法信息的类型及范围。违法信息的监管在法律层面得到加强。
网络安全法第十二条第二款规定：“任何个人和组织使用网络应当遵守宪法法律，遵守公共秩序，尊重社会公德，不得危害网络安全，不得利用网络从事危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，传播暴力、淫秽色情信息，编造、传播虚假信息扰乱经济秩序和社会秩序，以及侵害他人名誉、隐私、知识产权和其他合法权益等活动。”
网络安全法所规范的违法信息可以分为三类：
一是危害国家安全的信息，
二是扰乱经济和社会秩序的信息，
三是侵害个人合法权益的信息。
三、《网络信息内容生态治理规定》
2019年12月15日国家网信办公布《网络信息内容生态治理规定》，自2020年3月1日起施行。该文件根据《中华人民共和国国家安全法》《中华人民共和国网络安全法》《互联网信息服务管理办法》等法律法规，对违法信息监管制度作了较为全面系统的规范。
该文件出台的背景，一是建立健全网络综合治理体系的需要。2019年10月《中共中央关于坚持和完善中国特色社会主义制度 推进国家治理体系和治理能力现代化若干重大问题的决定》中明确提出，建立健全网络综合治理体系，加强和创新互联网内容建设，落实互联网企业信息管理主体责任，全面提高网络治理能力，营造清朗的网络空间。加强网络生态治理，培育积极健康、向上向善的网络文化，有利于建立健全网络综合治理体系。二是维护广大网民切身利益的需要。网络空间天朗气清、生态良好，符合人民利益。网络空间乌烟瘴气、生态恶化，不符合人民利益。制定实施该文件，有利于进一步明确治理任务，动员全社会共同参与网络信息内容生态治理，营造良好网络生态。
该文件的要点如下：
1.网络信息内容生态治理的内涵
该文件中所称网络信息内容生态治理，是指政府、企业、社会、网民等主体，以培育和践行社会主义核心价值观为根本，以网络信息内容为主要治理对象，以建立健全网络综合治理体系、营造清朗的网络空间、建设良好的网络生态为目标，开展的弘扬正能量、处置违法和不良信息等相关活动。
2.正能量信息的范围
该文件规定的正能量信息范围包括：（一）宣传习近平新时代中国特色社会主义思想，全面准确生动解读中国特色社会主义道路、理论、制度、文化的；（二）宣传党的理论路线方针政策和中央重大决策部署的；（三）展示经济社会发展亮点，反映人民群众伟大奋斗和火热生活的；（四）弘扬社会主义核心价值观，宣传优秀道德文化和时代精神，充分展现中华民族昂扬向上精神风貌的；（五）有效回应社会关切，解疑释惑，析事明理，有助于引导群众形成共识的；（六）有助于提高中华文化国际影响力，向世界展现真实立体全面的中国的；（七）其他讲品味讲格调讲责任、讴歌真善美、促进团结稳定等的内容。
3.违法信息的范围
该文件规定的违法信息范围包括：（一）反对宪法所确定的基本原则的；（二）危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的；（三）损害国家荣誉和利益的；（四）歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉的；（五）宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动的；（六）煽动民族仇恨、民族歧视，破坏民族团结的；（七）破坏国家宗教政策，宣扬邪教和封建迷信的；（八）散布谣言，扰乱经济秩序和社会秩序的；（九）散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的；（十）侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益的；（十一）法律、行政法规禁止的其他内容。
4.不良信息的范围
该文件规定的不良信息范围包括：（一）使用夸张标题，内容与标题严重不符的；（二）炒作绯闻、丑闻、劣迹等的；（三）不当评述自然灾害、重大事故等灾难的；（四）带有性暗示、性挑逗等易使人产生性联想的；（五）展现血腥、惊悚、残忍等致人身心不适的；（六）煽动人群歧视、地域歧视等的；（七）宣扬低俗、庸俗、媚俗内容的；（八）可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等的；（九）其他对网络生态造成不良影响的内容。
5.对网络信息内容生产者的要求
该文件鼓励网络信息内容生产者制作、复制、发布含有正能量内容的信息；明确网络信息内容生产者应当遵守法律法规，遵循公序良俗，不得损害国家利益、公共利益和他人合法权益，不得制作、复制、发布违法信息；应当采取措施，防范和抵制制作、复制、发布不良信息。
6.对网络信息内容服务平台履行信息内容管理主体责任的要求
该文件明确，网络信息内容服务平台应当履行信息内容管理主体责任，建立网络信息内容生态治理机制；明确了平台运行环节管理要求，包括建立健全算法推荐的人工干预和用户自主选择机制、广告管理制度、平台公约和用户协议制度、举报制度、年度报告制度等；明确了平台的信息安全管理义务，包括不得传播违法信息，应当防范和抵制传播不良信息，鼓励在重点环节传播正能量信息，不得在重点环节呈现不良信息等。
7.对网络信息内容服务使用者的要求
该文件明确，网络信息内容服务使用者发布信息和参与网络活动时应当文明互动，理性表达，不得发布违法信息，防范和抵制不良信息。鼓励通过投诉、举报等方式对网上违法和不良信息进行监督；明确网络群组、论坛社区版块的建立者和管理者应当履行管理责任，依法依约规范群组、版块内信息发布等行为；明确网络信息内容服务使用者和生产者、平台不得开展网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违法活动。
8. 对网络行业组织在推进行业自律方面的工作要求
该文件鼓励行业组织引导会员单位增强社会责任感，弘扬正能量，反对违法信息，防范和抵制不良信息；建立完善行业自律机制，制定网络信息内容生态治理行业规范和自律公约；开展网络信息内容生态治理教育培训和宣传引导工作，增强全社会共同参与生态治理意识；推动行业信用评价体系建设，建立评价奖惩机制。
9.各级网信部门开展监督管理的职责要求
各级网信部门会同有关主管部门建立健全信息共享、会商通报、联合执法等工作机制；对网络信息内容服务平台履行信息内容管理主体责任情况开展监督检查；建立网络信息内容服务平台违法违规行为台账管理制度，建立政府、企业、社会、网民等主体共同参与的监督评价机制等。
10.网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者的法律责任
该文件明确了网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者的法律责任，同时完善了民事、行政和刑事法律责任相衔接的体系化规定。违反该文件，给他人造成损害的，依法承担民事责任；构成犯罪的，依法追究刑事责任；尚不构成犯罪的，由有关主管部门依照有关法律、行政法规的规定予以处罚。
四、《生成式人工智能服务管理暂行办法》
2023年7月10日国家网信办联合国家发展改革委、教育部、科技部、工信部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。下面介绍该文件的要点。
1.该文件出台的背景
一是深入贯彻落实习近平总书记重要指示精神和党中央决策部署的重要举措。习近平总书记在主持召开中共中央政治局会议时指出：“要重视通用人工智能发展，营造创新生态，重视防范风险。”二是促进生成式人工智能健康发展的迫切需求。随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。该文件坚持目标导向和问题导向，明确了促进生成式人工智能技术发展的具体措施，规定生成式人工智能服务的基本规范。三是推进实施法律规定的内在要求。制定该文件，是落实网络安全法、数据安全法、个人信息保护法、科学技术进步法有关规定的重要要求，进一步规范数据处理等活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
2.该文件的适用范围
该文件规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
3.该文件坚持的主要原则
该文件提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
4.生成式人工智能技术和生成式人工智能服务提供者的定义
该文件中所称生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术；生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。
5.促进生成式人工智能健康发展的治理对象、监管方式、具体措施
该文件在治理对象上，针对生成式人工智能服务。在监管方式上，提出对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。在促进发展具体措施上，一是明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。二是支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
6.提供和使用生成式人工智能服务应当遵守的具体规定
该文件明确提供和使用生成式人工智能服务应当坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
7.该文件规定的具体治理制度
该文件明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。此外，明确了数据标注的相关要求。
8.生成式人工智能服务的具体规范
该文件要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。规定提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取有关处置措施，保存有关记录，并向有关主管部门报告。
第二节 网络使用者的一般义务
一、网络安全法的相关规定
关于禁止利用网络从事违法犯罪活动，网络安全法第四十六条规定：“任何个人和组织应当对其使用网络的行为负责，不得设立用于实施诈骗，传授犯罪方法，制作或者销售违禁物品、管制物品等违法犯罪活动的网站、通讯群组，不得利用网络发布涉及实施诈骗，制作或者销售违禁物品、管制物品以及其他违法犯罪活动的信息。”
关于电子信息发送者和应用软件提供者的网络信息安全义务，网络安全法第四十八条第一款规定：“任何个人和组织发送的电子信息、提供的应用软件，不得设置恶意程序，不得含有法律、行政法规禁止发布或者传输的信息。”
二、刑法的相关规定
作为利用计算机实施犯罪的提示性规定，第二百八十七条规定：“利用计算机实施金融诈骗、盗窃、贪污、挪用公款、窃取国家秘密或者其他犯罪的，依照本法有关规定定罪处罚。”
关于非法利用信息网络罪的第二百八十七条之一规定：“利用信息网络实施下列行为之一，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金：
（一）设立用于实施诈骗、传授犯罪方法、制作或者销售违禁物品、管制物品等违法犯罪活动的网站、通讯群组的；
（二）发布有关制作或者销售毒品、枪支、淫秽物品等违禁物品、管制物品或者其他违法犯罪信息的；
（三）为实施诈骗等违法犯罪活动发布信息的。
单位犯前款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照第一款的规定处罚。
有前两款行为，同时构成其他犯罪的，依照处罚较重的规定定罪处罚。”
关于帮助信息网络犯罪活动罪的第二百八十七条之二规定：“明知他人利用信息网络实施犯罪，为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持，或者提供广告推广、支付结算等帮助，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金。
单位犯前款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照第一款的规定处罚。
有前两款行为，同时构成其他犯罪的，依照处罚较重的规定定罪处罚。”
关于投放虚假危险物质罪，编造、故意传播虚假恐怖信息罪的第二百九十一条之一第一款规定：“投放虚假的爆炸性、毒害性、放射性、传染病病原体等物质，或者编造爆炸威胁、生化威胁、放射威胁等恐怖信息，或者明知是编造的恐怖信息而故意传播，严重扰乱社会秩序的，处五年以下有期徒刑、拘役或者管制；造成严重后果的，处五年以上有期徒刑。”
关于编造、故意传播虚假信息罪的第二百九十一条之一第二款规定：“编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。”
国家保护公民、法人和其他组织依法使用网络的权利。权利行使所伴随的义务是遵守法律，即不得利用网络实施违法犯罪活动、发布违法信息。任何个人和组织应当对其使用网络的行为负责。这是权利义务相一致原则在网络空间的体现。从网络安全法与刑法上述条款之间的对应，可以看到两者之间的衔接。
第三节 网络运营者处置违法信息的义务
一、网络安全法的相关规定
关于网络运营者、电子信息发送服务提供者、应用软件下载服务提供者处置违法信息的义务，网络安全法规定如下。
第四十七条：“网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。”
第四十八条：“任何个人和组织发送的电子信息、提供的应用软件，不得设置恶意程序，不得含有法律、行政法规禁止发布或者传输的信息。
电子信息发送服务提供者和应用软件下载服务提供者，应当履行安全管理义务，知道其用户有前款规定行为的，应当停止提供服务，采取消除等处置措施，保存有关记录，并向有关主管部门报告。”
二、实际操作
网络运营者发现用户发布违法信息的，应当注意：（1）立即停止传输该信息；（2）采取消除等措施，防止该信息扩散，减少其影响和危害；（3）保存有关记录，为依法追究该信息发布者的责任提供依据；（4）根据该信息的内容和性质向有关主管部门报告。
第四节 网络运营者建立投诉举报制度的义务
一、网络安全法的相关规定
关于网络运营者建立网络信息安全第投诉举报制度，网络安全法第四十九条规定：“网络运营者应当建立网络信息安全投诉、举报制度，公布投诉、举报方式等信息，及时受理并处理有关网络信息安全的投诉和举报。”
二、实际操作
维护网络安全需要全社会共同努力，充分发挥广大网民的作用。对危害网络信息安全的行为，公民有监督的权利，网络运营者有接受监督的义务。网络安全法要求网络运营者建立网络信息安全投诉、举报制度，及时受理并处理有关网络信息安全的投诉和举报。网络运营者在实际操作中应当注意：（1）建立网络信息安全投诉、举报制度，明确受理、处理投诉、举报的机构、人员及其职责、范围、方式、程序及操作规程等事项；（2）以合理的方式公布投诉、举报方式等信息，方便投诉举报人；（3）及时受理投诉、举报，无正当理由不得拒绝；（4）按照内部操作规程及时处理投诉、举报，并告知投诉举报人处理结果。
第五节 网络运营者配合监督检查的义务
义务
一、网络安全法的相关规定
网络安全法第八条规定：“国家网信部门负责统筹协调网络安全工作和相关监督管理工作。国务院电信主管部门、公安部门和其他有关机关依照本法和有关法律、行政法规的规定，在各自职责范围内负责网络安全保护和监督管理工作。
县级以上地方人民政府有关部门的网络安全保护和监督管理职责，按照国家有关规定确定。”
网络安全法第四十九条第二款规定了网络运营者对主管部门监督检查的配合义务：“网络运营者对网信部门和有关部门依法实施的监督检查，应当予以配合。”
二、实际操作
网络运营者对网信部门和有关部门依法实施的监督检查，应当接受并予以配合，不得拒绝、阻碍，并应当根据有关部门的要求，如实说明有关情况，提供有关信息和资料，为监督执法活动提供便利。网络运营者拒绝、阻碍有关部门依法实施的监督检查的，应当承担相应的法律责任。
第六节 国家对违法信息的监督管理
一、网络安全法的相关规定
关于主管部门部门对违法信息的监督管理，网络安全法第五十条规定：“国家网信部门和有关部门依法履行网络信息安全监督管理职责，发现法律、行政法规禁止发布或者传输的信息的，应当要求网络运营者停止传输，采取消除等处置措施，保存有关记录；对来源于中华人民共和国境外的上述信息，应当通知有关机构采取技术措施和其他必要措施阻断传播。”
《反恐怖主义法》第十九条规定：“电信业务经营者、互联网服务提供者应当依照法律、行政法规规定，落实网络安全、信息内容监督制度和安全技术防范措施，防止含有恐怖主义、极端主义内容的信息传播；发现含有恐怖主义、极端主义内容的信息的，应当立即停止传输，保存相关记录，删除相关信息，并向公安机关或者有关部门报告。
网信、电信、公安、国家安全等主管部门对含有恐怖主义、极端主义内容的信息，应当按照职责分工，及时责令有关单位停止传输、删除相关信息，或者关闭相关网站、关停相关服务。有关单位应当立即执行，并保存相关记录，协助进行调查。对互联网上跨境传输的含有恐怖主义、极端主义内容的信息，电信主管部门应当采取技术措施，阻断传播。”
二、实际操作
国家网信部门和有关部门按照职责分工，加强网络信息安全管理，在履行职责过程中，发现违法信息，有权依照网络安全法采取以下措施：（1）要求网络运营者停止传输该信息，防止该信息通过网络运营者再次传播；（2）要求网络运营者删除该信息，减少、消除该信息的影响和危害；（3）要求网络运营者保存有关记录，为调查处理可能存在的违法犯罪行为提供依据；（4）对来源于我国境外的违法信息，应当通知有关机构采取技术措施和其他必要措施阻断传播。网络运营者对主管部门采取的处置措施，应予以配合，按照要求采取相应的处置措施，不得拒绝、阻碍。
第七节 案例介绍
【案例1】2021年1月，江苏省镇江市京口分局网安大队在配合属地派出所侦办一起售假案件时，发现有些蹊跷。据受害人自述，当时明明扫码查询过，所购确为正品呀！网警通过正规渠道进行查询，却发现这批商品是“千真万确”的假货。进一步调查发现，买家所说的“验证为正品”，是因为扫了产品包装上自带的二维码，跳转到所谓的“查询网站”上验证成功。原来，不光商品是假的，这所谓的“查询网站”也是假的。据调查，该网站是售假嫌疑人委托他人搭建的仿冒查询网站，里面的信息都是售假嫌疑人提前为自己的假冒伪劣产品“量身打造”的。网警循线追踪，最终抓获了为售假行为提供假冒防伪查询网站服务的嫌疑人王某、潘某和陈某，三人到案后对其违法行为均供认不讳。经审查，三名嫌疑人分工明确，王某主要负责搭建假查询网站，潘某、陈某则负责印刷假的防伪二维码，确保假二维码能在假查询网站上验证成功。根据《网络安全法》第四十六条、六十七条，当地公安网安部门对上述三名嫌疑人处以行政拘留5日的处罚，由他们搭建的多个“防伪查询网站”均已被关闭，及时阻止了更多群众上当受骗。制假、售假违法犯罪嫌疑人已被公安机关相关部门另案处理。
【案例2】2021年4月，成都公安机关对辖区某公司开展网络安全监督检查时，发现该公司上架购买的版权歌曲，未对歌曲内容进行审核，未及时删除违法有害信息，造成违法有害信息在互联网上传播，该公司在实际工作中不履行网络信息安全管理义务。成都公安机关根据《网络安全法》第四十七条、第六十四条，对该公司作出罚款50万元的行政处罚。
【案例3】2021年6月，成都公安机关检查发现，辖区某公司APP聊天工具，未对群聊内容、图片、语音进行严格审核，未及时删除违法有害信息，造成大量网络黑灰产信息在群聊里发布，该公司在实际工作中不履行网络信息安全管理义务。成都公安机关根据《网络安全法》第四十七条、第六十四条，对该公司作出罚款10万元、对公司技术负责人作出罚款1万元的行政处罚。
【案例4】广东公安机关查处使用人工智能工具编造“广州限制外卖配送”谣言案。2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”，迅速引发关注形成网络热搜。经查，四川德阳网民杨某组织招揽广东江门网民叶某等多名兼职人员，使用人工智能工具批量生成不实文章进行引流牟利。叶某为吸引眼球编造发布上述谣言，扰乱社会正常秩序。广东广州公安机关已对杨某、叶某等6名人员采取刑事强制措施。
【案例5】重庆公安机关查处使用人工智能工具编造“爆炸事故”谣言案。2023年12月，网上流传一篇题为“某地一民房发生爆炸事故，4人不幸遇难，官方紧急介入调查”的谣言文章，以新闻报道的口吻造谣“某地突发爆炸事故、发现了4名遇难者，其中包括一名儿童”等。经查，重庆网民康某为引流牟利，使用人工智能工具编造虚假信息后在今日头条平台发布。重庆公安机关已对康某处以行政拘留3日处罚。
【案例6】江西公安机关查处一起MCN机构使用人工智能工具造谣案。2024年1月以来，有MCN（Multi-Channel Network，多频道网络）机构（是与内容创作者合作或直接生产各种独特内容的任何实体或组织，并在发布内容的网络平台上执行业务和营销功能。它不隶属于平台所有者或直接隶属于渠道本身，为网红和自媒体提供内容策划制作、宣传推广、粉丝管理、签约代理等各类服务）利用自媒体账号陆续在今日头条平台发布“某市2024年1月10日发生爆炸导致建筑、车辆炸毁、人员伤亡”“某公司的转基因试验证实转基因玉米致1000只小白鼠全部死亡”等多条谣言信息。经查，江西男子王某经营有5家MCN机构，共运营自媒体账号842个，其长期组织公司人员选取热点文章，使用人工智能工具批量生成不实文章进行吸粉引流。目前，江西南昌公安机关已对王某处以行政拘留5日，责令涉案MCN机构停业整改。
【案例7】湖南公安机关查处使用人工智能工具编造“民警离职潮”谣言案。2024年3月，湖南株洲网民黄某为运营自媒体赚取费用，使用人工智能工具编造“基层民警出现离职潮”等谣言文章，通过微信公众号发布以博取眼球、吸引流量，导致谣言信息传播扩散。湖南株洲公安机关已对黄某处以行政处罚。
