互联网的飞速发展推动信息传播方式发生深刻变革，人们通过网络浏览信息、获取服务、表达诉求、开展监督。在全媒体时代，加强网络空间治理，加强网络内容建设，日益成为推进国家治理体系和治理能力现代化的重要方面。
网络内容生产与分发的专业化、多元化、技术化、智能化带来海量信息流，给网络内容治理带来前所未有的困难与挑战。根据国家统计局和中国互联网络信息中心数据统计，截至2018年6月，我国网民规模达8.02亿、网站544万、移动应用412万款，网络内容类移动应用超过216万，下载量超过5600亿次。网络平台的丰富、多元、分散给内容生产者提供了广阔空间，从PGC（专业生产内容）、UGC（用户生产内容）到OGC（职业生产内容）、CGC（社群生产内容），再到MCN（多频道网络），网络内容生产与分发变得更加多元、专业和智能，带来了更加丰富、多样、生动、感性的网络信息，同时也会带来大量无效信息、重复信息甚至有害信息。一些内容生产者为了博眼球、上热搜，不择手段地标新立异、毫无底线地迎合受众，甚至制造低俗话题和虚假有害内容，给信息把关人和管理者带来严峻挑战。
比如，一些短视频平台上含有色情暴力元素、宣扬纸醉金迷生活方式的作品，经过算法推荐技术进行大量分发后，吸引百万千万粉丝，造成错误的价值导向。尽管有关部门对违规主播和视频实行禁播处理、对违规内容实行禁止转发等管理措施，但仍然禁而不止。一些网络平台在内容分发上奉行技术中心主义，给公众带来“信息茧房”、观念窄化等严重问题，也给内容治理带来技术挑战。
商业网络平台逐利意识强烈、社会责任意识淡薄，使得网络内容生态面临被资本绑架的风险与挑战。截至2017年年底，我国上市互联网企业达102家，市值总和超过8万亿元人民币。互联网企业发展从一开始就与风险资本关系紧密。最近，中国信通院发布《2018年第三季度互联网投融资运行情况》显示，2018年第三季度中国互联网投融资笔数达到892件，同比增长66.4%，融资金额达到152亿美元。据工信部数据显示，2018年我国互联网百强企业收入规模为1.72万亿元，互联网业务收入同比增长50.6%，相比五年前翻了两番多。客观来看，风险资本对中国互联网行业快速发展发挥了非常重要的推动作用，但毋庸讳言，资本的逐利性也在绑架甚至驱动一些网络内容创业公司走向野蛮生长之路，奉行流量至上的价值观。
比如，一些短视频应用和直播平台经常出现“三低”信息、搜索引擎导向虚假网站、“买热搜”现象等，产生了负面社会影响。流量为王、资本至上的发展思路，也容易导致互联网企业过度追逐经济利益而罔顾社会效益。
网民网络素养参差不齐，群体极化带来的网络暴力等问题威胁网络生态良性发展。互联网已成为人们日常生活的一部分。近年来微信群、QQ群、微博群等各类互联网群组不断涌现，社交媒体的兴起使得信息传播呈现圈层化、裂变式扩散，字数限制、快速传播、情绪化表达、娱乐化取向等因素使得网民倾向于选择跟自己观点和态度相近的圈子接触，在此过程中非理性内容更容易在与理性内容的对抗中占据优势，进而催生群体极化现象甚至道德失范行为。过于偏激的表达经过互联网的放大，不仅威胁网络生态良性发展，还有可能向线下转化，将网上舆论风险演变为线下的行动性风险，从而对社会秩序稳定带来严重挑战。
整体来看，当前我国网络内容管理领导体制已基本形成，国务院授权国家互联网信息办公室行使互联网信息内容管理职责，中央、省、市三级网络内容管理体系基本建立，国家对网络生态的把控力和管理能力得到明显加强。网络安全法及相关配套法规文件、各种管理办法和规定的出台，提高了网络内容管理的规范化、法治化水平。但在一些具体领域和问题上，网络生态治理工作依然缺乏及时性、针对性和精准度，特别是技术监管能力落后于技术更新速度。
结合网络内容治理现状，我们要从国家战略层面、社会综合治理层面加强顶层设计，确立党委、政府、企业、网民等多元主体的主体责任，明确治理目标和任务，坚持线上线下协调联动，守住网上舆论阵地。
建立管理端的网络内容治理制度体系。坚持技术与法治并重，对网络内容治理与监管的相关法律规定进行系统梳理，制定科学有效的制度规范和技术流程，并对法律法规中滞后于网络发展的内容进行修改、完善和补充，为网络内容治理提供科学化、系统化、规范化、标准化制度设计，确保有章可循、有据可依。建立网络内容综合治理的管理与协作机制，从管理体系、运行机制、保障机制、追责机制、技术支撑等方面，建立一套系统完善的网络内容治理指令执行体系，健全跨部门、跨层级、跨地域、跨系统、跨业务的网络内容治理分工与协作机制，使政府监管与网民自律、内容安全与内容创新、用户管理与平台管理之间相互协同、高效运作。诉诸技术手段，实现科学监管、技术治理，保持技术敏感性，跟进新技术发展，转变监管方式，将机器学习与人工审核相结合，由主管部门牵头制定网络内容“红线”标准，确立网络内容治理的基调和价值主张，通过人工智能等技术手段对“信源”实现智能识别与筛选、抓取采集、过滤清理，一旦有新的“红线”信息被识别标记，将其关键词纳入后台“负面语料库”，实现全网共享、交叉识别与自动处理，从而达到简化行政流程、提高治理效率的效果。
建立生产端的网络内容建设规则体系。这里的生产端包括网络内容生产者与网络平台运营者。网络空间内容生态的维护与治理不能只从终端开始，应从生产源头把控内容质量，防止一开始就被污染。把控质量需要建立标准和规则，否则质量好坏没有依据。无论是对PGC、UGC，还是对OGC、CGC、MCN，都需要根据这些机构的特点建立针对性强、可操作、易执行的规则和标准体系，以指引其内容生产过程。对传播环节的网络平台运营者来说，需要压实平台的企业主体责任，应针对不同的网络平台制定实用对路的规则和标准，把平台的责任具体化、数据化、实时化，切实让平台主动承担起内容治理的社会责任。
建立用户端的网络内容自律体系。用户是网络内容生态建设的重要参与者。网民的浏览、阅读、转发、点赞、打赏、付费等上网行为和数据都是网络内容生产与分发传播的重要参考依据。网民的素质和行为对网络内容的生产者、网络平台的运营者、网络社会的发展趋势有重要的影响，需要网络平台运营者通过上网规则、平台约定、入网须知、技术限制等方式引导网民增强责任自负意识、依法上网意识、文明上网意识、个人隐私意识、网络安全与风险意识等，让每位用户都能够加强网络行为自律，从而促进网络空间生态良好。
建立效果端的网络内容治理评价体系。网络内容治理应坚持效果导向，建立一套具备科学性、操作性、系统性、权威性的网络空间生态评价指标体系，明确评价的对象、方法、频率、主体、发布流程、后续反馈等，一以贯之地坚定执行下去，确保取得实效。网络内容治理评价的参与主体主要有三个，一是国家层面和地方层面的网络内容治理主管部门，二是以学术机构为代表的第三方评估机构，三是网络内容生产与分发平台。网络工作职能部门负责制定、修改和主导实施网络内容治理评价的制度性文件；组织、委托或聘用第三方机构建构和完善网络内容治理评价指标体系；运用评价评估结果指导、监督和推动网络内容生产者和网络平台运营者履行主体责任，树立正面价值导向。第三方评估机构应秉持科学、公正的原则，发挥研究机构的权威性和专业性，在相关理论和经验研究的基础上建构一套经得起实践检验的评价指标体系，并根据监管部门和相关网络内容主体的意见反馈及时修改完善评价指标体系，使之与网络生态建设的实际情况同步发展，真正发挥网络内容建设风向标作用。
