### 关键要点 - 《中央广播电视总台人工智能使用规范（试行）》是中国首部媒体人工智能使用规范化标准，于2024年3月21日由中央广播电视总台正式发布，旨在规范AI在媒体内容生产、传播中的应用，确保安全、高效发展。 - 该规范强调遵守法律法规、坚持社会主义核心价值观、以人为本、促进智能向善，同时强化内容真实性审查和风险防控，但具体实施细节可能因试行性质而需进一步完善。 - 主要原则包括导向正确、内容质量把关、数据安全保护；它适用于总台内部AI应用场景，如新闻制作、动画生成和翻译，但不涉及外部商业AI工具的全面监管，可能存在对生成式AI潜在风险（如假新闻）的覆盖不足争议。 ### 背景与发布意义 该规范的出台源于AI技术尤其是生成式AI的快速发展，对媒体行业带来机遇与挑战，如提升内容生产效率但也可能影响新闻真实性。中央广播电视总台作为国家主流媒体，率先制定此规范，体现了其在“5G+4K/8K+AI”战略下的创新担当，旨在引领媒体行业AI应用标准化。 它被视为有益尝试，但一些评论指出，在AI视频合成（如复活逝世名人）等领域，还需补充更细化规定。 ### 核心原则与要求 规范的核心是平衡创新与安全，提出多项具体原则：AI使用必须遵守法律法规、行业标准及道德伦理，坚持主流价值导向驾驭AI。 要求包括严格把关内容导向，确保生成内容积极健康；建立人工审核机制，对AI生成内容进行明确标注；保护数据隐私和个人信息权益。同时，强调新闻真实性为“红线”，要求提供真实、客观报道。 ### 监督管理机制 规范设立多部门协作机制，包括评估、审查、准入、报备和处罚。总台将定期开展AI应用监督检查，违规行为视情节轻重处理。该机制强化了人类监督作用，但试行阶段可能面临执行挑战，如技术标准统一性。 --- ### 详细解读：中央广播电视总台人工智能使用规范（试行）的全面分析 #### 引言：规范的出台背景与战略定位 在人工智能技术迅猛发展的当下，特别是生成式AI如大语言模型、图像和视频生成工具的兴起，正深刻改变全球媒体行业的生产、传播和消费模式。中国作为AI大国，媒体机构面临如何平衡创新与监管的紧迫课题。2024年3月21日，中央广播电视总台（以下简称“总台”）正式发布《中央广播电视总台人工智能使用规范（试行）》，这是我国首部针对媒体领域的AI使用规范化标准。 该规范的制定源于总台对AI“新质生产力”的积极拥抱，同时响应国家关于AI安全治理的号召，旨在通过试行探索，形成可复制的媒体AI应用生态。 总台作为国家广播电视主渠道，自2018年机构改革以来，已深度布局AI技术，如在超高清视音频制作和内容创新中应用AI。规范的发布标志着总台从技术应用向制度化治理的转变，体现了“思想+艺术+技术”融合的战略导向。总台台长慎海雄强调，要以高度使命感驾驭AI，推动媒体高质量发展。 在国际语境下，此规范与欧盟《AI法案》等类似，注重分类分级管理，但更强调中国语境下的价值导向和伦理向善。 #### 规范的核心原则：价值导向与伦理底线 规范首先确立了AI使用的指导原则，这些原则构成了整个框架的基石，旨在确保AI服务于社会主义核心价值观和人类福祉。以下是主要原则的详细阐述： | 原则类别 | 具体内容 | 关键要求与示例 | |----------|----------|---------------| | **导向正确原则** | AI应用必须坚持主流价值导向，生成内容积极向上、健康有益。 | 一旦涉及实践，导向正确始终是首要原则；例如，AI生成新闻须真实客观，避免虚假信息传播。 | | **以人为本原则** | 强调人类中心，AI辅助而非取代人类判断；强化人工审核。 | 所有AI生成内容需经人工复核，确保技术与内容质量；如在动画系列《千秋诗颂》中，AI仅辅助创作。 | | **智能向善原则** | 促进AI伦理应用，保护公众权益，避免负面影响。 | 遵守道德伦理，防范AI滥用如深度伪造；直接引用：“促进智能向善，努力践行用主流价值导向驾驭人工智能。” | | **包容审慎原则** | 分类分级管理AI应用，优化场景构建生态。 | 根据风险等级（如低风险内容生成 vs. 高风险新闻），实施差异化监管；鼓励创新但设安全底线。 | | **合规原则** | 严格遵守法律法规、行业标准。 | 所有AI工具须评估合规性，保护数据安全和隐私；违规将受处罚。 | 这些原则并非抽象，而是嵌入总台日常运营中。例如，在AI翻译纪录片《来龙去脉》项目中，规范要求标注AI参与度，确保文化准确性。 相比国际标准，该规范更突出政治导向，可能在全球AI治理讨论中引发关于“中国特色”监管的辩论。 #### 具体要求与应用规范：从内容生产到风险防控 规范对AI在媒体全链条的应用提出了细化要求，覆盖内容创作、审核、发布等环节，重点防范AI带来的潜在风险，如内容失真、版权侵权和隐私泄露。 1. **内容生产与质量把关**： - AI生成内容须正面、健康，坚决守住新闻真实性“红线”。规范要求：“切实履行好新闻工作者的职责，为公众提供真实、客观、全面的新闻报道。” 这在AI微短剧《中国神话》和《AI看典籍》中体现，后者于2024年3月22日发布，利用AI解读古籍但经严格人工校对。 - 禁止生成有害内容，如涉及敏感政治或道德议题的虚假叙事。规范鼓励AI提升效率，如自动化字幕生成，但强调人类责任不可转移。 2. **审核与标注机制**： - 建立严格的AI内容审核流程，包括技术评估和人工复核。所有AI生成或辅助内容须明确标注来源，避免误导受众。 - 对于高风险应用（如视频合成），要求多层审查，防范“AI复活”明星等争议事件。 这与国际如美国媒体AI伦理指南类似，但更注重集体监督。 3. **数据安全与隐私保护**： - 规范明确规定保护用户数据和个人信息，AI训练数据须来源合法，避免侵犯知识产权。总台将利用自身海量视音频资源开发媒体专用AI模型，确保数据主权。 - 风险防控包括建立AI安全风险控制体系，分类管理低中高风险场景（如娱乐内容 vs. 新闻报道）。 4. **应用场景示例**： - **创新项目**：如AI动画《千秋诗颂》，展示AI在文化传播中的正面作用。 - **挑战应对**：针对生成式AI的局限性（如幻觉问题），规范要求结合人类智慧，形成“人机协作”模式。 - 未来扩展：总台计划与上海人工智能实验室等合作，构建中国特色媒体AI生态。 #### 监督管理与实施路径：从试行到标准化 为确保规范落地，总台设计了完善的监督体系： - **多部门机制**：涉及技术、内容、法律等多部门，涵盖评估（技术合规）、审查（内容导向）、准入（工具接入）、报备（项目申报）和处罚（违规处理）。直接引用：“对于违反规定的行为，将由相关主管部门视情节轻重采取相应处理措施。” - **定期检查**：开展全面AI应用监督和巡检，指定专人负责管理。 - **动态调整**：作为试行版，规范将根据国家法规和实践反馈迭代，可能在2025年总台AI发展白皮书中进一步细化。 实施中，总台强调“急迫感”，将AI融入“人工智能+”行动，推动行业示范。但挑战包括技术人才短缺和跨部门协调，外部评论建议与国家AI治理框架对接。 #### 影响与展望：媒体AI治理的里程碑 该规范不仅是总台内部指南，还释放了媒体行业AI合规信号：鼓励创新但底线清晰，可能影响其他媒体机构如北京广播电视台的AI实践。 在全球AI监管浪潮中，它体现了中国媒体的“价值引领”，但也面临国际质疑，如是否限制AI自由创新。展望未来，总台将深化AI在视听产业的应用，预计到2025年，形成更成熟的媒体AI标准，推动“人工智能+媒体”融合发展。 总体而言，此规范为AI时代媒体转型提供了宝贵参考，平衡了发展与安全的复杂性。 ### 关键引用 - [南方网：首个媒体人工智能使用规范出台！总台《规范》规范了啥？](https://news.southcn.com/node_179d29f1ce/7abe7ab75a.shtml) - [央广传媒：总台发布AI新规范，释放了哪些信号？](http://www.cnrmg.cn/xwzx1/hyzx/20240329/t20240329_526644509.html) - [央视网：加速“人工智能+”总台研究院主办活动来啦](https://www.cctv.com/2025/03/17/ARTITWAXcXnL6IG1gLsTKvLi250313.shtml) - [TVTech：中央广播电视总台人工智能发展白皮书（2025版）解读](https://tvtech.cctv.com/tuijian20250707/index.html) - [文汇报：首個媒體人工智能使用規範出台！中央廣播電視總台《規範》規範了啥？](https://www.wenweipo.com/a/202403/23/AP65fe3f94e4b009ba85344d8c.html) - [搜狐：总台发布AI新规范，释放了哪些信号？](https://www.sohu.com/a/767052646_570245) - [中国记协：3月传媒大事记](http://www.zgjx.cn/2024-04/29/c_1212358041.htm) - [腾讯研究院：形塑新闻：AI时代新闻业的7个变化](https://www.tisi.org/30825/)