定制报告-个性化定制-按需专项定制研究报告

行业报告、薪酬报告

联系：400-6363-638

《新华社：2024人工智能时代新闻媒体的责任与使命研究报告（81页）.pdf》由会员分享，可在线阅读，更多相关《新华社：2024人工智能时代新闻媒体的责任与使命研究报告（81页）.pdf（81页珍藏版）》请在本站上搜索。 1、人工智能时代新闻媒体的责任与使命新华社研究院目录导 言 2第一章机遇：人工智能赋能传媒发展6一、产能新驱动7二、体验新升级 14三、业态新前景 17第二章挑战：人工智能催生多重风险 23一、虚假信息引发信任危机 23二、技术滥用破坏舆论生态 32三、快速发展加剧治理忧虑 37四、智能应用加大发展鸿沟 43第三章使命：坚持以人为本推动智能向善 49一、加快智能驱动，提升媒体价值 50二、立足善意使用，健全伦理规范 53三、加强对话合作，完善全球治理 56第四章调查：全球新闻媒体人工智能认知及应用现状60结语 75编写说明与致谢 77人工智能时代新闻媒体的责任与使命从全球范围看，媒体智能化进入快速2、发展阶段。我们要增强紧迫感和使命感，推动关键核心技术自主创新不断实现突破，探索将人工智能运用在新闻采集、生产、分发、接收、反馈中，用主流价值导向驾驭“算法”，全面提高舆论引导能力。习近平习近平在十九届中央政治局第十二次集体学习时的讲话（2019年1月25日）。1人工智能时代新闻媒体的责任与使命导 言生成式人工智能技术的快速发展及广泛应用，引发席卷全球的人工智能热潮，新闻媒体也再一次迎来变革发展的机遇。科幻小说中那个神秘的“技术奇点”正从想象走入现实，带领人类进入一个充满未知的崭新时空。“智媒”时代正向我们走来。人工智能为新闻媒体行业带来无限可能性，但正如之前历次传播技术革命一样，人工智能的发展3、也无法摆脱“科林格里奇困境”，新兴技术的利弊在得到实践检验之前，仍处于“黑箱”之中。构建有效的治理机制，促进人工智能造福人类，已经成为国际社会的广泛共识。2023年10月，中国国家主席习近平在第三届“一带一路”国际合作高峰论坛上提出全球人工智能治理倡议。倡议指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。在世界和平与发展面临多元挑战的背景下，各国应坚持发展和2人工智能时代新闻媒体的责任与使命安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体。围绕人工智能发展、安全、治理等问题，倡议提出了“以人为本”“智能向善”4、等基本原则，为解决人工智能治理难题贡献了中国方案。人工智能时代，新闻媒体面临哪些机遇与挑战？推动智能向善，新闻媒体应该如何履行职责使命？围绕这些问题，新华社国家高端智库课题组以中、英、法三种语言面向全球新闻媒体机构开展问卷调查，最终得到有效问卷1094份，受访者来自53个国家和地区，包括报刊、广电、通讯社、网站、移动应用服务商等。与此同时，课题组还广泛走访全球各大主流媒体、科技公司与科研院所，聚焦人工智能时代新闻媒体的机遇与挑战、责任与使命开展深入调研。基于调研数据及访谈结果，课题组进行了科学的定性和定量分析，经过深入研究、反复研讨，最终形成人工智能时代新闻媒体的责任与使命研究报告。报告发现，5、全球新闻媒体整体上（66.0%）3人工智能时代新闻媒体的责任与使命对生成式人工智能对行业的影响持积极态度，多数媒体（67.6%）已切身感受到人工智能带来的变化，超半数媒体（51.2%）已开始应用人工智能。媒体对生成式人工智能的期待主要聚焦于提高新闻报道的时效性（74.6%）与生产效率（74.4%）等，同时警惕人工智能带来的“新闻线索和素材失真失准”（76.4%）等可信度风险。多数新闻媒体（85.6%）认为需要对生成式人工智能的应用加强监管。报告认为，人工智能给新闻媒体的发展带来产能新驱动，从内容的采集、生产、分发、评估等环节促生了媒体新质生产力；赋予媒体及其消费者超越时空、虚实融合、人机交流的6、体验新升级；开创了万物媒介化、媒体平台化、产业数智化的新兴业态。报告提出，人工智能的不确定因素及其滥用恶用，催生了多重风险挑战。虚假信息在规模、形态和传播路径上不断升级，引发了全球范围内的真实性危机；技术的自身局限与使用者的私利诉求产生“合谋”，污染了舆论生态，对个体认4人工智能时代新闻媒体的责任与使命知和社会舆论造成负面影响，并加重了国际层面的信息对抗；广泛存在的价值争议和伦理困境，令人工智能在发展与治理中陷入“两难”；“智能鸿沟”或将进一步拉大人际、城乡和南北差距，助长技术霸权，加剧全球发展失衡。报告提议，新闻媒体需肩负社会责任使命，坚持“以人为本”，推动“智能向善”，从加快智能驱动、提升7、媒体价值，立足善意使用、健全伦理规范，加强对话合作、完善全球治理等方面坚守人工智能时代下的责任与使命，为构建人类命运共同体，建设更加美好世界汇聚强大的媒体力量。5人工智能时代新闻媒体的责任与使命第一章机遇：人工智能赋能传媒发展把握数字化、网络化、智能化融合发展契机，在质量变革、效率变革、动力变革中发挥人工智能作用，提高全要素生产率。习近平新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能，正在深刻改变人们的生产生活方式。在新闻媒体领域，智能“涌现”与5G、大数据、云计算、物联网、区块链等技术共同点燃了新一轮媒介革命的引擎。透过徐徐拉开的人工智能变革大幕，我们看到，新闻媒体正迎来产8、能新驱动、体验新升级、业态新 习近平在十九届中央政治局第九次集体学习时的讲话（2018年10月31日）。习近平致二一八世界人工智能大会的贺信（2018年9月17日）。6人工智能时代新闻媒体的责任与使命前景的良好机遇。一、产能新驱动当今，人工智能迎来爆发式增长，算法推荐、语音交互、知识问答、图像生成等技术应用不断突破，生成式人工智能的热潮蔓延全球。2022年底，美国OpenAI公司研发的生成式人工智能ChatGPT横空出世；2024年，文生视频大模型Sora再度惊艳世界；近来，OpenAI推出最新o1模型、快手“可灵”入局文生视频赛道、Kimi大模型助手更新支持到200万字超长文本分析多模态及垂9、直领域大模型不断在世界各地涌现，人工智能技术在全球呈现加速发展的趋势。人工智能技术“井喷式”发展为新闻媒体提供了新的产能驱动。众多媒体纷纷把握这一技术先机，争做人工智能“早鸟”。新华社课题组调查显示，目前全球已有10.2%的媒体机构全面拥抱人工智能，在机构层面设立了相应机制，由上而下地将人工智能引入生产流程；41.0%的媒体机构正在积极探索人工智能技术应用，鼓励和支7人工智能时代新闻媒体的责任与使命持部分新闻业务板块试用人工智能技术。人工智能正在成为新闻媒体促生新质生产力、实现高质量发展的重要增量。1.聚合信息，丰富来源新一代人工智能技术通过精准的搜索引擎、分析引擎和可视化组件，自动收集背景信10、息，推荐消息来源和线人，进行消息源验证和核查，为采编人员提供更具价值的新闻线索和多元观察视角。新华社研发的“新闻雷达（NewsRadar）”，能够自动预警突发事件，并根据事件性质和规模预测事件热度；BBC研发的新闻聚合和内容抽取系统“榨汁机（Juicer）”，能够自动抓取全球免8人工智能时代新闻媒体的责任与使命费新闻网站的内容，利用人工智能将新闻分类、贴标签，为记者提供新闻素材和选题参考；纽约时报 开发的数据分析机器人“Blossomblot”，通过对社交平台上推送文章的分析，预测适宜在社交平台上传播的信息，帮助打造“爆款”内容；美联社推出由人工智能驱动的多模态搜索平台，用户可以通过语义搜索更11、容易地找到符合条件的照片和视频，为丰富新闻媒体的信息来源提供帮助。2.辅助生产，优化品质在新闻生产环节，智能创作平台以“知识服务+AI”的方式，为媒体从业者提供更多的知识辅助与支撑；写作机器人、AI创作助手等技术应用，能完成语音转文字、自动剪辑、字幕生成、智能配乐、自动翻译、文本图片转视频等一系列工作任务。人工智能的深度应用，让媒体人从大量重复琐碎的人工劳动中解放出来，专注于内容创新创意。新华社自主打造可控、可靠、多智能体融合生产引擎“新华新语”，在内容核查、虚假信息9人工智能时代新闻媒体的责任与使命鉴别、智能态势分析、知识增强的智能策划、视觉增强的智能创作等方面表现突出。人民日报推出的“创作12、大脑AI+”平台，集纳了近20款智能工具，可及时制作、快速生成多模态新媒体产品，一站式完成采访、拍摄、直播、剪辑、发布等全流程工作；全息采录眼镜支持实时人脸识别、AI 语音互动、实时直播流发起等多种功能。在垂直报道领域，针对各类细分行业的专业模型也不断涌现。彭博社是人工智能、机器学习和自然语言处理在金融领域应用的开拓者，其开发的Bloomberg GPT TM 语言模型专门针对各种金融数据进行训练，为进一步优化金融信息服务打开了新空间。课题组调查显示，在应用场景上，媒体机构有组织探索较多的前三个方向是：1.辅助编辑，如事实核查、语音转文字、配字幕、翻译等；2.创作内容，如生成摘要、制作图表海报13、、数字主播配音等；3.策划选题或草拟提纲。10人工智能时代新闻媒体的责任与使命3.精准画像，个性分发在内容分发环节，人工智能依托广泛串联的数据信息，帮助媒体开启深度洞察，勾勒用户画像，与用户建立深度联接，更好实现精准推送。今天，借助人工智能技术，个性化推荐已经成为新闻分发的主流方式。媒体的推荐逻辑不仅基于历史浏览记录，还将更多精细化的数据纳入考量。美国新闻聚合网站BuzzFeed、风靡全球的短视频平台TikTok都将用户数据分析做到极致，根据用户点击的频次、停留的时间、喜好的内容等做出综合分析，指导内容策划、运营和推广。11人工智能时代新闻媒体的责任与使命不仅如此，生成式人工智能还赋能“点对点14、”信息传播。这意味着，用户能够通过嵌入在各种搜索引擎和应用程序里、专属于自己的“信息管家”，获得特定场景下所需要的内容。借助“点对点”传播，智能分发甚至不必通过集中性的平台就能实现。目前，微软、谷歌、百度等均已在搜索引擎中部署了生成式人工智能程序，大型语言模型与搜索引擎的融合，或将成为新的流量入口和新闻分发渠道。4.科学评价，高效管理人工智能技术能精准实现传播效果评估与数据考核，帮助媒体进一步提升管理效率。如通过分析用户观看时长、点击率以及分享次数等数据来量化评估内容的吸引力；通过情感分析工具捕捉受众在观看过程中的情感变化和社交媒体上的讨论，判断传播内容的感染力；通过观察用户的互动行为，如评论15、数量、点赞、踩、举报等，来评估用户的参与热情。在华盛顿邮报“中央厨房”编辑室的屏幕上，可视化数据图表同步显示网站的登录人12人工智能时代新闻媒体的责任与使命数、每篇文章的阅读数排名、用户喜欢作者排名以及读者喜欢阅读的文章类型百分比等数据。英国金融时报便用机器人检查报道中引用的信源是否过多地来自特定人群。课题组调查显示，有74.6%的受访媒体预期，生成式人工智能有助于提高新闻报道的时效性；有74.4%的受访对象认为，生成式人工智能有助于提高新闻生产效率；预期生成式人工智能对提升新闻分发精准度和作品呈现创造性有帮助的媒体占比分别达到66.7%和63.3%。13人工智能时代新闻媒体的责任与使命二、体16、验新升级人工智能技术与新闻媒体的深度结合，不仅强力赋能新闻信息生产，而且为新闻信息的消费者带来充满惊喜的新变化。人工智能时代的媒介消费，将是一种以人为本、联通万物的全新体验，“四全媒体”（全程媒体、全息媒体、全员媒体、全效媒体）的发展图景更加清晰、机遇空间更加广阔。1.超越时空，随时触达人工智能技术的广泛应用，让传播超越时空限制，在任何时间、任何空间、任何场景都能到达用户。媒体智能系统能够根据用户行为、立场、兴趣偏好的动态变化，第一时间捕捉用户的即时需求，在重大新闻事件爆发时，迅速识别并推送相关资讯。大模型还可以根据已知信息进行信息补全，模拟事件发生经过和还原新闻现场，用具象化的方式解释新闻事17、件，确保用户在“黄金时间”获取真实、全面的信息。14人工智能时代新闻媒体的责任与使命智能驱动的场景感知贴身服务，能够识别用户的地理位置信息，推送与其生活紧密关联的内容。NBC?环球在巴黎奥运会期间新推出电子商务广告工具“虚拟售货亭”，结合受众观看节目时的消费习惯，推出不同类型的广告服务。未来，越来越复杂的算法总能随时随地感知用户对于信息获取、商品交易、享受服务等多元需求，用户到哪里，服务就延伸到哪里，并以合适的方式呈现出来。2.虚实融合，身临其境人工智能与虚拟现实（VR）、增强现实（AR）、混合现实（MR）等技术结合，搭建起全方位、多感官、多维度的传播场景，为沉浸式体验增添智能维度。全息通讯叠18、加强大的算法、算力，让高保真的数字化影像实时呈现，用户可化身为与自己等比的虚拟形象，在虚拟世界中通过“数字分身”实现实时互动，不仅可在人与人之间创建更真实的情感联结，更能够使用户“亲身”体验难以获得的现实经历。中央广播电视总台利用“虚幻引15人工智能时代新闻媒体的责任与使命擎+XR+虚拟演播室技术”，在台风“摩羯”等相关报道中实现室内与户外多场景的丝滑转场，不仅显著增强了信息传递的有效性，也提升了报道的艺术表现力；纽约时报 泰晤士报 时代周刊等也利用AR技术还原NASA火星任务、重温阿波罗11号执行任务全程、呈现亚马逊热带雨林变迁，给用户带来更真实、直观的感受。人工智能与多模态技术的融合，还将19、实现文化、地域、传统、美学的数字化跃迁，广泛应用于历史文化艺术的传播。用户可以用手代槌敲响虚拟国家一级文物曾侯乙编钟，亲身体验国宝魅力；用户可以深入一砖一瓦、每一幅壁画、每一处雕刻都被精准还原的巴黎圣母院，以全息全感的方式领略这座世界级文化遗产的历史回响与艺术精髓。3.人机交流，达意传情媒体利用大模型技术，采用人性化的对话方式提供信息内容，打破传统媒体与受众间的单向传播模式，实现双向交流和互动，使用户在信息获取过程中有更多的参与感。随着机器对人类心16人工智能时代新闻媒体的责任与使命理洞察、情绪感知能力的不断增强，人工智能还将推动媒体从“物理性媒介”向“心理性媒介”过渡，使用户在信息接收过程中20、，得到内心抚慰和情感满足。当前，生成式人工智能在新闻活动中已有一定的“主体性人格”，借助人工智能开发的“新闻管家”“信息伴侣”等垂直化应用，将具有更强的社交智能，能根据其所定位的角色、个体信息和个性化需求来定制功能。随着聊天的不断深入，用户会发现，这些人工智能在交互中越来越主动，会自行引入新的话题、提供意想不到的额外信息和情感支持，用户也可以对人工智能的回答进行反驳、质疑，促使其不断提高回答质量。在互动中，人工智能已逐步从“工具”发展成为“伙伴”。三、业态新前景人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”17人工智能时代新闻媒体的责任与使命效应。在人工智能驱21、动下，一些国家和地区的传媒业态正从简单的“+AI”（将人工智能作为辅助工具）逐步提质升级到“AI+”（人工智能成为核心驱动力）的新高度。展望未来，在人工智能技术的加持下，传媒业态或将加速呈现万物媒介化、媒体平台化、产业数智化的新前景。1.万物媒介化以信息技术、人工智能为代表的新兴科技快速发展，大大拓展了时间、空间和人们认知范围，人类正在进入一个“人机物”三元融合的万物智能互联时代。人工智能，正携手5G、物联网、大数据、云计算等技术，让“万物皆媒”成为现实。在人工智能的赋能下，信息传播将突破人的限制，实现人与人、人与物、物与物的泛在化连接。如无人机、摄像头、传感器等应用，延伸了 习近平在十九届中22、央政治局第九次集体学习时的讲话（2018年10月31日）。习近平在中国科学院第二十次院士大会、中国工程院第十五次院士大会和中国科学技术协会第十次全国代表大会上的讲话（2021年5月28日）。18人工智能时代新闻媒体的责任与使命人的“感官”，可触达远距离、多维度的信息。生成式人工智能则更像“人脑”，具有归纳总结、推理演绎、内容生成等功能。这些具备了泛媒介化媒体属性的“智能体”，与人协同融合、自我进化。在“万物皆媒”的时代，几乎任何智能终端都不仅是内容分发接收终端，也是人机互动、协同、陪伴的能动主体。智能家居、智能汽车、智能音箱、智能手表等终端的传播潜能日渐凸显，对智能终端及其采集数据的控制和利用23、，也将成为传媒业及媒介生态中的新竞争力。新闻媒体积极适应智能网联汽车发展趋势，面向高速移动环境下的媒体应用场景，基于人工智能、生物传感、情感计算等技术进行个性化音频内容推送，拓展新闻信息传播应用场景，打造传感器技术与新闻传媒融合新模式。未来，人体终端化、脑机接口技术等，更将不断扩展人类信息传播和精神交往的广度和深度。2.媒体平台化平台作为数字基础设施，具有强大的技术、19人工智能时代新闻媒体的责任与使命庞大的用户群以及将不同群体相连接的能力，成为“重构传播权力”的重要力量。在人工智能技术的驱动支撑下，“媒体平台化”的现实可能和未来空间进一步被拓展。媒体平台化意味着，通过技术创新和用户参与，新闻24、媒体实现了信息的快速传播、个性化推送和多样化表达，增强了信息传播的便捷性和互动性，并整合传统媒体和新媒体的优势，通过多渠道传播提供综合服务，实现传播触角、内容生态、商业模式、运营机制的全新塑造。新华社客户端不断优化提升算法，升级智能推荐、精准推送能力，将用户阅读习惯、专业新闻判断与前沿计算机技术结合，突出主流价值导向，探索打造移动互联网时代的新型消息总汇和主流传播平台。在媒体平台化的过程中，新闻媒体既是传播媒介，即内容生产机构和运营机构；又是技术载体，即利用数据、算法、人工智能技术等对社会关系产生影响；同时具有商业资本的属性，通过聚合连接，实现对市场资源的匹配和再分配。由此，智能化的媒体平台在25、新传播场景中可以占据20人工智能时代新闻媒体的责任与使命更多主动，成为社会信息传播的主要场景和容纳各类社群的服务载体。3.产业数智化人工智能带来了巨大的产业机遇和广阔的市场前景。中国新一代人工智能发展规划提出，到2030年，中国人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。越来越多的新闻媒体率先接纳、坚持、寻求数字化和智能化技术带来的转型与突破，从传统媒体向智能媒体不断迈进。数智化转型意味着传媒产业从内容驱动向技术、资本和内容等多重驱动的转变，这种转型升级不仅体现在内容与技术的紧密结合，更涉及整个产业链的深度融合与重构。在人工智能的推动下，传媒产业链上下游及其关系发生深刻变26、化：上游内容创作者与技术专家更紧密地合作，共同参与内容创作全过程，使得内容创作更加便捷和高效；中游媒体平台加强与技术公司合作，建立“智能中台”，在提升全要素生产效率的同时连接更广泛的社会资源，为传媒产品的创意策划、内21人工智能时代新闻媒体的责任与使命容审核等提供科学、高效的技术解决方案；下游终端渠道重视内容分发和推广策略制订，精准推送内容给目标用户，增强传播效果和用户黏性。传媒产业链的升级演变，将推动传媒产业结构进一步调整和优化，为传统传媒业突破发展瓶颈、实现更高质量发展提供更多可能性。新京报依托空间漫游技术，推出沉浸中轴(AR+VR)：全景穿越京城脊梁视觉产品，立体形象地重现了北京中轴线上27、的15个申遗遗产点位，助力文化传承与申遗保护工作，探索挖掘衍生文创产品等商业价值。齐鲁晚报基于虚拟设计、AI数字人、光学动捕拍摄等技术打造了元宇宙平台“壹点天元”，推出“云祭孔”元宇宙发布会、齐鲁国际车展元宇宙展厅、元宇宙医院，建设元宇宙文化综合社区，探索新型商业模式。未来，人工智能技术将为媒体的多元化跨界“淘金”，实现“增产增收”带来更多可能。22人工智能时代新闻媒体的责任与使命第二章挑战：人工智能催生多重风险人工智能技术发展和其他技术进步一样，是一把“双刃剑”。习近平一切技术发展，都具有“福祸相依”的两面性。著名物理学家霍金曾发出警告，强大人工智能的崛起对人类来说，可能是最好的事情，也可能28、是最糟糕的事情。由于人工智能技术自身的不确定性和应用的广泛性，人工智能发展在赋能新闻媒体的同时，也催生出种种风险。一、虚假信息引发信任危机真实性是新闻的生命，事实是新闻的本习近平在十九届中央政治局第九次集体学习时的讲话（2018年10月31日）。23人工智能时代新闻媒体的责任与使命源，虚假是新闻的天敌。人工智能技术的滥用恶用使得虚假信息生产及传播呈现大规模、多样化、病毒式等特点，不仅侵蚀着新闻媒体的社会信任基础，还引发了全球信息环境的真实性危机。1.“无限量产”更具灾难性人工智能的介入从技术上降低了虚假信息生产传播的门槛和成本，大幅提升了正常信息环境中虚假信息的数量级，为人类正确认知社会制造出29、层层“信息迷雾”。在一项针对人工智能大模型的测试中，研究人员向ChatGPT提出充满阴谋论和虚假叙述的问题，结果它以新闻、散文和电视脚本等形式，在几秒钟内编成大量看似令人信服却毫无信源的内容。业内人士感叹，“这个工具将成为互联网上有史以来最强大的传播错误信息的工具。”习近平在党的新闻舆论工作座谈会上的讲话（2016年2月19日）。24人工智能时代新闻媒体的责任与使命课题组调查显示，生成式人工智能在传媒领域已引发行业变局，不过不同媒体机构的感知存在“温差”。有32.4%的受访媒体表示生成式人工智能对他们的影响“尚不明显”。67.6%的受访对象则明显觉察到近在眼前的变局，共鸣较多的三个侧面是：1.30、生产流程需要改造，编辑记者工作方式面临转变；2.媒体之间、尤其是来自自媒体的竞争更激烈；3.需抽出更多精力来分辨虚假新闻、虚假照片等。不同国家的调查数据都表明，人工智能在虚假信息传播中发生强力推动作用。清华大学25人工智能时代新闻媒体的责任与使命新闻与传播学院新媒体研究中心2024年4月发布的报告揭秘AI谣言：传播路径与治理策略全解析指出，人工智能工具的不当使用使得AI 谣言量高速增长，近半年信息量增长 65%，其中经济与企业类 AI 谣言量增速甚至高达99.91%。美国新闻可信度评估与研究机构在2023年底发布的一份报告称，利用人工智能代理创建的假新闻网站在7个月内从49个激增至600多个，31、“人工智能正在成为下一个错误信息超级传播者”。课题组调查显示，多数媒体机构对生成式人工智能的应用较为审慎，担心被其拉低可信度。对于“您所在媒体机构遇到过或预期会遇到哪些生成式人工智能带来的问题”这一提问，高达76.4%的受访对象表示，担心出现“新闻线索和素材失真失准”的情况，明显超过回答数量排在第二位的“版权及权责归属问题”（占比为61.1%）。26人工智能时代新闻媒体的责任与使命人工智能助长虚假信息泛滥已经引起全球范围内的警惕与担忧。韦氏词典、剑桥词典分别选择“Authentic（真实）”“Hallucinate（幻觉）”为2023年度词汇，均是对人工智能引发真实性危机的回应。在世界经济论坛32、2024年年初公布的全球风险报告中，人工智能生成的错误信息和虚假信息也被排在气候变化、战争和经济疲软等问题之前，成为人类世界在短期内要面对的头号风险。27人工智能时代新闻媒体的责任与使命对于未来3至5年生成式人工智能与传媒行业融合会否提升信息环境可信度可靠性的问题，有36.4%的受访对象持悲观预期，比持乐观预期者（24.1%）高出12.3个百分点。另有39.5%的受访对象持中性预期。真实可信是新闻报道的生命。由此推测，多数媒体机构短期内或许只会让生成式人工智能在内容生产环节扮演有限的辅助角色。2.“深度伪造”更具迷惑性人工智能的多模态功能拓展，使得虚假信息的内容形态更加多元，也更加难以被普通人33、所辨别。以“深度伪造”为代表的前沿技术突破文字限制，可以通过对图像、声音、视频的28人工智能时代新闻媒体的责任与使命篡改或伪造，产生高度逼真且难以甄别的多媒体信息。随着深度伪造技术的成熟和普及，过去只有在影视大片中才能出现的虚构场景，如今只需一个软件就能一键生成。有些伪造内容不仅仅是“张冠李戴”“捕风捉影”，甚至还可以“无中生有”。这种迷惑性极强的技术应用大大助长了电信诈骗、色情视频合成等社会性犯罪活动，也令新闻信息更加真假难辨。近年来，各种针对公众人物的深度伪造视频屡次掀起舆论风波。2023年底，不法分子利用深度伪造技术，篡改了新加坡前总理李显龙在国庆群众大会上的讲话和接受 CGTN 主持人34、访谈时的录像，用以宣传加密货币的投资骗局，相关视频在网络上广泛流传。李显龙在社交媒体发文进行澄清，“利用深伪技术传播虚假信息的现象将继续增加，我们须保持警惕，学会保护自己和亲人免受这类骗局的侵害。”29人工智能时代新闻媒体的责任与使命课题组调查显示，对于那些尚在观望的媒体机构，阻碍其成建制应用生成式人工智能的众多因素中，排在前三位的分别是：1.人工智能自身还不完善，如生成内容的准确性、可靠性等达不到预期和要求；2.人机协作难，缺乏相应融合型人才；3.技术投入成本高。基于对深度伪造技术的担忧，公众对虚假信息的风险感知意识也在不断加深，对任何信息来源，包括新闻媒体等传统信源也逐渐产生警惕和怀疑，社35、会整体信任无疑遭到严重侵蚀。路透社30人工智能时代新闻媒体的责任与使命发布的2023年数字新闻报告称，受深度伪造等技术影响，只有40%的受访者表示信任媒体报道的新闻。3.“仿真传播”更具隐蔽性人工智能不仅在生产层面助推了虚假信息的泛滥，还在传播层面为其提供了更加强大的工具。以“社交机器人”为代表的新一代“网络水军”散布在全球各大社交媒体上，成为无孔不入的“网络隐形病毒”。“在互联网上，没有人知道你是一条狗”，多年前美国杂志纽约客上的这句话随着互联网的普及而被世人熟知。在人工智能时代，越来越多的智能大模型通过了用以检验机器人类特征的“图灵测试”，人们愈发难以判断互联网的另一端是人还是机器，也无从36、知晓每一条信息背后的真正主体和行为动机。作为一种运行在社交媒体平台上的智能代理，“社交机器人”能够根据操控人的意愿自动生成内容，并模仿人类真实用户的状态和行为参与互动交流，制造各种“虚假热度”“虚假共31人工智能时代新闻媒体的责任与使命识”。相比于“人工操作+匿名账号”的传统“网络水军”，由“社交机器人”构成的“机器人水军”可以输出个性化观点，并24小时不间断工作，持续打造自身的“人设形象”，使得虚假信息的传播更加隐蔽和难以察觉。2022年8月底，美国斯坦福大学网络观察室（Stanford Internet Observatory，简称SIO）和社交平台分析公司Graphika联合发布报告，披37、露美国利用社交媒体操纵全球涉疆舆论，“社交机器人”就在其中扮演了重要角色，其操作套路包括：用人工智能生成照片当头像、冒充“独立”新闻机构、制造热门标签引起话题讨论等。二、技术滥用破坏舆论生态营造良好的舆论环境，是治国理政、定国安邦的大事。安全、和平、清朗的国际舆论空间，也对全球合作与发展意义重大。人工智能在习近平在会见中国记协第九届理事会全体代表和中国新闻奖、长江韬奋奖获奖者代表时讲话（2016年11月7日）。32人工智能时代新闻媒体的责任与使命信息传播领域的广泛应用，为全球舆论生态注入新变量，在个体、社会和国际等多个层面形成新的风险挑战。1.算法偏见诱导个体认知人是舆论的主体，也是舆论环境的38、关键构成要素。人工智能难以摆脱内嵌于数据和算法中的偏见，以及定制化内容的“茧房”效应，对独立、理性、健康的个体认知与价值塑造带来挑战。由于机器深度学习的特点，大型语言模型无可避免地会继承数据语料库和人类设计师的刻板印象或价值偏见。这些或明或暗的立场、偏见如果不加以限制，机器控制人类的场景很有可能成为现实。在刘慈欣的科幻小说三体中，高级文明可以通过技术手段将某种思想或信念刻印在个体意识中，书中称之为“思想钢印”。人工智能目前虽然无法直接作用于人的大脑，但已经深入参与到社会信息流动的各个环节中，可以凭借“量”的碾压和“时间”的积累逐渐占领社会意识生产领域，最终实现对用户的价值传导甚至是33人工智能39、时代新闻媒体的责任与使命认知侵蚀。即使人工智能始终秉持“为人类服务”的宗旨，其所遵循的个性化生产和精准化推送的算法逻辑，也可能会限制用户的信息认知范围，使认知窄化、思维固化、群体极化等问题更加突出。尤其是在传媒领域的注意力争夺中，用户往往偏好那些具有强烈视觉冲击力、故事性和情感化的信息内容，人工智能可能会为了满足大众喜好，予以相关内容更高的权重和更多的曝光，而有深度有价值的内容则面临被不断边缘化的风险。2.机器水军操控社会舆论在人工智能技术的加持下，舆论操纵的手法不断翻新、工具持续升级，舆论生态进一步复杂化与浑浊化，极大增加了社会意见分裂、秩序混乱、心理动荡的现实风险，对社会的正常稳定运行构成40、严重威胁。“舆论是社会的皮肤”，公众围绕公共事务形成敏锐、理性的舆论，社会肌体也就有了能够感知民意的健康皮肤。舆论是现代民主社会持续稳定运行的重要基石，但其强大的社会影响力也令34人工智能时代新闻媒体的责任与使命各方“虎视眈眈”。高级人工智能的出现为影响甚至控制舆论提供了便利，为社会舆论应有的透明性、公正性蒙上阴影。在政治领域，人工智能很早即被用于影响目标对象的价值判断和政治立场，或破坏敌对势力的舆论环境和社会形象。2016年，剑桥分析公司未经同意收集脸书数千万用户的个人信息进行选民分析，为唐纳德特朗普的总统竞选活动投放政治广告，成为技术干预政治选举的一大标志性事件。随着人工智能技术的升级迭代41、，各种“操纵工具”更加唾手可得，隐蔽性欺骗性大幅提升。2024 年，各方对利用人工智能干扰选民、操纵选举、破坏稳定的担忧愈加强烈。在社会领域，恶意操控者还利用人工智能工具发布大量情绪化内容，在种族、移民、贫富差距等社会敏感议题上激化社会矛盾、影响舆论走向。在商业领域，人工智能也被广泛用于“刷数据”“刷评分”“刷销量”等，以达到歪曲和屏蔽真实评价、促销商品或诋毁竞争对手的目的，对市场秩序造成严重破坏。35人工智能时代新闻媒体的责任与使命3.智能武器加重信息对抗在社会矛盾多发、地缘政治紧张的国际局势下，人工智能被广泛应用于“情报战”“舆论战”“认知战”中，使国际舆论关系更加紧张，对抗升级、冲突爆发42、的风险大大增加。人工智能为广泛开展网络入侵、情报搜集、舆论攻击等提供了极大便利。通过数据差异化投送，人工智能可以瞬时制造舆论潮流，影响群体认知。通过数据跟踪和算法策略，人工智能可以预判不同地域、群体认知态势，辅助规划、推动实施核心叙事和议题。在社交媒体上，利用人工智能捏造虚假信息、煽动群体对立、开展意识形态渗透的行为也已司空见惯。2022年，关于乌克兰总统泽连斯基要求其军队投降与俄罗斯总统普京宣布战争结束的伪造视频广泛流传。本轮巴以冲突以来，社交媒体上也产生了大量虚假内容，如将效果逼真的游戏视频篡改成哈马斯发动袭击的录像，伪造国际知名人物挥舞巴勒斯坦国旗的照片等。在人工智能技术散布的战争信息迷43、雾中，真与假混36人工智能时代新闻媒体的责任与使命淆，猜疑与分歧滋长，人工智能改变了现代战争的性质、手段、方式。三、快速发展加剧治理忧虑随着新型人工智能的密集涌现，对于未来技术颠覆人类价值可能性的讨论不断升温，引发不同程度担忧，人工智能带来的价值争议和治理难题也已成为全球焦点。1.发展路径之争人工智能具有基于程序自我学习控制等特点，即使是人工智能算法的设计者，也难以完全预测其经过自我优化学习后的数据处理方式，这种“技术黑箱”令人工智能的“未知”远大于“已知”，引发了对其发展路径的广泛争议。“加速”还是“价值对齐”？围绕人工智能的未来发展方向，研发人员逐渐分化为两个阵营。支持“加速”的一方认为，44、社会进步依赖技术创新，推动人工智能发展是人们不断追求的目标。而“价值对齐”派则主张首先考虑人工智能的伦理影响和社会后果，确保技术沿着符合人类价值37人工智能时代新闻媒体的责任与使命的轨道前进。2023年3月，包括图灵奖得主约书亚本吉奥（Yoshua Bengio）、特斯拉 CEO 埃隆马斯克（Elon Musk）等在内的数千名AI领域企业家、学者、高管发出了一封题为暂停大型人工智能研究公开信，集中表达了人类社会对超级人工智能的种种担忧，并强烈呼吁共同制定和实施一套全人类共享的安全协议。但与此同时，全球各大科技公司都在加紧部署研发，各类新产品新应用层出不穷。在未来很长一段时间内，人工智能的发展仍45、将处于两种理念的博弈之下。面对人工智能这一未来核心战略资源，利益相关方可能产生更大分歧。技术伦理问题被政治化、商业巨头间的“科技竞赛”、国家间的“军备竞赛”等，无疑将为后续全球立法和治理带来更多阻碍。38人工智能时代新闻媒体的责任与使命课题组调查显示，大部分观望中的媒体机构并不排斥或轻视生成式人工智能，而是计划在相关条件成熟时再入局，他们优先考虑的前三个条件是：1.确定可用人工智能来显著提升生产力、节省人力的业务板块；2.人工智能的性能跃升，准确性、可靠性等大幅改善；3.确保不会陷入新闻伦理争议、监管麻烦或法律纠纷。仅有6.4%的受访媒体表示，无论如何都暂不考虑采用生成式人工智能工具。2.价值46、对齐之困随着“人工智能威胁论”的声量日渐扩大，39人工智能时代新闻媒体的责任与使命“价值对齐”已经成为人工智能治理领域最根本也最具挑战性的概念之一。但在实际操作中，价值对齐面临多方面挑战。价值对齐旨在让人工智能在道德原则、伦理规范和价值观上与人类保持一致，以确保其能以对社会无害的方式运转。但在全球多元文化背景下，“向谁对齐”“如何对齐”的问题依然难以解决。在媒体领域，不同国家的媒体人在新闻价值判断、职业身份认同和采编操作惯例上都存在差异，很难对人工智能技术的媒体应用标准进行对齐。哪怕是“真实”“公正”“非歧视”等原则性的新闻理念，通过技术路径进行抽象、量化和对齐也存在失灵风险。例如，当亚马逊公47、司尝试利用人工智能筛选求职履历时，人们很快就发现算法在大量“过滤”女性申请人，类似的性别偏见、种族歧视等在新闻编辑部的人工智能应用中同样难以避免。更值得注意的是，人工智能与新闻生产紧密结合，其操作规范和运行逻辑会影响编辑记者对什么是新闻、什么是好新闻、什么是有价值的新40人工智能时代新闻媒体的责任与使命闻的评价标准，新闻价值体系面临新的调整与更迭。而如果新闻生产过度强调以技术规则限定记者行为、以流量数据评估新闻质量、以程序规范衡量新闻价值，将可能导致工具理性偏离价值理性、新闻价值偏离公共价值、新闻媒体偏离社会主流，影响其正向社会功能的发挥。3.监管制度之失人工智能等新技术新应用快速发展，催生一48、系列新业态新模式，但相关法律制度还存在时间差、空白区。尤其在隐私、版权等具体问题上，相关共识达成和制度建设仍需加快步伐。隐私数据保护与人工智能发展之间存在着天然矛盾。海量的人类行为和知识数据是人工智能升级迭代的关键要素，其各种应用场景同样基于大量个人数据，人工智能对数据的高度依赖令隐私“无处遁形”。2023年，意大利就曾因隐私数据问题一度禁用ChatGPT，并限制OpenAI公司处理意大利用户的相关信息，英国、爱尔兰等多习近平在中央全面依法治国工作会议上讲话（2020年11月16日）。41人工智能时代新闻媒体的责任与使命国也启动了针对人工智能大模型违规收集数据隐私的调查。在媒体领域，用户数据虽49、然有助于新闻媒体提供更加便捷、精准、高效的信息服务，但也让隐私泄露风险进一步加剧。作为社会公共利益的守卫者，媒体在划定隐私边界、化解隐私悖论中面临更为苛刻的伦理期待，人工智能则进一步提高了这一问题的广泛性与敏感性。随着信息生产权、加工权、发布权和转载权不断下放，人工智能带来的版权争议也日益凸显。对媒体而言，专业、优质的新闻报道是人工智能的重要学习数据集，但其生成内容不可避免地带有原始数据的影子，容易对部分专业媒体的内容版权构成侵犯。2023年12月，纽约时报正式向OpenAI及其投资人微软公司提起侵犯版权诉讼，指控这两家机构未经许可就采集该报数百万篇文章以训练人工智能。这是全世界首个人工智能公50、司被大型媒体机构起诉侵犯版权的案例，也成为了媒体在人工智能时代面临版权问题的一个缩影。此外，人工智能辅助生产的新闻产品的版权归属与利益分配问题，同样处于悬而未决的42人工智能时代新闻媒体的责任与使命状态。如何保障各方合法权益，建立公正透明的版权机制，对各国立法者提出了迫切要求。四、智能应用加大发展鸿沟和任何其他影响深远的技术突破一样，新一代人工智能技术的广泛应用必然会带来社会财富和权力的转移，引发一系列社会政治和经济问题，带来关于贫富差异、城乡差别、南北差距等问题的讨论。这些问题的核心，是如何公平分享技术发展带来的红利，让技术成果惠及全人类。1.个体差异与“弱势群体”拥有人工智能技术的人在未来51、将更具竞争力和优势毋庸置疑。但由于认知能力、资源占有、人工智能素养的差异，老年人群体、低学历群体、低收入群体等在人工智能应用发展演进的过程中不断被边缘化，成为人工智能时代新型的“弱势群体”。以老年群体为例，数字化生存的作者尼古拉斯尼葛洛庞帝曾断言，“人类的每一代都会比上一代更加数字化”，在全球老龄化程度日43人工智能时代新闻媒体的责任与使命益加深与人工智能技术高速发展的双重作用下，老年群体往往因信息技能水平不高、学习能力下降、身体机能退化等，无法获取人工智能所带来的“红利”，走向“抵制”与“沉迷”两种极端。一方面，大多数老年人对新技术新事物更容易产生抵触心理，很难接受并掌握新的技术应用；另一方52、面，部分老年群体则极易陷入“数字沉迷”，更易遭受虚假信息、算法欺骗、信息茧房等带来的伤害。2.城乡差别与“智能洼地”全球范围内普遍存在的城市和乡村间的“智能鸿沟”不仅是一个技术问题，更是一个社会和经济问题。这种差距不仅存在于社会发展、要素配置、教育水平、基础设施等方面，还在于个体收入、文化素养、信息技术能力、知识观念等方面。在中国，城市用户多已接入 5G 和千兆光网，而农村网络服务在速度和稳定性方面跟城市相比仍存在不小差距。人工智能新技术公司也大多集中在北京、长三角和珠三角地区，西部地区44人工智能时代新闻媒体的责任与使命寥寥无几。在美国，人工智能“洼地”甚至“荒漠”也大范围存在。华盛顿邮报在53、2024年6月的一篇报道中指出，“美国农村地区对宽带服务的等待已久，多数地方仍依赖通过铜线传输速度较慢的互联网，无法传输大量数据，一些地区甚至根本没联网。”在少数族裔和原住民居住的广大乡村地带，“断网”问题尤为突出。人工智能时代的教育资源失衡等问题也愈加突出。生活在城市的孩子从小有机会亲身体验科技的魅力，感受人工智能所带来的新奇与便捷，了解人工智能背后的科学逻辑；而对大多数乡村孩子而言，“人工智能”只是一个抽象的词语、模糊的概念，他们对此缺乏具体感受和理性认知。显然，人工智能“洼地”的普遍存在将在一定程度上加大社会的分化与撕裂，技术发展的“红利共享”仍任重道远。3.南北差距与“智能鸿沟”中国驻54、联合国大使傅聪在联大介绍加强人工智能能力建设国际合作决议草案的发言中提到“当前全球人工智能技术飞速发展，对各国经45人工智能时代新闻媒体的责任与使命济社会发展和人类文明进步产生深远影响。但大多数国家特别是发展中国家人民尚未能真正接触、使用人工智能并从中受益，全球数字鸿沟仍有扩大之势。”随着全球经济加速向人工智能驱动转型，欠发达国家面临着被更远落下的局面，与发达国家间经济和社会发展鸿沟正不断加剧。人工智能技术的不平衡应用正成为远超经济增速本身的关键性问题。目前，人工智能的经济和社会效益在地理上主要集中在全球北方。英国媒体Tortoise于2023年发布第四版全球AI指数，根据投资、创新、实施三个55、维度对全球62个国家和地区进行排名，其中美国排名第一，中国、新加坡分列第二、三位，在前二十的国家中，有11个欧洲国家。在ChatGPT、Sora、工业机器人已经在领先国家广泛使用之际，非洲、拉美等国家还有不少人口只能用2G网络打电话、发短信，甚至处于完全“断联”状态。随着未来社会生产方式进一步向智能化转型，南北方之间的全要素生产率、经济增长、教育水平、数字素养与研发能力的分46人工智能时代新闻媒体的责任与使命化趋势或将更加严重。特别是大语言模型的训练与开发、顶尖人才的培养与招募，以及通信网络、大数据平台、算力中心、算法库等人工智能基础设施建设都离不开巨额资本投入，这将成为发展中国家短期内难以逾56、越的“智能鸿沟”。国际劳工组织 2024 年 注意人工智能鸿沟：塑造关于未来工作的全球视野报告指出，人工智能技术在为创新和发展带来巨大机遇的同时，其在各国之间不均衡的投资建设和部署应用极有可能加剧收入水平和生活质量的不平衡。当前，“智能鸿沟”正在形成，高收入国家在有关技术发展和应用中获益，而以非洲为代表的中低收入国家则较为落后。具体到人工智能技术对劳动市场的冲击上，不同国家和地区也是处境各异。发达国家的各类工作更多处在智能化、自动化大潮之下，但这些国家同时也能更好地利用人工智能技术，以此提高生产力。相比之下，发展中国家虽然因为缺乏数字基础设施建设，在短期内不会受自动化替代风险影响，但长期来看将57、面临生产力瓶颈。报告警告称，若不采取措施加强47人工智能时代新闻媒体的责任与使命国际合作帮助发展中国家，这一鸿沟将进一步扩大，甚至抵消掉人工智能技术本身对社会经济发展的促进作用。人们还注意到，当前，一些发达国家还凭借人工智能技术的“先发优势”，试图谋求科技霸权，构建排他性小圈子，阻挠他国技术发展，人为制造科技壁垒，恶意阻断全球人工智能供应链。种种形式的“小院高墙”势必进一步加深全球南北方之间人工智能的发展鸿沟，导致“强者恒强、弱者恒弱”。48人工智能时代新闻媒体的责任与使命第三章使命：坚持以人为本推动智能向善如何正确回答时代课题，广泛凝聚世界共识，媒体肩负着重要社会责任。习近平今天，加强人工智58、能监管，已经成为世界各国的共识。中国国家主席习近平在全球人工智能治理倡议 中提出了“以人为本”“智能向善”等基本原则，为解决人工智能治理难题贡献了中国方案。在人工智能掀起的时代浪潮下，世界各国媒体需要机遇共享、风险共担，以专业优势营造良好的信息环境和舆论生态，为构筑开放、公正、有效的人工智能全球治理机制，构建人类命运共同体，建设更加美好世界汇聚强大的习近平致第四届世界媒体峰会的贺信（2021年11月22日）。49人工智能时代新闻媒体的责任与使命媒体力量。一、加快智能驱动，提升媒体价值新闻媒体要充分发挥人工智能的工具价值，探索将人工智能运用在新闻采集、生产、分发、接收、反馈全流程、全要素中，以人59、工智能打造媒体新质生产力，为人们提供更好的新闻产品和新闻服务。1.以智能化提升系统效能为应对万众皆媒、去中心化的挑战，新闻媒体要更注重自我技术赋能，从传统“信息加工者”转型为“智能信息生产者”。构建人工智能支撑和驱动的生产传播体系、数据技术体系、组织管理体系、效果反馈体系，着力提升新闻媒体的传播力、引导力、影响力、公信力。以智能技术为依托，提升新闻传播的速度、深度、广度和准度，增强新闻媒体连接社会、凝聚共识的作用。50人工智能时代新闻媒体的责任与使命课题组调查显示，多数媒体机构认识到，生成式人工智能正以不可阻挡之势渗入传媒行业，无论现在是下场共舞还是静观其变，媒体都面临自我变革的压力以适应行业60、变局。对于如何自我变革来应对变局，受访媒体机构认可度较高的三个路径是：1.增强采编队伍的适应能力；2.增加技术投入；3.改造采编发业务流程。51人工智能时代新闻媒体的责任与使命2.以标准化确保安全可靠针对人工智能时代业态变化特点，媒体应不断改进升级新闻生产与传播标准，在采集、生产、发布和传播等各个环节，既充分运用人工智能技术赋能，又尽力规避人工智能技术风险，在媒体领域建立人工智能风险测试评估和防范保障体系。针对深度伪造内容、自动写作内容和各类算法推荐内容，新闻媒体要进一步完善新闻内容真实性审核机制，运用人工智能技术，对线索、素材进行严格的验证，确保向公众提供的信息可信可靠。加大事实核查技术研发61、和专业人才培养投入，并鼓励公众积极参与事实核查。3.以专业化升维新闻品质在“信息过载”和“信息茧房”并行的背景下，报道的深度与专业性具有更加宝贵的价值，是媒体履行社会责任、彰显自身公信力的重要体现。一方面应加强采编团队在细分领域的专业能力，另一方面可充分利用人工智能技术对信息进行挖掘、筛选、鉴别、关联、分析，延伸报道触角，以更有深度更有品质的新闻产品，满足受众52人工智能时代新闻媒体的责任与使命需求，推动社会进步。二、立足善意使用，健全伦理规范人工智能时代，媒体不仅是新闻信息传播的桥梁和纽带，更是社会价值观的塑造者和守护者。全球媒体在强化技术应用的同时，要坚守新闻伦理、践行社会责任，以人类主流62、价值驾驭“机器算法”，将新闻伦理贯穿于媒体人工智能应用的全流程、全要素，健全以人为本的伦理规范体系。课题组调查显示，针对生成式人工智能在传媒行业的应用可能产生的负面效果，只有14.4%的受访对象认为“现有规则框架具有足够约束力”，85.6%的受访对象都支持以某种形式加强规范与治理。53人工智能时代新闻媒体的责任与使命1.以新闻真实破除信息迷雾新闻真实是媒体维系公信力和影响力的基石所在。脱离新闻真实性的技术创新都是舍本逐末。新闻媒体要以新闻真实性作为应用人工智能技术的最终标准，用真实报道构建公众可信赖的基础认知空间。要把新闻媒体专业优势和人工智能技术优势相结合，向受众提供真实、公正、全面、及时的63、信息，破除信息失真、信息污染、信息孤岛、信息误导。各国媒体应发挥示范效应，不制造虚假信息，不操纵舆论干涉他国内政，不充当不沦为“认知战”工具，努力成为防御虚假信息传播的“守夜人”和“防波堤”。2.以新闻伦理驾驭工具理性媒体从业者是人工智能应用的直接使用者，其伦理意识水平将直接影响技术应用的社会效果。媒体应加强对从业者的人工智能伦理教育，通过持续的培训和学习，提升其伦理意识和技术素养，确保人工智能在实际操作中的规范合理应用。媒体在利用人工智能技术进行数据获取、算法设计、技术和产品研发运用的过程中，应特别54人工智能时代新闻媒体的责任与使命关注产品中可能存在的失真与偏见，确保信息的多样性、公正性和64、包容性，主动识别消除可能有悖于公平性和非歧视性原则的因素，减少公众误解、分歧与敌视。媒体应以全人类共同价值为基准，做好新闻信息把关人和社会价值引领者，主动消除对冲网络极端信息和有害信息，共同阻遏极端思想和恐怖主义内容扩散。媒体应坚持新闻伦理，强化社会责任，努力营造“真实为本、理性沟通、多元包容、健康积极”的认知环境和舆论生态，推动知识有效传播和技术红利普惠，为增进人类福祉和推动社会进步注入积极动力。3.以规范机制保护数据隐私媒体要更加关注人工智能潜在的技术安全风险、网络安全风险和经济社会风险，监督反映人工智能模型算法“黑箱”带来的个人隐私和国家机密泄露、深度伪造风险、版权归属问题。媒体应深刻认65、识数据安全、用户保护尤其是未成年人保护的重要性，建立健全机制，确保用户信息在采集、存储、处理和传输过程中得到充分保护。遵循“数据最小化”原则，尽量减少对个人信息55人工智能时代新闻媒体的责任与使命的采集和存储。在使用人工智能技术分析数据时，应严格控制数据的访问权限。媒体在设计和使用人工智能算法时，应遵循适度透明化算法的运行机制，确保用户知情权，形成行业自律机制，提升整个行业的运行规范水平。媒体还应通过加密技术和安全协议等手段，防范数据泄露和网络攻击等风险，通过风险监测、事实核查等方式，维护各国认知域空间安全，增进国际间沟通互信。三、加强对话合作，完善全球治理各国媒体应通过对话与合作凝聚共识，构66、建开放、有效、公正的人工智能全球治理机制，促进人工智能技术造福人类。1.弥合智能鸿沟，实现公平普惠各国媒体应当共同致力于弥合不同社会群体、不同地区国家之间存在的数字鸿沟、智能鸿沟，充分运用人工智能技术，通过多语种、多形式的内容生产，确保知识传播能够覆盖到社会各个群体，推动社会整体认知水平提升。高度重视56人工智能时代新闻媒体的责任与使命人工智能应用的南北差距，在技术研发、内容生产、数据分析、规则制定、人才培养等领域分享经验、共享资源、协同共进，反对人工智能领域的“小院高墙”、技术霸权。全球南方国家媒体应积极参与全球媒体领域各类人工智能规则标准的制定，增强自身在国际规则制定中的代表性和发言权，以67、实际行动争取各国人工智能发展与治理的权利平等、机会平等、规则平等。2.加强共享共建，推动务实合作各国媒体要联合专业机构，加强信息交流和技术合作，共享最新动态和知识成果，鼓励技术开源，探索人工智能媒体运用标准。在共识度较高的领域，如自然语言处理、图像识别、用户行为分析等方面，可考虑共同开发人工智能工具和系统，减少重复研发、避免资源浪费；针对“黑箱效应”“信息茧房”等突出问题，可联合开展风险测试评估，分享实践经验。要提升人工智能在虚假信息甄别和应对中的应用水平，整合各方资源，设立长期运行的联合核查项目或机制。探索多边媒体对话机制，搭建长期化、常态化交流57人工智能时代新闻媒体的责任与使命平台，为联68、合传播、合作研究奠定基础。3.寻求价值对齐，改进全球治理各国媒体不仅是信息传递的媒介，也是文化传承、文明交流的重要力量。和平、发展、公平、正义、民主、自由等全人类共同价值，是全球不同文明之间能够达成共识的基础，是推动全球治理的重要思想源泉，也是摆脱人工智能价值对齐之困的“金钥匙”。各国媒体应围绕全球人工智能治理议题，开展多层次、多形式的议题传播，引导理性讨论，倡导共同价值，推动公众关注、认识和参与治理进程，为形成国际共识营造良好社会环境；基于广泛参与、协商一致、循序渐进的原则，在充分尊重各国政策法规和实践差异基础上深化对话交流，促进各国法律法规和行业规范的对接；坚持以人为本，推动智能向善，致力69、于构建基于共同价值的人工智能伦理准则和全球治理范式，使人工智能朝着有利于构建人类命运共同体的方向发展。各国媒体应借助“文化+科技”的双向赋能，提高不同文明在国际传播中的话语权和影响力，打造国际社会的“网络58人工智能时代新闻媒体的责任与使命大外交”平台，深化文明交流互鉴，消除隔阂误解，促进民心相知相通，推动构建人工智能时代的人类命运共同体。59人工智能时代新闻媒体的责任与使命第四章调查：全球新闻媒体人工智能认知及应用现状围绕全球新闻媒体对人工智能的认知态度与应用情况，新华社国家高端智库于2024年7月至8月启动一项面向全球新闻媒体机构的问卷调查。问卷以中、英、法三种语言发放，受访者来自 53 70、个国家和地区的新闻媒体机构，包括报刊、广电、通讯社、网站、移动应用服务商等。调查共收回1207份答卷，其中有效答卷1094份。对于以生产文图视等内容为主业的新闻媒体机构而言，以ChatGPT为代表的生成式人工智能带来的影响和冲击较大，故本次问卷调查以此为焦点，力求透视人工智能引发的传媒新变局、新60人工智能时代新闻媒体的责任与使命图景。对有效答卷的分析发现：一、多数新闻媒体（66.0%）对生成式人工智能持积极态度新事物的出现一般都会伴随争议与疑虑，生成式人工智能亦然，它既被视作一种新质生产力而备受推崇，又因幻觉、偏见、思维定势、“政治正确”等问题而屡遭质疑。本次调查结果显示，媒体机构整体上对生71、成式人工智能对行业的影响持积极态度。数据显示，分别有20.3%和45.7%的受访媒体高度认同和基本认同“生成式人工智能给传媒行业带来的机遇大于挑战、益处大于弊端”，不认同和极不认同者分别只占2.8%和1.6%，另有29.6%的受访机构认为生成式人工智能的利弊尚无定论。61人工智能时代新闻媒体的责任与使命这组数据较大程度上表明，整体而言，全球媒体机构对事关全行业共同命运的科技变革保持高度关注，乐见生成式人工智能成为传媒行业的“游戏规则改变者”。二、多数新闻媒体（67.6%）已切身感受到生成式人工智能带来的变化生成式人工智能在传媒领域已引发行业变局，不过不同媒体机构的感知存在“温差”。有32.4%72、的受访媒体表示生成式人工智能对他们的影响“尚不明显”。67.6%的受访对象则明显觉察到近在眼前的变局，共鸣较多的三个侧面是：62人工智能时代新闻媒体的责任与使命1.生产流程需要改造，编辑记者工作方式面临转变；2.媒体之间、尤其是来自自媒体的竞争更激烈；3.需抽出更多精力来分辨虚假新闻、虚假照片等。从中可以看出，多数媒体机构认识到，生成式人工智能正以不可阻挡之势渗入传媒行业，无论现在是下场共舞还是静观其变，媒体都面临自我变革的压力。对于如何应对变局，受访媒体机构认可度较63人工智能时代新闻媒体的责任与使命高的三个路径是：1.增强采编队伍的适应能力；2.增加技术投入；3.改造采编发业务流程。三、超73、半数新闻媒体（51.2%）已开始应用生成式人工智能2024年是生成式人工智能大规模应用元年，作为内容生产引领者，众多媒体争做“早鸟”。目前全球已有 10.2%的媒体机构全面拥抱人工智能，在机构层面设立了相应机制，由上而下地将64人工智能时代新闻媒体的责任与使命人工智能引入生产流程；41.0%媒体机构正在积极探索人工智能技术应用，鼓励和支持部分新闻业务板块试用人工智能技术；36%的受访媒体虽然未由机构管理层牵头由上而下地把生成式人工智能融入生产，但其内部员工已开始在机构默许的情况下在个人层面试水；12.8%的受访媒体表示，本机构内极少有人使用或机构禁止使用。在机构层面推动生成式人工智能应用的受访74、对象中，其应用路径主要为采用ChatGPT等市面上对公众开放的通用型工具，选择这一路径的媒体占比达54.6%。有32.5%的媒体选择的应用路65人工智能时代新闻媒体的责任与使命径是与第三方合作研发、定制生成式人工智能工具，另有12.9%的媒体选择自主研发与训练。由此来看，私有化部署的新闻领域垂类大语言模型仍有较大发展空间。在应用场景上，媒体机构有组织探索较多的前三个方向是：1.辅助编辑，如事实核查、语音转文字、配字幕、翻译等；2.创作内容，如生成摘要、制作图表海报、数字主播配音等；3.策划选题或草拟提纲。66人工智能时代新闻媒体的责任与使命对于那些尚在观望的媒体机构，阻碍其成建制应用生成式人工75、智能的众多因素中，排在前三位的分别是：1.人工智能自身还不完善，如生成内容的准确性、可靠性等达不到预期和要求；2.人机协作难，缺乏相应融合型人才；3.技术投入成本高。不过，大部分观望中的媒体机构并不排斥或轻视生成式人工智能，而是计划在相关条件成熟时再入局，他们优先考虑的前三个条件是：1.确定可用人工智能来显著提升生产力、节67人工智能时代新闻媒体的责任与使命省人力的业务板块；2.人工智能的性能跃升，准确性、可靠性等大幅改善；3.确保不会陷入新闻伦理争议、监管麻烦或法律纠纷。仅有6.4%的受访媒体表示，无论如何都暂不考虑采用生成式人工智能工具。四、新闻媒体对生成式人工智能的期待聚焦于时与效无论是76、否已在机构层面应用生成式人工智能，68人工智能时代新闻媒体的责任与使命受访媒体普遍对这种新技术助力传媒行业的潜力抱有一定期待。受访媒体希冀生成式人工智能重点在“时”与“效”上推动新闻报道再上新台阶。有74.6%的受访媒体预期，生成式人工智能有助于提高新闻报道的时效性；有74.4%的受访对象认为，生成式人工智能有助于提高新闻生产效率；预期生成式人工智能对提升新闻分发精准度和作品呈现创造性有帮助的媒体占比分别达到66.7%和63.3%。69人工智能时代新闻媒体的责任与使命媒体机构看重的生成式人工智能赋能排名前三的领域分别为：1.智能检校及智能事实核查；2.智能创作图表、视频及音乐；3.文字生成/机77、器人写稿/翻译。五、新闻媒体对生成式人工智能的警惕集中在可信度多数媒体机构对生成式人工智能的应用较为审慎。对于“您所在媒体机构遇到过或预期会遇到哪些生成式人工智能带来的问题”这一提问，高达70人工智能时代新闻媒体的责任与使命76.4%的受访对象表示，担心出现“新闻线索和素材失真失准”的情况，明显超过回答数量排在第二位的“版权及权责归属问题”（占比为61.1%）。另外，对于未来3至5年生成式人工智能与传媒行业融合会否提升信息环境可信度可靠性的问题，有36.4%的受访对象持悲观预期，比持乐观预期者（24.1%）高出 12.3 个百分点。另有39.5%的受访对象持中性预期。真实可信是新闻报道的生命。78、由此推测，多数媒体机构短期内或许只会让生成式人工智能在内容生产环节扮演有限的辅助角色。71人工智能时代新闻媒体的责任与使命六、多数新闻媒体（85.6%）认为需要对生成式人工智能的应用加强监管针对生成式人工智能在传媒行业的应用可能产生的负面效果，只有 14.4%的受访对象认为“现有规则框架具有足够约束力”。85.6%的受访对象都支持以某种形式加强规范与治理，认同度较高的治理形式包括“行业自律”“国家出台法规”“各媒体机构自律”等。这反映出，生成式人工智能除了技术本身内生性的缺陷引发媒体机构警觉之外，其被无意错用、有意滥用而导致错误信息、虚假信息流传的72人工智能时代新闻媒体的责任与使命风险也使得79、媒体机构心存防范，而这类风险难以仅靠“各扫自家门前雪”的方式得到遏止。调研说明：本次问卷调查采取在线问答和当面访谈相结合的方式进行。其中，在线答卷者均为受邀参与的机构代表，大多为新华社的全球媒体用户，受访对象全都是机构型媒体且一家媒体只提交一份答卷。从最终回收的有效答卷来看，受访对象在类型、规模、国别分布、受众群体等方面具有广泛代表性，他们对生成式人工智能的认知和应对能够大致反映全球传媒行业的整体情况。73人工智能时代新闻媒体的责任与使命本次问卷调查在对回收数据进行分析和解读的部分环节，用到了生成式人工智能作为辅助，吸纳到本报告中的机器生成内容均经过人工溯源和确认。74人工智能时代新闻媒体的责80、任与使命结语人类的一切都正在被人工智能重塑。经过多年演进，人工智能如今进入爆发期，成为科技革命、产业变革乃至社会变革的重要驱动力量。近两年以ChatGPT、Sora等为代表的生成式人工智能技术正引发全球人工智能技术与产业的新一轮浪潮。未来已来，但未知大于已知。人工智能正不断挑战着人们的认知边界和伦理边界。人类对自己创造出的“新物种”有点措手不及。人们甚至不知道，是自己创造了人工智能这一“工具”，还是人类不过是在人工智能演进中“充当了历史的不自觉的工具”？人们惊叹着、欣喜着、焦虑着、忧愁着，处于人工智能带来的“文化震惊”中。幸运的是，人类的理性也在同步觉醒，开始思考探索人机融合的新形态。面对人工81、智能发展在监管、法律、安全、道德伦理、就业等方面面临的一系列新课题，国际组织和世界多国已开始75人工智能时代新闻媒体的责任与使命探索人工智能治理的可行路径并达成一些共识，努力在发展和安全之间寻求平衡。目前，有关国家和地区发布的关于人工智能治理的法律法规、行政指令、伦理规范已达数百项。人工智能时代的信息环境正在发生重要变化。在虚拟与现实边界消融、线上与线下高度统合的媒介生态中，信息传播营造的“拟态环境”在构建人类认知、影响主体决策、引导文明走向等方面，变得更具有决定性意义。人工智能从“工具”向“主体”的演化，无疑让信息环境变得更为复杂。在此背景下，新闻媒体塑造信息环境和认知环境的传统社会角色被重82、新构建。全球新闻媒体应站在人类文明的高度，共同思考人工智能时代的新角色、新使命、新责任，更好地捍卫全人类共同价值，为推动构建人类命运共同体注入更多正能量。76人工智能时代新闻媒体的责任与使命编写说明与致谢人工智能时代新闻媒体的责任与使命智库报告由新华通讯社社长、新华社国家高端智库学术委员会主任傅华任组长，新华通讯社副总编辑任卫东任副组长，课题组成员包括刘刚、文建、刘华、陈怡、李飞虎、何慧媛、李成、陈谊娜、何小凡、李桃、申丽、赵熠煊、窦书棋、周瑜、李利军、刘蓉蓉、郭信峰、李雪笛、朱俊清、黄鑫川、王仲豪、陈国权、梁洽闻等。课题立项启动后，课题组广泛走访媒体、科技公司与科研院所，并以中文、英文、法文三种语言面向全球媒体发放调查问卷，最终完成撰写、修改、审校、翻译等工作。在报告写作过程中，中国社会科学院教授胡正荣、清华大学教授沈阳、中央民族大学教授郭全中，以及中国网络空间研究院、赛迪研究院、腾讯、百度、阿里巴巴等机构的专家给予了多方面的帮助和指导，调查问卷得到53个国家和地区包括报刊、广电、通讯社、网站等上千家媒体77人工智能时代新闻媒体的责任与使命机构的反馈支持，在此一并表示诚挚谢意。由于课题组所掌握的材料和作者水平有限，错漏之处在所难免，敬请批评指正。78