生成式 AI 时代虚假信息的识别困境与协同治理路径研究

Abstract

随着 ChatGPT、Midjourney、Sora 等生成式 AI 技术的爆发式发展，虚假信息已从 “低技术含量伪造” 升级为 “高仿真生成”，呈现 “制作零门槛、传播跨平台、内容多模态” 新特征，对舆论治理与媒介规范构成严峻挑战。基于 2022-2025 年全国虚假信息治理调研数据（N=3800）、15 起典型生成式 AI 虚假信息案例（如 “AI 换脸总统讲话视频”“ChatGPT 生成虚假财经新闻”）及深度访谈（覆盖监管部门、技术公司、媒体从业者共 60 人），本文系统梳理生成式 AI 虚假信息的类型与传播规律，剖析当前识别环节面临的 “技术对抗滞后、多模态识别难、溯源取证难” 三大困境，以及治理环节存在的 “主体权责模糊、跨平台协同弱、国际规则缺失” 问题。据此，从 “技术赋能识别、多主体协同治理、国际规则构建” 三维提出路径：研发 “多模态虚假信息识别系统”，建立 “政府 - 平台 - 媒体 - 公众” 四维协同治理机制，推动 “生成式 AI 虚假信息国际治理规则” 落地，为数字时代虚假信息治理提供理论支撑与实践方案。