新规落地：DeepSeek 等大模型集体亮明 "数字身份证"，AI 造假能终结吗？

“作品含 AI 内容” 标识成为行业标配的消息传来，不知多少人悄悄松了一口气。这场 “松气” 的背后，是 9 月 1 日正式落地的《人工智能生成合成内容标识办法》—— 由国家网信办、工信部、公安部、广电总局四部门联合发布，首次以强制规范的形式要求所有 AI 生成内容 “亮明身份”，也推动了从大模型厂商到互联网平台的集体行动。

一、法规落地：从厂商到平台的 “全面打标” 行动

9 月 1 日当天，DeepSeek 就在官方公众号发布公告，明确对 AI 生成内容添加标识并提醒用户；而前一天（8 月 31 日），腾讯元宝已先行通过公众号发布《关于 AI 内容标识的公告》。 不止这两家，字节豆包、阿里通义、Kimi、智谱清言等主流大模型厂商，均已同步更新用户协议，强调已履行 AI 标识义务，覆盖显性标识（如内容下方标注 “作品含 AI 内容”）与隐性标识（生成时嵌入的技术标记）两类要求。 大模型厂商负责 “出厂盖章”，互联网平台则承担 “上架明牌” 责任。B 站、抖音、快手等内容平台纷纷上线相关功能：一方面允许用户主动声明 AI 创作内容，另一方面通过技术识别为 AI 内容补充标识。而用户端也被明确约束 —— 不得删除、篡改、伪造或隐匿平台添加的 AI 标识。
从文本、图片到音频、视频、虚拟场景，从 AIGC 技术服务者、平台到普通用户，《办法》实现了 “全内容类型、全责任主体” 的覆盖，没有留下 “视情况遵守” 的灰色地带。

二、AI 乱象直击：谁在为 “真假模糊” 买单？

“标识来得太及时了”—— 这是不少人的直观感受。近年来 AI 内容的 “进化速度” 远超预期：从赚点击的 AI 文案，到擦边引流的 AI 美女，再到让老人深陷的 “AI 乖孙”、成为长辈催婚利器的 AI 说教视频…… 连 “十级冲浪选手” 都曾经历过尴尬：前一天刚教家里老人 “辨别 AI 内容”，第二天自己就栽进了 AI 伪造的陷阱里。我们要么被虚假内容欺骗，要么被荒诞创作 “创到”，不知不觉间仿佛走进了《黑镜》式的赛博困境。

1. 老人：被 AI “偷走” 信任的群体

很多人第一次直观感受到 AI 的 “迷惑性”，是发现家里老人对 “AI 乖孙” 深信不疑。年轻人日常用 AI 写代码、做 PPT、解读体检报告，与 AI 的关系还算 “清醒”；可过年回家时，却常看到老人抱着手机憨笑 —— 屏幕里是画面略显平滑、甚至带着 “六指灵童” 破绽的 AI 孩童，用甜腻的 “爷爷”“奶奶” 声打招呼。发视频的人知道是合成的，年轻人知道是合成的，唯独老人当了真。 更让人无奈的是，老人不仅相信，还会拿 “AI 乖孙” 和真孙对比，让成年人再遭一次 “看看人家孩子” 的 “降维打击”—— 只是这次的 “对手” 是一串代码。
这种 “深信不疑” 的风险远不止情感寄托：

• 马来西亚假缆车事件：今年 6 月，一对老夫妻看到 AI 合成的 “记者走访” 视频，视频里记者介绍某景区有缆车项目，两人驱车 4.5 小时前往，却被当地旅馆员工告知 “根本没有缆车”。视频里的低画质、电视台标、流畅画面极具迷惑性，即便有 “行人姿势不自然” 的破绽，老人也难以分辨。

• 张伯礼院士假代言：今年 3 月，网络流传多段 “张伯礼推荐美白护肤品” 的视频，甚至有十几条不同内容的伪造视频。最终院士不得不公开辟谣：“从未用过、宣传过该产品，内容全是编造的。”

给老人讲清 “AI 为什么是假的”，难度堪比解释 “为什么有人花三十万买玩偶”。甚至有博主专门制作 “AI 乖孙合成教程”，只为让大家转发给家人，提前打个 “预防针”。

2. 年轻人：从 “旁观者” 变成 “受害人”

如果说老人的困境源于辨别能力有限，那年轻人的 “中招” 则更让人警惕 —— 我们曾以为自己 “冲浪满级”，却在 AI 面前一次次破防。
最常见的是 “AI 催婚暴击”：“妈妈说了这番话，我想结婚了”“不结婚的人以后有多惨”“人到中年最可怕是孤身一人”…… 这些催婚视频不再是真人拍摄，而是用 AI “改头换面”：原素材可能是普通街头采访，经 AI 处理后变成 “对口型文案点读机”；更荒诞的是 “AI 猫猫成亲视频”，配着催婚文案，连家里的猫看了都像在 “摆手拒绝”。 年轻人只能用 “魔法打败魔法”：要么让 AI 写反催婚话术，要么合成自己与 “油腻男” 的拥抱视频骗长辈 “已恋爱”，甚至用 AI 做 “猫猫洗衣做饭” 的视频，应对 “不生孩子老了怎么办” 的追问 —— 可这种对抗，本质是无奈的妥协。
真正的冲击来自 “分辨不出真假” 的时刻。
今年 5 月，“袋鼠登机” AI 视频走红，百万网友被画面吸引：一位女士与工作人员理论，中间站着一只握登机牌、表情无辜的袋鼠。视频没有明显光影硬伤，袋鼠的神态又足够可爱，多数人没来得及想 “袋鼠能不能坐飞机”，就冲进评论区发 “好可爱”。直到媒体辟谣，大家才发现 “小丑竟是自己”—— 连 “冲浪老手” 都栽了跟头。
这种挫败感很真实：我们三岁玩 iPad、五岁用电脑，以为自己熟悉互联网的 “套路”，却在 AI 面前发现 “真与假的界限，正在屏幕里慢慢消失”。

三、全球对比：强制规范为何 “非做不可”？

AI 内容的 “真假危机” 是全球性问题，但不同地区的应对力度差异显著 —— 这也更凸显出我国《办法》的前瞻性。

地区 / 国家	监管模式	核心措施与进展
中国	强制规范	2024 年 9 月 1 日《办法》实施，明确 AIGC 服务者、平台、用户三方责任，覆盖全内容类型
韩国	框架立法	2024 年初出台《人工智能框架法》，提及 AI 内容标识，但细则尚未完全落地
西班牙	专项要求	2024 年初提出 AI 内容标识要求，范围较窄，未形成全链条监管
欧盟	分级监管	2024 年公布《人工智能法案》（EU AI Act），核心是 AI 系统分级（禁止类 / 高风险类等），强制标签要求需到 2026 年生效，且面临科技公司阻力
美国	自愿为主	无全国性 AI 标识法规，仅加州等部分州有强制要求；OpenAI、谷歌等公司 “自愿” 支持标识，但落实松散

“自愿监管” 的漏洞，在谷歌旗下 YouTube 的乱象中暴露无遗：

• AI 短视频泛滥成灾：YouTube Shorts（短视频板块）的周榜前列，常年被 AI 视频占据，儿童频道更是重灾区 —— 有的是无意义的 “猫猫狗血剧情”，有的是诡异怪物画面，最危险的是 “AI 讲知识”：错误的历史、科学内容被大量传播，部分账号还重复上传十几条相同视频赚流量激励。曾有人在 Medium 发文炫耀：“用 AI 做短视频，5 天赚了 5000 美元。”

• 真人视频被 “偷偷 AI 化”：8 月底，多位创作者发现，自己上传的真人视频到 YouTube 后，画面变得 “异常锐利”，阴影生硬、边缘平滑，像极了 AI 生成内容；而同步到 Instagram（Meta 旗下）的视频却无异常。经美国主流媒体报道证实，这是 YouTube 擅自为视频做了 AI 增强 —— 创作者愤怒表示：“我不希望粉丝误以为我开始做 AI 视频！”

既做 AI 技术提供者（如 Gemini 模型），又做内容平台（YouTube），科技巨头天然有 “多产内容、多赚流量” 的动力，仅靠 “自愿” 根本无法约束。这也印证了我国《办法》“强制三方责任” 的必要性 —— 从源头（服务者）到传播（平台）再到使用（用户），环环相扣才能堵住漏洞。

四、未来：标识是第一步，信任才是目标

两个数据足以说明 AI 内容的 “扩张速度”：

1. Twicsy.com研究显示，当前人类影响者平均收入是 AI 影响者的 46 倍 —— 看似人类 “赢了”，但对比两者的创作投入（人类需拍摄、剪辑、运营，AI 仅需 Prompt），这个差距反而说明 “AI 内容的投入产出比已极具竞争力”。
2. Business Insider 预测，2025 年全球创作者经济（含 AI 内容）规模将达 250 亿美元，较 2022 年增长 52%；KBV Research 更预计，到 2030 年虚拟创作市场（含 AI 创作者）将突破 378 亿美元。

未来，AI 内容只会越来越多 —— 今天是 “AI 混入真实世界”，明天可能要 “在 AI 世界里找真实内容”。《办法》的实施，以及 AI 标识的普及，确实还有难点：比如技术上可能有 “漏网之鱼”，比如长辈或许仍会对着 “标了 AI 的乖孙视频” 憨笑，比如 AI 催婚视频可能换个形式继续传播。
但就像走路要先抬脚，治理 AI 乱象也得先立规矩。“作品含 AI 内容” 的标识，不只是一个简单的标签，更是在 “真与假” 之间划下的第一道明确界限 —— 它提醒我们 “这是 AI 生成的”，也为后续建立 AI 内容信任体系、保护创作者权益、防范诈骗风险打下了基础。
至少现在，再看到 “袋鼠登机”“AI 乖孙” 时，我们能先看到那个醒目的标识，多一分警惕，少一分被欺骗的可能。这一步，走得及时，也走得必要。