一张标注着“豆包AI”水印的高铁施工画面，撕开了AI侵蚀真实领域的一道口子。在某系列纪录片的高铁发展主题集中，这段AI生成的架梁作业场景，不仅充满常识性错误——施工人员未戴安全帽便站在设备正下方，其建筑结构也与国内高铁箱梁的常规标准相悖，若按此施工无异于制造安全隐患。
尽管官网回放已替换为旧照片，但其他平台留存的初始版本，仍清晰印证着这起“用AI虚构真实”的争议事件。
这并非孤例。2021年，纪录片《流浪者：一部关于安东尼·波登的电影》中，一段波登“亲自”朗读邮件的音频引发轩然大波。制作人最终承认，这段极具冲击力的声音并非来自波登本人，而是AI合成产物。更致命的是，这种合成内容彻底动摇了观众对整部影片的信任——既然已逝者无法开口澄清，谁能保证片中还有更多未标注的AI生成素材?
两起事件指向同一个核心追问：当AI闯入以“真实”为生命线的纪录片领域，我们所依赖的“真实”究竟还剩多少分量?
纪录片的本质，是用媒介凝固历史、保存记忆、传承真相。它允许艺术加工的修饰，却绝不能容忍无中生有的编造。人类的记忆本就不可靠，我们之所以信赖纪录片，正是因为默认其内容经过严谨考证，能够作为可被反复引用的“真实凭证”。但AI生成的虚实混杂内容，正在打破这种信任基础。当违背逻辑的施工画面、合成的逝者声音被当作“真实”传播，历史的原貌便可能被悄悄篡改，集体记忆也将在真假难辨中逐渐扭曲。正如档案制作联盟在《好莱坞报道》的公开信中所言：“人工智能生成的素材若以‘真实’之名传播，将可能永远混淆历史记录。”
更令人不安的是，AI的侵蚀早已溢出纪录片领域，蔓延至所有立足真实的场景。打开手机，AI编造的骇人听闻的假新闻凭借“创意优势”疯狂传播;社交平台上，有人用AI伪造流浪汉闯入家中的视频取乐;
专业领域里，充斥着AI胡编乱造的伪专业内容;
甚至，已故公众人物被AI批量“复活”——伊丽莎白二世出现在摔跤场、迈克尔·杰克逊在短视频中扭动、马丁·路德·金的演讲夹杂污言秽语，李玟、乔任梁等逝者被合成“思念粉丝”的影像。
更有甚者，茶企用AI复活“茶界泰斗”张天福为产品代言，用逝者之名行欺诈之实，既欺骗了消费者，也刺痛了逝者家属。
当AI造假渗透到司法领域，其对社会公平正义的冲击更是致命。湖北孝感大悟法院审理的一起房屋租赁合同纠纷中，房东提交的水电表欠费照片，竟全是未抹去“豆包AI生成”水印的伪造素材。从公共传播到商业欺诈，再到司法证据，AI正在一步步瓦解我们赖以生存的“真实防线”。
AI本身并无立场，但使用AI的人有;AI不具备恶意，但人性中的贪婪与虚荣，却能借由AI被无限放大。相较于传统造假，AI极大降低了造假门槛——无需专业技能，哪怕是文化程度不高的人，也能借助AI轻松生成以假乱真的内容。在流量为王的时代，这种“低成本、高爆点”的造假方式，正催生一场“劣币驱逐良币”的恶性循环：坚守操守的创作者耗时耗力核查真相，产出的内容却因不够劲爆而无人问津;而无底线的造假者，仅凭AI炮制的耸人听闻的内容，就能轻松收割流量与财富。
长此以往，我们将彻底告别“眼见为实”的时代。当AI生成的照片、视频、声音充斥生活，我们需要耗费巨大精力去辨别每一件事的真伪;当社会赖以运行的信任不断流失，人与人之间的联结也将变得脆弱不堪。这并非危言耸听，而是AI无序入侵真实领域的必然结果。
我们并非要否定AI技术本身。AI在电影、综艺等娱乐领域的应用，确实能提升创作效率、拓展表达边界。但在纪录片、新闻、司法等以真实为核心的领域，必须建立刚性的规范与约束：所有AI生成内容都应附上完整、醒目的标识，避免以假乱真;涉及事实性内容的创作，必须引入专业人士审核，杜绝AI“幻觉”带来的虚假信息;任何涉及个体肖像、声音的AI生成，都应尊重隐私与人格权，哪怕是公众人物也不例外。
但我们必须清醒地认识到，规则并非万能。只要有利益驱动，就总会有人铤而走险。或许，我们终将面对一个真假难辨的世界，在海量的AI生成内容中，孤独地打捞那些日渐稀缺的真相。而这，恰恰更凸显了坚守真实的可贵——无论技术如何迭代，对真相的追求，永远是人类文明存续的根基。
本文来自微信公众号： 雷叔写故事 ，作者：乌卡