就在前段时间，南京发生了一起诈骗案。嫌疑人先是非法收集了 195 万多条他人的姓名、照片等隐私信息，随后利用 AI 换脸软件，成功绕过某金融支付平台的人脸识别系统，一番操作后得手 1.5 万元。
195 万多条隐私信息，最终只骗取了 1.5 万元，乍一看嫌疑人似乎 “良心未泯”。但关键在于，他试图绕过人脸识别系统的行为竟然得逞了，这背后潜藏的风险不容小觑。
大家可千万别掉以轻心，这种糟心事，谁也说不准哪天就会降临到自己头上。
大约两个多月前，自媒体博主 @远方青木 发文称，自己一个拥有 60 万粉丝的小号突然开始大量群发诈骗信息。经过调查发现，不仅账号密码被篡改，就连公司法人都被更换了。
没多久，@表舅是养基大户 也发现，自己平时用于分析美股的账号，竟然给粉丝推送了股市杀猪盘的引流广告。
所以，要是哪天突然收到所谓的 “内部消息”，给你推荐稳赚不赔的股票，千万别信。真要是有这种信息差，哪还轮得到普通大众，怕是早就人人都能分金条了（当然，这也不能信）。
这次财经大 V 集体被盗号事件，仔细梳理各家的声明就会发现，几乎都提到法人变更与人脸识别系统有关。
这次特意找了网络安全领域比较懂行的朋友聊了聊，才知道人脸识别技术远没有我们想象中那么靠谱。甚至有些人脸识别系统的算法粗糙到，不需要 AI 出手，就能被轻易绕过。
人脸识别系统的工作原理其实很简单：先用摄像头捕捉人脸位置，然后提取五官细节，将人脸信息转化为计算机能理解的数据，再与本人信息进行比对。
这套流程有两个关键环节，一是数据的获取，二是算法对数据的处理。
数据从何而来？主要依靠摄像头。
像小区门禁、公司考勤机等常用设备，大多采用 2D 人脸识别技术，属于平面、静态识别。其优点是成本低，但安全性欠佳，一张高分辨率的照片或视频就可能蒙混过关。
相比之下，3D 人脸识别技术比 2D 更安全。一些金融和政务服务会采用 3D 人脸识别技术，甚至还会叠加 2D、3D、红外等多种模态的验证方式。
不过问题来了，如果这张脸是经过 AI 精心伪造的呢？
网络安全业内人士傲客表示，大概在 2017 年，就有人利用 GAN（生成对抗网络）攻击人脸识别系统，且这种情况多年来一直持续。生成式 AI 的出现，更是让骗子的气焰愈发嚣张。10 分钟骗走 430 万、冒充公司 CFO 诈骗近 2 亿元…… 再加上开头提到的案例，利用伪造的 AI 换脸视频和面具骗过摄像头，已经成为比较常见的诈骗手段。
即便系统增加了摇头、张嘴等活体检测环节，AI 换脸视频仍有概率绕过验证。
究其原因，恐怕与系统的工作原理脱不了关系。据傲客介绍，系统不仅在收集人脸数据时可能出现问题，在数据处理、使用和存储环节也存在漏洞。
傲客举了个例子，就像当年牛奶中掺三聚氰胺事件，机器检测牛奶蛋白质含量是通过测量氮元素含量，而三聚氰胺含氮量高且价格低廉，机器并不会考虑它对人体是否有害。
这一点在人脸识别上也类似，算法只认可以被测量的指标，那么只要在这些指标上做手脚就能作弊。
有个离谱的例子，卡内基梅隆大学几年前做过实验，戴上带有特定花纹的眼镜后，人脸识别系统将 A 识别成 B 的概率高达 80% 以上，只因这种花纹是专门针对系统漏洞设计的。
还有研究人员向系统展示带有攻击指令的二维码，结果系统按既定流程处理数据，即便不是人脸，最终也匹配成功了。
这就好比，AI 换脸是伪装成住户欺骗保安，而 “二维码”“花纹眼镜” 则是偷偷潜入安保中心，对监控动手脚。
而且不同 “安保大队” 的水平参差不齐。香港中文大学两年前的研究显示，在 18000 个 App 中，有 373 个使用了存在安全漏洞的人脸识别模组，其中近四成还是金融类 App…… 更别说有些有手段的人，还能直接进入后台篡改住户信息。
总之，人脸识别并非百分之百安全的技术。甚至围绕人脸识别技术，还衍生出了一些见不得光的产业。
也是在今年，有被封号的网约车司机使用 “虚拟相机” App 绕过了网约车平台的人脸识别系统。当时有媒体报道，国内一些社交、电商平台上，存在不少宣称可以绕过人脸识别系统的服务。另外，据贝壳财经报道，有些黑产人员胆子极大，直接将能绕过哪些政务平台的信息公之于众。
不过好在，今年国家已经出手整治，试图遏制人脸识别技术滥用的现状。
比如在输入环节进行交叉验证，用 3D 结构光建模，通过红外检测是否有真人温度…… 这种方法虽然不能百分百杜绝攻击，但至少提高了伪造成本。
还有 “以魔法打败魔法” 的方式，比如去年蚂蚁数科推出的 ZOLOZ Deeper，能有效打击 AI 换脸。国外的 RealAI 和 Reality Defender 也有检测深度伪造的技术。
