视频里出现熟悉的脸，语音里也像是亲友本人，并不等于身份已经核实。生成式人工智能可以依据公开照片、短视频或录音合成人像和声音，再配合被盗社交账号、仿冒头像和紧急话术，制造“本人正在求助”的感觉。识别重点不应只放在画面瑕疵，而应建立与内容真假无关的二次确认。
一、常见情境有什么共同点
AI 换脸或拟声可能被用于冒充亲友借钱、领导安排付款、客户催款、客服索要验证码。国家金融监督管理总局吉林监管局的风险提示列举了利用人脸特征替换视频图像、利用声音特征进行模仿和伪造等手法。虽然角色不同，但往往同时出现紧急、保密、绕开原流程和立刻转账等要求。
诈骗并不一定全程依赖实时合成。对方可能先播放一段预制视频或语音，随后以“信号不好”为由改成文字交流。因此，通话短暂、画面卡顿、嘴型不自然只能作为警示，不能作为唯一判断标准；技术进步也会让这些表面特征越来越不明显。
二、为什么回拨比追画面更可靠
所谓回拨，是结束当前通话后，从自己原有通讯录、历史账单或单位公开渠道重新发起联系，而不是点击对方新发的号码。这样核验的是另一个独立通信路径。若亲友账号可能被盗，可以再联系其家人；若自称领导或同事，应按单位既有审批流程确认。
涉及钱款时，不要只问“是不是你”。可以询问只有双方知道、又不会泄露账户信息的近期事实，或者使用事先约定的家庭暗号。暗号不应是生日、身份证后几位等容易从公开资料推测的信息，也不要在正在核验的同一聊天窗口里临时商定。
三、怎样设置家庭或团队核验规则
家庭可以约定：任何临时借款、代付、验证码请求，都必须通过第二个联系方式确认；大额操作还要有另一位家人知情。团队可以把收款账户变更、紧急付款和越级指令纳入双人复核，不因“领导正在开会”或“客户催得急”跳过流程。
吉林监管局的提示建议，在亲友线上提出转账、提供个人信息或验证码等敏感请求时，主动更换通信渠道，通过电话、视频提问等方式多重确认。这些规则的价值在于，即使声音和画面完全逼真，也不能绕过独立核验。
四、收到可疑内容后不要做什么
不要向对方发送自己的正脸视频、朗读指定数字或提供更多语音样本；不要为了“证明身份”给出身份证、银行卡、人脸识别画面和短信验证码。对来源不明的合成图片、视频和聊天记录，也不要未经核实就转发，以免扩大误导。
AI 痕迹检测工具可以作为参考，但不应被当成付款前的唯一闸门。检测结果可能受压缩、剪辑和模型变化影响。真正稳妥的控制点是暂停交易、改变联系渠道和恢复既有审批。
五、已经转账或泄露信息怎么办
立即联系银行或支付机构说明情况，按指引尝试止付，并拨打110报警。保存来电号码、账号、聊天、转账记录和原始音视频，不要为了提醒他人而反复压缩或编辑原文件。若社交账号被冒用，应从可信设备修改密码、退出陌生设备并通知常用联系人。
AI 技术本身并不等于诈骗。真正需要防范的是有人利用合成内容绕过身份核验。把“像本人”降级为一条线索，把回拨、暗号和流程复核升级为必要步骤，才能应对画面和声音越来越逼真的变化。