专家表示，网络渠道“眼见”不一定为实。“拟声”“换脸”等合成技术的一大特点是“以假乱真”，不法分子可以利用此类技术轻易伪装成他人，并通过快速筛选目标人群、精准定制诈骗脚本，实施诈骗。因此，在涉及资金往来时，一个“声音很熟的电话”、一段“貌似熟人的视频”都可能是不法分子的诈骗套路，消费者应提高警惕。

真实国产熟睡乱子伦视频国家金融监督管理总局发布的消费者权益保护风险提示中介绍，利用AI技术实施诈骗主要有“拟声”“换脸”两种手段，即通过模拟他人声音或形象骗取信任，进而诈骗钱财。不法分子通常先以“网店客服”“营销推广”“招聘兼职”“婚恋交友”等为借口，通过微信、QQ、电话等方式联系消费者，采集声音或面部信息。再利用“拟声”“换脸”等技术合成消费者的虚假音频或视频、图像，以借钱、投资、紧急救助等借口诱导其亲友转账汇款，或提供银行账户密码等敏感信息，随后立即转移资金。此外，不法分子还可能对明星、专家、官员等音视频进行人工合成，假借其身份传播虚假信息，从而实现诈骗目的。

为保护广大金融消费者合法权益，国家金融监督管理总局厦门监管局提示广大消费者，转账汇款务必核验对方身份。对自称的“亲友”“熟人”线上发来的消息，若包含转账汇款、提供个人信息、提供短信验证码等请求，应保持高度警惕，采取多种方式确认对方身份。专家介绍，“AI拟声”“AI换脸”包装作伪后的通话和视频虽然能逼真地模仿原始人物的语言和行为，但仍然存在破绽，例如眨眼频率过低、眼睛移动不协调、面部表情不自然、唇形不匹配、语句不连贯等。如果在与亲友视频语音沟通中发现上述异常，消费者应立即警觉起来。在无法确认对方身份时，应尽量避免转账操作。