近日，某明星“AI换脸”直播带货事件引发热议，而更令人警醒的是，已有多地出现利用AI声音、视频伪造身份实施的诈骗案件。据公安部数据显示，2025 年一季度全国 AI 换脸诈骗案环比再增 45%，老年群体受骗占比达 38%，成为主要目标，单笔最高损失达 620 万元（上海某企业高管被骗案例）。香港荃湾 2025 年 4 月破获的诈骗中心，通过 AI 换脸假扮 "美女" 诱导受害人开设虚假电商平台，每周骗款高达百万元，涉及跨境犯罪网络。技术双刃剑效应凸显。一方面，AI工具降低创作门槛，推动影视、电商等行业创新；另一方面，黑色产业链已形成“数据采集-模型训练-诈骗实施”的完整闭环。例如，有诈骗分子通过10秒语音克隆至亲声线，成功率高达90%。治理滞后于技术迭代。目前，多数社交平台仅对换脸内容打“AI生成”标签，却无实质审核机制；《生成式人工智能服务管理办法》虽已出台，但对个人滥用场景的约束仍显模糊。当修改成本趋近于零，如何验证“屏幕对面是谁”成为普遍难题。

破局需多方协同：企业应开发“数字水印”等防伪技术；用户需警惕陌生视频通话要求；立法层面则需明确AI创作责任追溯机制。技术无罪，但监管必须跑在诈骗团伙前面——这不仅是安全问题，更是数字文明存续的底线。（贵州省从江县秀塘壮族乡人民政府：杨杭州）