据财联社 5 月 24 日报道，中国互联网协会今日发文，今年以来，ChatGPT 和 GPT-4 等技术的应用，成为了信息科技领域的热点，引起公众对 AI 技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI 换脸”“AI 换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。近期，包头市公安局电信网络犯罪侦查局发布一起使用智能 AI 技术进行电信网络诈骗的案件。不法分子利用 AI 技术，通过声音合成，伪造成特定人物的声音，通过 AI 换脸，伪装成特定人物，实时与他人进行视频通话。更换后的面部表情自然，以假乱真，能够冒充他人身份联系被害人，博取被害人信任后实施诈骗。面对利用 AI 技术的新型骗局，广大公众需提高警惕，加强防范。

此前报道，AI 诈骗正在全国爆发，骗子使用 AI 换脸冒充好友诈骗 430 万。