NEWS

Dexter与韩国电子技术研究院合作开发深度伪造检测解决方案 “利用电影级深度伪造技术发现检测模型漏洞,发挥‘AI红队’作用”

By 2026.11.09 No Comments
ⓒ Dexter Studios

 

Dexter Studios正着手开发核心技术,以应对在日常生活中迅速蔓延并日益成为社会问题的“深度伪造”犯罪。
内容专业企业Dexter Studios(206560,以下简称Dexter)宣布,将参与由科学技术信息通信部和信息通信规划评估院(IITP)推动的“针对复合生成型深度伪造的主动检测及深度分析解决方案开发(主办:韩国电子技术研究院)”项目。此次项目由韩国科学技术院(KAIST)、国立科学调查研究院、警察大学、Safe AI以及Secure Machines Lab共同参与。
随着生成式AI技术日益成熟,结合了面部合成、语音变调、背景编辑等技术的精密复合型深度伪造内容激增,仅针对语音、图像或视频中某一方面进行优化的单一模型,在检测高质量新型深度伪造内容时,存在准确率较低的技术局限。
该联盟将开发一种主动型“检测代理”,该代理能让AI自主识别深度伪造内容的特征并选择最佳分析模型,同时开发一种集声音、图像和视频检测能力于一体的“多模态检测引擎”。核心任务是开发一套深度集成解决方案,综合多维检测结果,不仅能判定是否存在伪造,还能提供判断依据。开发的解决方案最终将通过国立科学调查研究院和警察大学进行实战环境验证,进而实现性能优化。
为推进该项目,Dexter将投入真实感级别的精密微变形技术及高分辨率后处理控制能力,生成并构建具有商业电影最高水准完成度的超高质量人脸替换·微变形深度伪造数据集。在此基础上,计划测试检测系统的局限性并挖掘其漏洞,从而持续提升检测系统的性能,以应对不断变化的深度伪造生成方式。
Dexter在大型电影、电视剧及OTT内容等VFX(视觉特效)制作过程中,已精妙地实现了真实人物的面部及表情替换、基于体积扫描的精密数字人制作,以及基于AI的年龄重塑(Re-aging,即老化与返老还童)等技术。Dexter的图像生成技术实力被公认为业界顶尖水平,预计在经过犯罪调查研究机构的实战验证后,将推动开发出性能突出的解决方案。
Dexter研发研究所所长Jae-won Song表示:“Dexter已开发出多项电影级别的图像生成技术,既能根据多语言配音调整演员的口型,也能在完整保留演员表情表演的同时将其替换为其他面孔”,
“正因为我们深刻认识到由生成式AI制作的新型深度伪造(Deepfake)所带来的风险,才参与了该项目;因此,我们将承担‘AI红队(AI Red Team)’的角色,制作国内最高水平的深度伪造数据,持续发掘检测模型的漏洞。”

Leave a Reply