딥페이크 기술

인공지능(AI) 전문 기업 머니브레인(대표 장세영)은 딥페이크 영상을 검증할 수 있는 딥러닝 모델 ‘디텍트딥페이크.ai(Detectdeepfake.ai, AI 영상 조작 검출 기술)’를 출시했다고 밝혔다.

딥페이크(Deepfake)란 인공지능을 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 영상물을 일컫는다. 지난 미국 대선을 앞두고 글로벌 소셜미디어 기업들이 잇따라 딥페이크 기술을 악용한 허위 정보가 사실인 것처럼 가장한 사건들로 인해 큰 논란이 됐다.

더 큰 문제는 딥페이크를 포함한 각종 위·변조 영상이 사회문제로 대두하고 있으나 위·변조 여부를 직접 확인할 수 있는 객관적인 분석 도구가 없었다는 점이다.

이런 문제 해결을 위해 머니브레인은 서울대 인공지능 연구실(DSAIL)과 함께 딥페이크 기술 발전을 위한 ‘AI 딥페이크 탐지 AI 경진대회’를 성공적으로 개최했으며, 과학기술정보통신부가 추진하는 ‘딥페이크 변조 영상 AI 데이터’ 분야 수행 기업으로 선정돼 딥페이크 검증을 위한 데이터 확보와 기술 개발에 심혈을 기울였다.

머니브레인 딥러닝 연구팀은 딥페이크 검증 신뢰도 향상을 위해 독일 뮌헨공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++’ 데이터와 아마존(AWS), 페이스북, 마이크로소프트 등이 모여 만든 딥페이크 디텍션 챌런지(DFDC) 데이터 그리고 머니브레인이 자체 수집한 KoDF까지 광범위한 데이터를 딥러닝 AI에 분석 학습시켜 해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸다.

여기서 더 발전해 학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상에 대한 검증을 진행했으며, 진위 여부 판단은 약 90%의 높은 검증률을 보였다. 이는 해외에서 인정받고 있는 검증 모델보다 월등히 높은 수준의 검증률이다.

머니브레인 장세영 대표는 “디텍트딥페이크.ai 출시로 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바라며, 딥페이크로 인한 사회적 우려가 해소돼 다방면의 산업에 딥페이크 콘텐츠가 긍정적으로 적용되기를 바란다”고 말했다.

이번 ‘디텍트딥페이크.ai’ 출시로 머니브레인은 딥페이크 검증 기술 개발 노력에 대한 결실을 보게 됐다. ‘디텍트딥페이크.ai’는 홈페이지(https://www.detectdeepfake.ai)를 통해 무료로 이용할 수 있다.

한편 머니브레인은 세계적 수준의 AI 영상 합성 및 대화형 AI 기술을 보유한 스타트업이다. 인간과 가장 비슷하게 대화하는 인공지능 기술 개발에 몰두하고 있으며, 경쟁사 대비 뛰어난 수준의 영상 품질과 합성 속도를 자랑한다.

최근에는 영상의 진위를 판단하는 능력을 갖춘 딥러닝 모델을 만드는 데 주력하며, 다양한 베이스 모델을 통해 진짜와 가짜를 스스로 판별할 수 있도록 지속해서 반복 학습시키는 연구를 진행 중이다. 현재 이미지 내 얼굴 추출 방식, 데이터 증강 방식, 베이스 모델 교체 등 다각적 연구를 통해 검출 기술의 정확성을 높여 가고 있다.

출처 : 머니브레인