딥페이크 (AI 합성 영상)
영어 deepfake · 일본어 ディープフェイク（AIによる合成映像） · 읽는 법 디푸페이쿠
딥페이크는 AI로 만들거나 고친 영상·사진·음성 가운데, 실제 사람이나 일처럼 보여 진짜로 믿기 쉬운 결과물입니다. 속이는 데 쓰일 수 있어, 한국 인공지능기본법은 제공 사업자에게 AI 생성 표시를 요구합니다.
HowtoAI 글에서는 한국 인공지능기본법의 AI 생성물 표시 의무를 설명할 때 「실제와 구분하기 어려운 딥페이크 같은 결과물」의 예로, 그리고 Grok 이미지 생성이 실존 인물 사진의 가공 문제로 이어진 일을 돌아볼 때 나옵니다.
확인 2026-10-26출처 국가법령정보센터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조(인공지능 투명성 확보 의무) 제3항: 실제와 구분하기 어려운 가상의 음향·이미지·영상 결과물은 AI로 생성되었다는 사실을 이용자가 명확하게 인식할 수 있게 고지 또는 표시, 예술적·창의적 표현물은 감상을 저해하지 않는 방식 가능
1이 말, 이런 곳에서 만납니다
처음 보는 말이 낯선 것은 당연합니다. 대개 이런 자리에서 마주칩니다.
HowtoAI 글 「AI 고양이 영상 그 후」의 AI 표시 안내
다만 실제와 구분하기 어려운 딥페이크 같은 결과물은 분명하게 표시해야 합니다.
HowtoAI 글 「코드 생성 AI 비교와 고르는 법」의 인공지능기본법 안내
과학기술정보통신부는 생성형 AI를 제공하는 사업자가 이용자에게 미리 알려야 하고, 딥페이크 같은 결과물에는 표시 의무가 있다고 안내했습니다.
직원에게 걸려 온 전화 (예)
“사장인데, 거래처에 급히 보낼 돈이 있으니 지금 바로 이 계좌로 이체해 줘.”(사장님 목소리와 똑같은 AI 음성)
2한 장면으로 이해하기
딥페이크는 잘 만든 위조지폐와 같습니다. 얼핏 보면 진짜와 똑같아서, 받는 사람이 확인하는 습관을 들이고 만드는 쪽이 「가짜」라고 분명히 밝히는 것이 중요합니다.
진짜처럼 보여도, 확인하기 전까지는 믿지 않습니다.
3우리 회사도 해당될까요?
이런 경우 해당됩니다
- 사장님·가족·거래처 사람의 목소리나 영상으로 급한 송금이나 개인정보를 요구받았다
- 홈페이지·SNS 광고에 실제 사람처럼 보이는 AI 영상이나 사진을 쓰려고 한다
- 내 얼굴이나 가게 사진이 허락 없이 가공되어 돌아다니는 것을 발견했다
이런 경우는 걱정을 덜어도 됩니다
- 누가 봐도 그림이나 캐릭터로 보이는 AI 일러스트를 쓴다(일반 AI 생성물 표시는 ‘AI 워터마크’ 페이지를 보세요)
- 녹음으로 내 목소리를 만드는 방법이 궁금하다(‘음성 복제’ 페이지를 보세요)
한국 인공지능기본법 제31조 제3항의 표시 의무는 이런 결과물을 제공하는 인공지능사업자를 대상으로 하며, 예술·창작 표현물이면 감상을 해치지 않는 방식으로 표시할 수 있습니다.
4조금 더 자세히
딥페이크는 AI가 실제 사람의 얼굴·목소리·몸짓을 흉내 내 만든 가짜 영상·사진·음성입니다. 잘 만든 위조지폐처럼 얼핏 보면 진짜와 구분하기 어렵다는 점이 문제입니다. EU 인공지능법은 실제 사람이나 장소, 사건과 닮아 보는 사람이 진짜로 착각할 수 있는 AI 결과물을 딥페이크라고 정의합니다.
주의할 점 사장님이나 가족의 목소리로 급히 돈을 보내 달라는 전화·음성 메시지가 와도 그대로 믿지 마세요. 미국 FBI는 알고 있는 번호로 다시 걸어 확인하고, 가족끼리 확인용 암호를 정해 두라고 권합니다. 홈페이지나 SNS에 실제 인물처럼 보이는 AI 영상을 올린다면, AI로 만들었다고 분명히 적어 두는 것이 좋습니다.
5그래서 무엇을 하면 되나요?
- 1돈이나 비밀번호를 요구하는 전화·음성 메시지는 알고 있는 번호로 다시 걸어 확인하고, 가족·직원과 확인용 암호를 정해 둡니다.사장님
- 2홈페이지나 광고에 실제 사람처럼 보이는 AI 영상·사진을 넣을 때는 「AI로 만든 영상」 같은 표시를 화면에 분명히 넣고, 모델이 된 사람의 동의를 받았는지 확인합니다.제작사
- 3실제와 구분하기 어려운 영상·음성을 만들어 주는 서비스라면, 결과물에 AI로 만들었다는 사실을 이용자가 분명히 알 수 있게 표시합니다.서비스 회사
제작사에 이렇게 물어보세요
“이 영상(또는 사진·음성)에 실제 사람처럼 보이는 AI 생성물이 들어가나요? 들어간다면 AI로 만들었다는 표시는 어디에 어떻게 넣고, 등장하는 사람의 동의는 받았나요?”
6자주 묻는 질문
Q. AI로 만든 홍보 영상을 올리면 꼭 표시해야 하나요?
한국 인공지능기본법의 표시 의무는 AI 서비스를 제공하는 사업자가 대상입니다. 다만 실제와 구분하기 어려운 영상이라면 보는 사람이 속지 않도록 AI로 만들었다고 적어 두는 것이 좋고, SNS마다 올리는 사람에게 적용되는 표시 규칙도 따로 있습니다.
Q. 가족이나 사장님 목소리로 급한 송금 전화가 오면 어떻게 하나요?
바로 보내지 말고 전화를 끊은 뒤, 원래 알고 있는 번호로 다시 걸어 확인하세요. 미국 FBI는 가족끼리 확인용 암호를 정해 두는 방법도 권합니다.
7이 풀이의 근거
- 출처
EU 인공지능법 「제3조: 정의」 60호: 실제 사람·물건·장소·단체·사건과 닮아 보는 사람에게 진짜처럼 잘못 보일 수 있는, AI로 생성하거나 조작한 이미지·음성·영상 (확인 2026-10-26)
EU 인공지능법 「제50조: 특정 AI 시스템 제공자·이용자의 투명성 의무」 제4항: 딥페이크를 만드는 AI 시스템의 이용자(배포자)는 인공적으로 생성·조작되었음을 밝혀야 함, 예술·풍자 작품은 감상을 해치지 않는 방식으로 존재만 밝힘 (확인 2026-10-26)
미국 FBI 인터넷범죄신고센터 공익 경보 「미국 고위 공직자를 사칭한 악성 메시지 캠페인」(2025-05-15): AI 생성 음성으로 사칭, 알고 있는 번호로 확인, 가족끼리 확인용 암호 권장 (확인 2026-10-26)
- 확인한 날
- 2026-10-26 · 다음 확인 2027-01-26
- 풀이
- 양진석 · 따뜻한기술 대표
이 정의를 인용하려면
“딥페이크는 AI로 만들거나 고친 영상·사진·음성 가운데, 실제 사람이나 일처럼 보여 진짜로 믿기 쉬운 결과물입니다. 속이는 데 쓰일 수 있어, 한국 인공지능기본법은 제공 사업자에게 AI 생성 표시를 요구합니다.” — 용어집 「딥페이크 (AI 합성 영상)」 (확인 2026-10-26), atatakaidigital.com/kr/glossary/deepfake