EBS 학교밖학습

[EBS 뉴스]

서현아 앵커

한 주간의 문화 소식을 짚어보는 10분 문화톡 시간입니다.

최근 SNS를 넘기다 보면, 평소 좋아하는 스타가 직접 나에게 말을 걸면서 투자 비법까지 알려주는 영상을 심심치 않게 볼 수 있습니다. 

하지만 이 가운데 상당수가 AI가 만든 정교한 '가짜'인 데요. 

한류의 인기를 등에 업고 딥페이크가 스타의 신뢰도를 돈으로 바꾸려는 지능형 민생 범죄로 진화하고 있습니다.

사단법인 한국매니지먼트연합 이남경 국장과 이 문제를 짚어 보겠습니다. 

국장님, 어서 오십시오. 

정말이지 SNS 보면 유명 스타가 나와서 주식 비법 알려준다는 영상이 꽤 많아졌습니다.

저도 보면 가끔 '진짜인가?' 싶을 정도로 정교하던데 이 기술이 어디까지 와 있는 겁니까?

이남경 국장 / 사단법인 한국매니지먼트연합 

네, 제가 현장에서 지켜본 바로는 이제 '보고도 믿지 못하는 시대'가 완전히 도래했습니다. 

2026년 현재의 범죄 수법은 가히 '기술적 완결' 단계에 와 있습니다.

최근 기사화된 사례들을 보면, 범죄자들은 유명 경제 전문가나 신뢰도가 높은 중견 배우의 수만 가지 표정과 음성 데이터를 AI에 학습시킵니다.

그런 다음, 비공개 화상 채팅방에 피해자들을 초대해 그 연예인의 얼굴과 목소리로 "나도 이 종목으로 수익을 봤다"며 직접 말을 겁니다.

과거와 결정적으로 다른 점은 '실시간 반응'입니다. 

피해자가 질문을 하면 AI가 그 사람의 목소리로 즉각 답변을 하니, 일반인들은 "연예인이 직접 화상 통화까지 하는데 설마 가짜겠어?"라며 완전히 속아 넘어가는 거죠. 

이는 명백한 퍼블리시티권 침해를 넘어 대중의 재산을 직접적으로 갈취하는 명백한 민생 범죄로 진화하고 있습니다.

서현아 앵커

네, 바로 내 눈앞에서 직접 화상 통화까지 하는데 사실은 가짜였다니 진짜 무섭기까지 한데요.

수법이 이렇게 지능화되다 보니까 이제 각국에서 규제 마련에도 속도를 내고 있습니다.

이 가운데 특히 'EU AI 법'이 주목받고 있는데 어떤 내용이 담겨 있죠?

이남경 국장 / 사단법인 한국매니지먼트연합 

EU AI법의 핵심 철학은 '위험할수록 더 강하게 규제한다'는 것입니다. 

이번 사칭 범죄와 직결되는 핵심 조항은 제50조, '투명성 의무'입니다.

이 법에 따르면, 사람이 아닌 AI가 만든 모든 영상이나 음성에는 반드시 육안으로 식별 가능한 '라벨링'과 데이터 속에 숨겨진 기술적 '워터마크' 삽입이 의무화됩니다.

만약 투자 광고 영상에 AI 표기가 없다면, 그 콘텐츠는 유럽 시장 내 유통 자체가 불법이 됩니다. 

특히 플랫폼 사업자가 이러한 위반물을 즉시 차단하지 않을 경우 전 세계 연 매출의 최대 7%라는 징벌적 과징금을 물어야 합니다. 

"이 영상은 기계가 만든 가짜"라는 사실을 법적으로 강제 공개하게 함으로써, 범죄의 통로를 원천 봉쇄하겠다는 강력한 의지입니다.  

서현아 앵커

네, 그런데 사실 뭐 K-컬처도 그렇고요. 

K-POP 제작 현장에서는 이 AI 기술 때문에 할 수 있는 것들이 굉장히 늘어나지 않았습니까?

일부 순기능도 있는 것 같은데요?

이남경 국장 / 사단법인 한국매니지먼트연합 

그렇습니다.

 AI는 범죄의 도구이기도 하지만, 동시에 K-POP의 영토를 넓히는 가장 강력한 무기입니다.

대표적으로 '다국어 보컬 생성' 기술을 들 수 있습니다. 

가수가 한국어로만 노래해도 AI가 음색과 창법을 유지한 채 6개국 언어로 완벽하게 변환해 주면서, 전 세계 팬들이 가사를 모국어로 만끽할 수 있게 됐습니다.

결국 AI는 우리 산업이 글로벌 시장에서 더 높이 비상하게 만드는 '성장 엔진'인 셈입니다.

서현아 앵커

네, 분명히 장점도 있는 건데 우리 정부도 'AI 기본법' 같은 규제를 마련하고 있습니다.

그런데 이게 자칫 이제 막 날개를 달기 시작한 K-POP 산업의 발목을 잡을 수도 있지 않을까 이런 우려도 조금은 나오는 것 같습니다.

어떻게 보십니까?

이남경 국장 / 사단법인 한국매니지먼트연합 

바로 그 지점이 우리 정부와 산업계가 가장 치열하게 고민하는 대목입니다. 

정부는 올해 초 시행된 'AI 기본법'을 통해 규제와 진흥의 균형을 맞추려 노력하고 있습니다. 

하지만 현장에서는 두 가지 큰 숙제가 남아 있습니다. 

첫째는 '중소 기획사의 행정 부담'입니다. 

모든 콘텐츠에 AI 워터마크를 심고 검증하는 시스템을 갖추려면 상당한 비용이 듭니다. 

대형사는 가능하겠지만, 자금력이 부족한 소규모 기획사들에게는 이것이 새로운 진입 장벽이 될 수 있습니다.

둘째는 '팬덤 문화의 위축'입니다. 

규제가 너무 포괄적이면 팬들이 재미로 만드는 'AI 커버곡'이나 '풍자 영상'까지 잠재적 범죄물로 취급받을 수 있습니다.

결국 범죄는 확실히 잡되, K-POP 특유의 자유로운 창의성은 살릴 수 있는 '정교한 가이드라인'을 만드는 것이 우리 정부의 가장 시급한 과제입니다.

서현아 앵커

네, 정부의 역할도 중요하겠지만 기획사들도 스스로 좀 조심해야 될 부분이 있을 것 같거든요.

최근에는 아티스트의 얼굴이나 목소리 데이터를 제대로 관리를 못하면 이사회에 책임을 물을 정도로 엄격해졌다고 하던데 업계는 어떻게 대응을 하고 있습니까?

이남경 국장 / 사단법인 한국매니지먼트연합 

실무에서 보면 이제 아티스트의 목소리와 얼굴은 기업의 존립을 결정짓는 '핵심 자산'입니다. 

현재의 표준전속계약서는 이런 변화를 다 담지 못할 정도로 헐거워졌습니다. 

최근 회사들의 추세를 보면 이사회가 아티스트의 IP 가치가 AI로 인해 무단 복제되거나 훼손되는 것을 방치할 경우, 주주들로부터 '선관주의 의무' 위반으로 제소당할 위험이 큽니다.

그래서 최근에는 계약 단계부터 아티스트의 음성과 초상을 AI 학습 데이터로 어디까지 활용할지를 정밀하게 설계하는 '디지털 트윈 계약'이 표준이 됐습니다.

또한, 최근 '템퍼링' 세력이 AI로 조작된 가짜 정산 자료나 대화 녹취록을 내세워 아티스트와 소속사 사이를 이간질하는 사례도 발생하고 있습니다. 

이에 대응해 대형 기획사들은 자체적인 'AI 포렌식팀'을 운영하며 가짜 콘텐츠를 걸러내는 방어 태세를 최고조로 높이고 있습니다.   

서현아 앵커

네, 여러 가지 어려움이 있는데 슬기롭게 잘 해결을 해 나가야 할 것 같습니다.

마지막으로 우리 시청자분들이 가장 조심해야 할 부분인데요.

딥페이크 범죄에 속지 않으려면, 그리고 나도 모르는 사이에 가해자가 되지 않으려면 어떤 것들을 조심해야 할까요?

이남경 국장 / 사단법인 한국매니지먼트연합 

이제는 '보이는 것을 무조건 믿지 않는 리터러시'가 생존 도구입니다.

우선 시청자 입장에서는 유명인이 등장해 "수익을 보장한다"거나 "돈을 송금하라"고 요구하는 영상은 무조건 의심하십시오. 

반드시 영상 하단에 'AI 생성물' 라벨이 있는지 확인하고, 조금이라도 이상하면 공식 창구를 통해 사실 여부를 대조해야 합니다.

또한 일반 대중들이 주의할 점은 본인의 동의 없이 타인의 목소리나 얼굴을 AI로 합성해 유포하는 행위는 2026년 현재 명백한 형사 처벌 대상이라는 사실입니다.

"재미로 만든 커버곡인데 어때?"라는 생각으로 올린 영상이 타인의 인격권을 침해해 엄청난 손해배상으로 이어질 수 있습니다. 

기술을 즐기되, 그 대상이 '사람'이라는 사실을 잊지 않는 윤리 의식이 가장 확실한 방패입니다.

서현아 앵커

네, AI가 K-POP의 영토를 넓힐 수 있는 강력한 엔진이 된 건 분명해 보이지만 부작용을 줄일 수 있는 역량과 윤리 의식도 중요하겠다는 생각이 듭니다.

국장님 오늘 말씀 잘 들었습니다.

감사합니다.