솔직히 저는 AI로 만든 가짜 음성을 구별할 수 있다고 막연히 믿었습니다. 디지털 툴을 매일 다루고, 콘텐츠 제작도 업으로 삼는 사람인데 설마 속겠냐는 근거 없는 자신감이 있었습니다. 그런데 작년 말, 그 자신감이 완전히 무너지는 경험을 했습니다. 그 이후로 유튜브를 보는 방식이 꽤 많이 달라졌고, 최근 김세의 가로세로연구소 대표의 구속 소식을 접하면서 그때 기억이 다시 떠올랐습니다.
저도 그 영상에 낚였습니다
재택근무를 하다 보면 집중력이 흐트러지는 순간이 꼭 생깁니다. 그럴 때 습관적으로 유튜브를 틀게 되는데, 어느 날 추천 피드에 가세연 채널 영상이 올라왔습니다. '충격 폭로'류 썸네일이었고, 무심코 클릭했습니다.
영상 안에는 꽤 그럴듯하게 편집된 음성 파일과 자막이 쏟아졌습니다. 당시 저는 그게 딥페이크(deepfake) 기술로 조작된 음성일 수 있다는 생각을 전혀 하지 못했습니다. 여기서 딥페이크란 AI가 실제 인물의 목소리나 얼굴 데이터를 학습해 진짜처럼 들리거나 보이는 가짜 콘텐츠를 만들어내는 기술을 의미합니다. 오히려 '이게 사실이면 대단한 폭로인데' 싶어서 지인에게 링크까지 공유했습니다.
나중에 해당 내용이 허위로 드러났을 때 자괴감이 꽤 컸습니다. 디지털 리터러시(digital literacy), 즉 디지털 정보를 비판적으로 읽고 판단하는 능력이 스스로에게 충분하다고 생각했는데 전혀 그렇지 않았다는 걸 인정해야 했습니다. 이번 사건에서 경찰이 밝힌 혐의 중 하나도 AI를 활용해 조작된 음성으로 명예훼손을 했다는 내용이었는데, 제가 직접 겪어보니 그런 콘텐츠가 얼마나 쉽게 사람을 속이는지 잘 알 것 같습니다.
알고리즘이 자극성을 보상하는 구조
이 사건에서 경찰은 "허위임을 알면서도 대중의 관심을 얻기 위해 유포했다"는 판단을 내렸습니다. 저는 이 문장을 읽으면서 개인의 도덕 문제만이 아니라는 생각이 먼저 들었습니다.
유튜브 알고리즘은 기본적으로 CTR(클릭률)과 시청 지속 시간을 핵심 지표로 삼습니다. 여기서 CTR이란 노출된 영상이 실제로 클릭되는 비율로, 자극적인 썸네일과 제목이 높은 CTR을 만들어낸다는 건 업계에서 공공연한 사실입니다. ([출처: YouTube Creator Academy](https://creatoracademy.youtube.com)) 결국 허위 폭로일수록 조회수가 오르고, 조회수가 오를수록 광고 수익이 늘어나는 구조입니다.
저도 블로그와 영상 콘텐츠로 수익화를 고민하는 입장이라 이 역설을 매일 체감합니다. 윤리적이고 검증된 내용을 쓸수록 도달률이 낮고, 자극적인 키워드를 넣을수록 유입이 늘어납니다. 한국언론진흥재단이 발표한 '2024 디지털 뉴스 리포트'에서도 허위 정보가 진짜 뉴스보다 소셜 플랫폼에서 훨씬 빠르게 확산된다는 점이 지적된 바 있습니다. ([출처: 한국언론진흥재단](https://www.kpf.or.kr))
이런 상황에서 크리에이터 개인에게만 책임을 묻는 건 분명 한계가 있습니다. 물론 허위임을 알고도 유포한 행위 자체는 명백한 잘못입니다. 다만 그 잘못을 수익으로 보상해온 플랫폼 시스템을 함께 들여다보지 않으면, 비슷한 사건은 계속 반복될 것입니다.
그 이후로 제가 바꾼 것들
그 일을 겪고 나서 저는 자극적인 썸네일 영상은 의식적으로 스킵하는 루틴을 만들기 시작했습니다. 처음엔 의지만으로 하려다 자꾸 실패해서, 포모도로(Pomodoro) 타이머 앱의 체크리스트에 아예 '자극성 영상 클릭 금지' 항목을 추가했습니다. 포모도로 기법이란 25분 집중 후 5분 휴식을 반복하는 시간 관리 방식으로, 저는 이걸 디지털 정보 소비 습관 관리에까지 응용하고 있습니다.
실제로 제가 지금 실천하고 있는 방법을 정리하면 이렇습니다.
- 썸네일에 '폭로', '충격', '단독' 같은 단어가 있으면 일단 스크롤을 내립니다.
- 음성 파일이 주요 증거로 등장하는 영상은 원출처가 확인되기 전까지 공유하지 않습니다.
- 미디어 리터러시 관련 콘텐츠를 주기적으로 읽으며 AI 생성 음성·영상의 특징을 업데이트합니다.
사실 이 정도 루틴이 번거롭게 느껴질 수 있습니다. 하지만 직접 겪어보니 잘못된 정보를 공유한 뒤의 후폭풍이 훨씬 더 피곤한 일이었습니다. 지인 관계에서의 신뢰 손상은 시간이 꽤 걸려야 회복됩니다.
이번 구속 사건이 단순히 한 인물의 법적 처벌로 마무리되지 않았으면 합니다. 저처럼 한 번이라도 자극적인 영상에 낚여본 경험이 있다면, 그게 시스템적인 문제이기도 하다는 걸 같이 생각해보셨으면 합니다. 정보를 소비하는 방식을 의식적으로 바꾸는 것, 그게 지금 저 같은 디지털 환경에서 일하는 사람이 할 수 있는 가장 현실적인 대응이라고 생각합니다.
---
참고: https://www.yonhapnewstv.co.kr/news/AKR20260526221601ZRR