솔직히 저는 AI로 만든 가짜 음성을 구별할 수 있다고 막연히 믿었습니다. 디지털 툴을 매일 다루고, 콘텐츠 제작도 업으로 삼는 사람인데 설마 속겠냐는 근거 없는 자신감이 있었습니다. 그런데 작년 말, 그 자신감이 완전히 무너지는 경험을 했습니다. 그 이후로 유튜브를 보는 방식이 꽤 많이 달라졌고, 최근 김세의 가로세로연구소 대표의 구속 소식을 접하면서 그때 기억이 다시 떠올랐습니다. 저도 그 영상에 낚였습니다 재택근무를 하다 보면 집중력이 흐트러지는 순간이 꼭 생깁니다. 그럴 때 습관적으로 유튜브를 틀게 되는데, 어느 날 추천 피드에 가세연 채널 영상이 올라왔습니다. '충격 폭로'류 썸네일이었고, 무심코 클릭했습니다. 영상 안에는 꽤 그럴듯하게 편집된 음성 파일과 자막이 쏟아졌습니다. 당시 저는 그게 딥페이크(deepfake) 기술로 조작된 음성일 수 있다는 생각을 전혀 하지 못했습니다. 여기서 딥페이크란 AI가 실제 인물의 목소리나 얼굴 데이터를 학습해 진짜처럼 들리거나 보이는 가짜 콘텐츠를 만들어내는 기술을 의미합니다. 오히려 '이게 사실이면 대단한 폭로인데' 싶어서 지인에게 링크까지 공유했습니다. 나중에 해당 내용이 허위로 드러났을 때 자괴감이 꽤 컸습니다. 디지털 리터러시(digital literacy), 즉 디지털 정보를 비판적으로 읽고 판단하는 능력이 스스로에게 충분하다고 생각했는데 전혀 그렇지 않았다는 걸 인정해야 했습니다. 이번 사건에서 경찰이 밝힌 혐의 중 하나도 AI를 활용해 조작된 음성으로 명예훼손을 했다는 내용이었는데, 제가 직접 겪어보니 그런 콘텐츠가 얼마나 쉽게 사람을 속이는지 잘 알 것 같습니다. 알고리즘이 자극성을 보상하는 구조 이 사건에서 경찰은 "허위임을 알면서도 대중의 관심을 얻기 위해 유포했다"는 판단을 내렸습니다. 저는 이 문장을 읽으면서 개인의 도덕 문제만이 아니라는 생각이 먼저 들었습니다. 유튜브 알고리즘은 기본적으로 CTR(클릭률)과 시청 지속 시간을 핵심 지표로 삼습니...