제 761 호 AI 시대의 음영... 'AI 슬롭 콘텐츠'
AI 시대의 음영... 'AI 슬롭 콘텐츠'
최근 디지털 생태계가 정체 모를 콘텐츠들로 잠식되고 있다. AI슬롭이란 생성형 AI 도구가 보급되며 인간의 검증이나 개입없이 AI에 의해 기계적으로 양산되는 저품질 콘텐츠가 온라인에 범람하는 현상을 말한다. 본래 '오물'을 뜻하는 이 단어는 이제 첨단 기술 시대의 알고리즘이 이용자에게 무차별적으로 투척하는 '가치 낮은 디지털 잡동사니'를 상징하는 용어로 정착했다.
생성형 AI 도구의 보급으로 글, 이미지, 영상, 음악을 키워드만으로 빠르게 제작할 수 있게 되면서 콘텐츠의 대량 생산이 가능해졌다. 그러나 검토나 편집 없이 AI 콘텐츠를 그대로 배포하는 사례가 늘어나면서 저품질 콘텐츠 역시 증가하고 있다. 또한 검색엔진, 플랫폼 등의 노출 빈도나 클릭 수를 중시하는 구조 탓에 저품질이더라도 상위 노출이 가능한 결과를 가져올 수 있게 되면서 유튜브,SNS,게임,음악,검색 플랫폼 등 다양한 채널로 확산될 수 있었다.
최근 유튜브의 조사에 따르면 전 세계 유튜브 AI슬롭 조회수에서 한국은 총 84억 5,000만회로 압도적인 1위를 기록했다. 단순히 소비량만 높은 것이 아니라 AI슬롭 생성량 또한 한국이 세계 1위에 이름을 올리며 대한민국은 AI 슬롭의 최대 생산지이자 소비지라는 구조적 위기에 직면했다.▲AI슬롭 채널 최다 조회 국가 (사진:https://www.seoul.co.kr/news/international/2025/12/29/20251229002004)
'AI 슬롭 1위'가 불러온 위험
한국이 AI 슬롭 소비 및 제작량에서 전 세계 1위를 차지했다는 사실은 국내 콘텐츠 산업의 구조적 취약성을 적나라하게 드러낸다. 한국의 고도화된 IT 인프라와 수익화에 극도로 민감한 디지털 환경은 AI 슬롭이 번식하기 위한 최적의 숙주가 되었음을 의미하며, 자극적인 저품질의 콘텐츠가 더 많은 관심을 받고 양질의 콘텐츠는 외면을 받는 현상이 발생하면서 진정성 있는 창작자들의 입지가 점점 좁아지고 있는 현실을 의미한다.
창작자들이 고유의 기획 대신 AI 지시어에만 의존하는 대량 생산 방식에 매몰될 경우, 국내 콘텐츠 산업은 창의적 자본을 잃고 알고리즘에 종속된 '슬롭 공장'으로 전락할 위험이 크다. 더욱 치명적인 위협은 한국어 기반 데이터 생태계의 비가역적인 오염이다. AI 슬롭은 그럴듯한 외형 속에 사실과 다른 내용을 지어내는 '환각 현상'과 검증되지 않은 가짜 정보를 교묘히 내포한다. 이러한 정보 오염이 심화되는 가운데, AI가 다시 AI가 만든 저품질 데이터를 학습하는 이른바 '데이터 근친교배' 현상이 반복된다. 그 결과 부정확한 정보를 학습한 AI는 점점 더 낮은 품질의 결과물을 생성하게 되고, 이는 한국어 기반 AI 모델 전반의 지능과 객관성을 떨어뜨리는 결과로 이어진다. 결국 AI 슬롭의 범람은 단순한 시청 경험의 저하를 넘어, 국가적 지식 자산이 왜곡된 정보로 치환되며 사회적 신뢰 자본을 근본적으로 부식시키는 심각한 국가적 위기를 초래할 수 있다.
SNS 플랫폼의 규제와 AI 기본법
유튜브가 AI로 대량 생산된 저품질 콘텐츠, 이른바 AI 슬롭 채널에 대한 대대적인 정리에 나섰다. 지난해 12월 31일, 온라인 동영상 편집 플랫폼 캡윙(Kapwing)에 따르면 유튜브는 최근 누적 조회수 47억 회에 달하는 AI 기반 저품질 동영상 채널을 대거 삭제했다고 밝혔다. 또한 구독자 수가 가장 많은 AI 관련 유튜브 채널 상위 100개 채널 중 16개가 유튜브에서 삭제됐다.
이번 조치는 닐 모한 유튜브 최고경영자(CEO)가 최근 연례 서한에서 "무엇이 실제이고 무엇이 AI가 생성한 것인지 구분하기가 점점 더 어려워지고 있다"라고 언급한 이후 이뤄졌다. 더불어 그는 저품질 AI 콘텐츠의 확산을 억제하기 위해 스팸 및 클릭 베이트 방지 시스템을 통해 반복적 저품질 콘텐츠 탐지하는 개선 작업을 진행하고 있다.▲비영리 단체에서 출시한 ‘AI 미사용’ 인증 워터마크(사진: https://www.bbc.com/korean/articles/c24dedzyldqo)
국내 플랫폼에서도 비슷한 움직임이 생겼다. 네이버는 블로그, 카페 등 게시물에 ‘AI 활용’ 여부를 표시하도록 하고 있다. 이를 어길 경우 수익화에 불이익을 주는 등 정책 개정을 진행 중이다. 카카오톡의 경우 카카오톡 숏폼 크리에이터들에게 ‘AI 콘텐츠 유형 표시’ 기능을 제공하고 있으며, 표시 누락이 확인될 경우 안내 및 수정 조치를 하고 있다. 네이버 관계자는 “AI 생성 콘텐츠 자체를 플랫폼 차원에서 막을 수는 없지만 품질이 좋냐, 나쁘냐와 AI 기본법 등 법 준수 여부를 기준으로 콘텐츠 필터링 및 수익화 측면에서 제재하고 있다”라며 “매크로처럼 도배되는 콘텐츠를 제재하고, 고품질 콘텐츠가 더 많이 발견되고 소비될 수 있도록 노력하고 있다”고 말했다.
그러나 슬롭 없는 환경을 내세운 새로운 SNS 플랫폼이 등장할 가능성은 작아 보인다. AI 생성물 탐지는 점점 더 어려워지고 있기 때문이다. 기계는 더 이상 영상이나 이미지가 확실히 가짜인지 정확히 감지하지 못하며, 콘텐츠가 슬롭인지 아닌지는 주관적인 판단이기에 기계로는 한계가 있을 수 있다.
플랫폼의 자체적인 규제뿐만 아니라 우리나라에서는 지난 1월 22일 AI로 만든 영상·이미지에 워터마크를 붙이는 내용을 담은 AI 기본법이 시행됐다. AI 기본법의 표시 조항은 영화, 웹툰, 애니메이션, 소설 등 콘텐츠 산업에서 AI를 단순 보조 도구로 활용하는 경우까지도 한정하고 있다. 이를 위반하면 최대 3,000만 원의 과태료가 부과되지만, 정부는 혼란을 줄이기 위해 최소 1년 이상 규제 유예 기간을 두기로 했다.
이러한 규제에도 불구하고 생성형 AI 모델과 서비스를 직접 제공하는 AI 사업자와 AI 이용 사업자에게 부여되는 워터마크 규제가 다르다. AI 이용 사업자는 워터마크를 마음대로 지울 수 있어 소비자가 제대로 AI 영상을 구별하는 데 실효적인 도움이 되겠느냐는 회의론이 존재한다. 또한 AI 스타트업 관계자는 실제로 제재가 들어가는 고위험 AI 적용 분야가 명확하지 않아 법적 불확실성이 크다며 우려했다. AI를 쓰지 않는 영역이 점점 없어지는 추세에서 AI를 살짝이라도 활용했다고 워터마크를 붙인다면 'B급 영상'으로 낙인찍히고 소비자로부터 외면받을까 걱정하는 콘텐츠 업계 우려도 만만찮다.
소비자가 갖춰야 할 비판적 미디어 리터러시는?
▲슬롭 영상을 시청할 때, 뇌의 반응(사진:https://www.dongascience.com/news/76351)
전문가들은 사람들이 특정한 글을 ‘슬롭’으로 느끼게 만드는 요인을 정리했다. 정보의 유용성, 표현 방식의 품질, 정보의 품질의 가치가 없을 때였다. 정보 유용성은 시청자나 독자가 필요로 하는 정보가 있는지, 표현 방식의 품질은 문장의 흐름이나 이야기의 맥락이 사람이 만든 것처럼 자연스러운지를 의미한다. 정보의 품질은 콘텐츠에 담긴 정보가 사실인지 한쪽으로 편향되지 않았는지를 말한다.
인지과학 전문가인 정아인 교수는 “정교하게 만든 AI 콘텐츠를 실제 영상과 구분하는 건 이제 인간의 뇌로는 어려운 일”이라며 “양질의 콘텐츠를 다양하게 접해 콘텐츠를 올바르게 받아들일 수 있는 눈을 갖추는 건 결국 사람에게 달린 것”이라고 강조했다. 콘텐츠의 맥락을 읽어 사실 여부를 구분하는 AI 리터러시는 앞으로 더 중요한 능력이 될 전망이다. AI슬롭 같은 저품질 콘텐츠를 규제할 제도를 완전무결하게 만드는 것도 쉽지 않은 과제지만, 만들었다고 치더라도 수용자, 소비자가 지키지 않으면 온라인에서 규제 회피 경로는 무궁무진하다. 그만큼 소비자의 비판적인 미디어 리터러시 능력을 키우는 것이 곧 양질의 콘텐츠를 생산하는 데 중요한 역할이라는 점을 되새겨야 할 지점이다.
변의정 기자, 김지연 수습기자
