AI 슬롭은 정말 새로운 문제일까

요즘 'AI 슬롭(AI slop)'이라는 말을 자주 봅니다. AI로 콘텐츠를 너무 쉽게 찍어내다 보니, 쓸모없는 저품질 콘텐츠가 세상에 넘쳐난다는 뜻이죠. 이 단어는 잠깐 스쳐 가는 유행어도 아닌 것 같습니다. 메리엄-웹스터 사전은 생성형 AI 확산과 함께 이 단어가 퍼진 것을 이유로 'slop'을 2025년 올해의 단어로 꼽았습니다.¹

먼저 고백하자면, 저도 AI를 써서 콘텐츠를 만드는 사람입니다. 그래서 이 글이 자기변호처럼 읽힐 수 있다는 점을 알고 있습니다. 그럼에도 한번 정리해 보고 싶었습니다.

저는 이 비판에 어느 정도 공감합니다. 동시에 "이게 정말 이전에 없던 새로운 문제일까?"라는 의문도 듭니다. 이 글은 그 두 마음 사이에서 생각을 정리해 본 기록입니다.

콘텐츠는 원래 대부분 쓸모없었다

AI 이전으로 잠깐 돌아가 보겠습니다. 저는 세상에 나온 콘텐츠의 대부분이 원래도 큰 의미를 남기지 못했다고 생각합니다. SF 작가 시어도어 스터전이 1950년대에 남긴 "모든 것의 90%는 쓰레기"라는 말이 지금 '스터전의 법칙'으로 불리는 걸 보면, 저만의 생각은 아닌 것 같습니다.

저품질 콘텐츠가 넘친다는 걱정도 꽤 오래됐습니다. 인쇄술이 퍼진 16세기에는 학자 콘라트 게스너가 책이 너무 많아 혼란스럽다고 불평했고, 19세기 영국에서는 싸구려 연재 소설 '페니 드레드풀'이 청소년을 망친다는 비판을 받았습니다. 가까이는 블로그 포화, 양산형 유튜브 채널, 검색 노출만 노린 짜깁기 글이 있었죠.

만든 사람을 탓하려는 건 아닙니다. 콘텐츠가 잘 되려면 많은 사람이 공감하고, 참여하고 싶어지고, 실제로 도움을 받았다고 느껴야 합니다. 그런데 만드는 사람은 자기가 하고 싶은 이야기에 빠지기 쉬워서, 그 조건을 갖춘 콘텐츠의 비율은 시대와 상관없이 늘 낮았던 것 같습니다.

예상되는 반론
예전엔 만드는 데 비용이 들어서 양이 자연스럽게 제한됐다. 지금은 비용이 거의 0이라 비율이 아니라 절대량이 폭증했다.

타당한 지적이라고 생각합니다. 다만 양이 늘어나는 것 자체는 매체가 바뀔 때마다 반복된 일이었고, 그때마다 무슨 일이 일어났는지를 보면 조금 다르게 볼 여지가 있습니다. 이 이야기는 조금 뒤에 이어가겠습니다.

AI는 '못 만들던 사람'에게 기회를 열었다

그렇다면 AI는 무엇을 바꿨을까요. 제가 보기에 가장 큰 변화는, 원래 콘텐츠를 만들기 어려웠던 사람이나 오래 걸리던 사람도 쉽고 빠르게 만들 수 있게 됐다는 점입니다.

인스타툰을 예로 들어 보겠습니다. 일상에서 재미있는 순간을 포착하는 감각은 뛰어난데, 그림을 못 그려서 시작조차 못 했던 사람이 분명 많았을 겁니다. 유튜브도 마찬가지입니다. 이제 그런 사람들도 자기 아이디어를 세상에 내놓고 실험해 볼 수 있게 됐습니다.

스마트폰 카메라와 유튜브가 장비와 방송국이라는 진입장벽을 낮췄을 때도 비슷한 일이 있었습니다. 저품질 영상이 늘어난 만큼, 기존 방송이라면 기회를 얻지 못했을 크리에이터들도 함께 등장했습니다. 실험의 수가 늘면 좋은 아이디어가 발견될 가능성도 함께 커진다고 생각합니다.

예상되는 반론
실험이 늘어도 좋은 것이 묻혀 버리면 소용없다. 쓸 만한 것을 골라내는 비용은 결국 보는 사람이 떠안는다.

저도 이게 AI 슬롭 논의의 핵심이라고 봅니다. 그래서 다음 이야기는 이 '보는 사람이 떠안는 비용'에 관한 것입니다.

보는 사람이 떠안는 비용은 콘텐츠 산업이 커질 때마다 반복된 흐름이다

AI 슬롭이 문제라고 하는 가장 큰 이유는, 그 피해가 콘텐츠를 소비하는 사람에게 넘어간다는 점일 겁니다. 볼 게 많아질수록 좋은 것을 찾는 수고는 보는 사람 몫이 되니까요. 저는 이 현상이 실재한다고 생각합니다. 다만 이게 AI 때문에 처음 생긴 일이라기보다, 콘텐츠 산업이 커질 때마다 반복된 거시적인 흐름의 일부라고 봅니다.

돌아보면 공급이 크게 늘 때마다 고르는 부담이 먼저 커졌고, 그 뒤를 걸러 주는 장치가 따라왔습니다.

• 책이 쏟아지자 서평과 베스트셀러 목록, 도서관 분류 체계가 자리 잡았습니다.
• 웹페이지가 폭증하자 포털 디렉터리를 거쳐 검색 엔진이 등장했습니다.
• 영상이 넘쳐나자 구독과 추천 알고리즘이 그 역할을 이어받았습니다.

지금도 같은 일이 진행 중이라고 생각합니다. 플랫폼 알고리즘은 사람들이 실제로 오래 보고, 저장하고, 공유하는 콘텐츠가 더 눈에 띄도록 계속 바뀌고 있습니다. 반응이 없는 콘텐츠는 아무리 많이 올라와도 대부분 사람들의 피드에 닿기 어렵습니다.

예상되는 반론
알고리즘은 '좋은 것'이 아니라 '반응이 큰 것'을 키운다. 자극적이고 낚시성인 콘텐츠가 오히려 더 잘 퍼질 수 있다.

맞는 말입니다. 알고리즘이 고르는 기준이 곧 품질은 아니고, 이 간극은 AI 이전부터 있던 숙제입니다. 그래도 반응조차 얻지 못하는 대량 생산물은 점점 걸러진다는 방향 자체는 유지되고 있다고 봅니다. 완벽한 필터는 아니지만, 필터는 계속 진화하고 있습니다.

'AI로 만들었다'는 낯섦이 문제를 더 크게 보이게 한다

그렇다면 왜 지금 이 문제가 유독 크게 느껴질까요. 저는 AI로 콘텐츠를 만든다는 것이 아직 우리에게 익숙한 개념이 아니기 때문이라고 생각합니다.

지금 우리는 콘텐츠를 보면 "이거 AI로 만든 거네"를 먼저 알아차립니다. 내용을 판단하기 전에 그 판별이 첫 번째 레이어로 끼어드는 셈이죠. 그리고 그 밑에는 "AI로 만들었으면 저품질일 것"이라는 전제가 깔려 있는 경우가 많습니다. 실제로 같은 그림이라도 AI가 만들었다고 소개하면 사람이 만들었다고 할 때보다 덜 좋게 평가한다는 연구 결과도 있습니다.²

미세먼지와도 비슷한 면이 있다고 봅니다. 미세먼지를 매일 수치로 확인하면서 공기가 점점 나빠진다고 느끼는 사람이 많지만, 서울의 미세먼지(PM10) 농도는 1995년 관측을 시작한 뒤 오르내림 속에서도 대체로 감소하는 추세를 보였습니다. 2010년 수도권 연평균은 47㎍/㎥로 2003년보다 32% 낮아, 측정 이래 가장 낮은 값이었습니다.³ 이름이 붙고 측정하기 시작하면 체감이 커질 수 있다는 이야기입니다.

시간이 지나면 AI로 콘텐츠를 만드는 일은 플라스틱 그릇을 쓰는 것처럼 자연스러워질 거라고 생각합니다. 지금 우리는 음식을 받을 때 그릇이 플라스틱인지 따지기보다 음식이 맛있는지를 봅니다. AI도 그렇게 '무엇으로 만들었나'보다 '무엇을 담았나'를 보게 되는 도구가 되지 않을까요.

예상되는 반론
미세먼지는 실제로 줄었지만 AI 콘텐츠는 실제로 늘었다. 그리고 플라스틱도 익숙해졌을 뿐, 미세플라스틱이라는 문제를 남겼다.

두 지적 모두 일리가 있습니다. 그래서 미세먼지 비유는 '실제로는 나아졌다'는 증거가 아니라, 이름과 측정이 체감을 키운다는 점까지만 말하려는 것입니다. 플라스틱 비유 역시 익숙해진다고 모든 문제가 사라진다는 뜻은 아닙니다. 익숙해진 뒤에야 진짜 문제가 무엇인지 더 정확히 보인다는 쪽에 가깝습니다.

그래도 경계할 것은 '기대를 배신하는 사용'이다

AI 사용에 아무 문제가 없다는 뜻은 아닙니다. 우리 사회에는 AI를 쓰지 않기를 기대하는 영역이 분명히 있습니다.

이력서가 좋은 예입니다. 내 경력과 경험을 AI의 도움을 받아 정리하는 건 충분히 괜찮은 활용이라고 생각합니다. 하지만 채용 공고만 넣고 "여기 합격할 이력서를 써 줘"라고 하는 건 다릅니다. 읽는 사람은 이 사람의 실제 경험과 생각을 보고 싶어 하는데, 그 기대를 속이는 사용이기 때문입니다.

가짜 리뷰, 존재하지 않는 전문가를 내세운 글, 사람이 쓴 것처럼 위장한 대량 게시물도 같은 맥락입니다. 이런 것들은 퀄리티가 낮아서가 아니라 신뢰를 무너뜨려서 문제가 됩니다. 그러니 'AI 슬롭'이라는 한 단어 안에는 그저 서툰 콘텐츠와 보는 사람을 속이는 콘텐츠가 섞여 있고, 정말 경계해야 할 것은 후자라고 생각합니다. 슬롭이라 불리는 것 중에도 만든 사람은 좋은 콘텐츠를 만들려는 마음이었던 경우가 적지 않을 테니까요.

예상되는 반론
의도가 선해도 결과가 해로우면 문제다. AI가 만든 데이터로 AI를 반복 학습시키면 모델이 점점 다양성을 잃는다는 연구도 있다.

실제로 2024년 학술지 Nature에 실린 연구는 이런 '모델 붕괴' 현상을 보고했습니다.⁴ 사람 눈에 보이는 품질과 별개로 정보 생태계 전체가 오염될 수 있다는 점은, 과거의 콘텐츠 홍수와 분명히 다른 지점입니다. 이 부분은 낙관만으로 넘길 수 없는 숙제로 남겨 두고 싶습니다.

만드는 사람에겐 어려워지고, 보는 사람에겐 나쁘지만은 않은 시대

AI로 콘텐츠를 만드는 게 당연해지면, 만드는 것 자체는 더 이상 경쟁력이 되기 어렵습니다. 누구나 만들 수 있으니, 그중에서 사람들의 눈에 띄는 난이도는 만드는 사람 입장에서 점점 높아질 겁니다. 이미 그렇게 되고 있다고 느끼고, 같은 일을 하는 저에게도 쉽지 않은 부분입니다.

하지만 이 변화가 보는 사람을 해치는 방향으로만 가고 있는지 묻는다면, 저는 조심스럽게 낙관하는 편입니다. 시도는 늘어나고, 필터는 진화하고, 익숙해질수록 'AI냐 아니냐'보다 '나에게 쓸모 있느냐'로 콘텐츠를 판단하게 될 거라고 보기 때문입니다.

예상되는 반론
그 낙관은 이르다. 필터가 따라잡기 전까지 보는 사람이 치르는 피로와 속임의 비용은 실제로 존재한다.

동의합니다. 그래서 저는 AI 슬롭을 이전에 없던 거대한 사회 문제라기보다, 콘텐츠가 다양해지는 과정에서 나타나는 현상으로 보되 그 비용을 가볍게 넘기지는 않으려 합니다. 만드는 사람으로서 제가 붙잡고 싶은 기준은 하나입니다.

이 콘텐츠를 누가 읽고, 그 사람이 실제로 무엇을 얻어 가는가.

이 질문에 답할 수 있다면, AI를 썼든 쓰지 않았든 그건 슬롭이 아니라고 생각합니다.

각주

1. AP, 「Merriam-Webster's 2025 word of the year is 'slop'」 — ABC7 ↩

2. Bellaiche et al. (2023), 「Humans versus AI: whether and why we prefer human-created compared to AI-created artwork」, Cognitive Research: Principles and Implications — PsyPost 요약 ↩

3. 산업일보, 「수도권 공기가 좋아졌다」 (2011) — 원문 ↩

4. Shumailov, I. et al. (2024), 「AI models collapse when trained on recursively generated data」, Nature ↩