[172호] AI로 악플누르기

기자 이윤종

 

댓글검열

 

 작성자에 의해 삭제된 댓글입니다. 이러한 댓글을 볼 때면 우리는 AI가 악플을 잘 걸러내고 있다고 생각할지도 모른다. 2020년 8월, 故 고유민 배구 선수가 악플로 인해 극단적인 선택을 했다는 의혹이 제기되면서 네이버 스포츠 기사에는 댓글을 달 수 없게 되었다. 이미 같은 해 3월에는 연예 기사에 댓글 작성이 차단된 상태였다. 네이버가 여론의 요구에 따라 스포츠 및 연예 기사에 대한 댓글 중단을 결정한 것이다. 많은 사람들이 이용하는 대표 포털 사이트로서 네이버는 스포츠 및 연예 기사에 달린 악플을 줄이기 위한 불가피한 조치를 시행한 셈이다. 네이버 측은 악플로 고통받는 사람들을 줄이기 위해 즉각적으로 이러한 결정을 내렸을 것이다. 하지만 과연 이러한 조치 이후 악플은 실제로 줄었을까? 경찰청의 조사에 따르면 사이버 명예훼손 및 모욕으로 검거된 건수는 2020년 12,638건에서 2023년 20,390건으로 오히려 꾸준히 증가한 것으로 나타났다. 네이버에서 연예 기사 댓글창이 폐쇄되면서 전체 댓글 수는 대폭 줄었지만, 이것이 곧 악플의 감소를 의미하지는 않았다. 또한, 악플은 더 이상 디지털 환경에 익숙한 20·30대만의 전유물도 아니었다. 광주대학교 강동형 초빙교수는 네이버 데이터랩의 댓글 통계를 분석한 결과, 네이버 기사 댓글에 가장 활발하게 참여하는 세대는 40대이며 가장 많은 악플을 작성하는 세대는 50대라는 사실을 밝혔다(강동형, 2023.02.14.). 그렇다면 20·30대의 악플 작성은 온라인에서 실제로 줄어들었을까?

 

풍선효과(Balloon Effect)

 네이버와 네이트가 연예 기사에 대한 댓글 작성을 중단한 이후, 많은 온라인 커뮤니티에서 연예 관련 뉴스에 대한 악플이 기하급수적으로 증가했다. 온라인 커뮤니티의 주요 이용자가 대체로 20·30대라는 점을 고려했을 때, 결국 악플의 '장소'만 바뀌었을 뿐이라는 사실을 알 수 있다. 실제로 더쿠와 디시인사이드(연예인 갤러리 3곳)의 커뮤니티 게시물과 댓글을 분석한 결과, 더쿠의 평균 댓글 수는 324개였으나 네이버와 네이트의 댓글 폐지 이후 평균 댓글 수는 520개로 증가했고, 조회수 역시 큰 폭으로 늘어났다. 디시인사이드 연예 갤러리의 경우 평균 조회수가 기존 5,000~6,000대에서 11,000대로 급증했으며, 악플 비율 또한 33%에서 41%로 가파르게 증가했다(금준경·박서연, 2022.10.08.). 이러한 현상은 이른바 '풍선효과(Balloon Effect)'로 설명된다. 풍선의 한쪽을 누르면 다른 쪽이 부풀어 오르는 현상에서 유래된 풍선효과는 미국이 마약 밀수를 단속하기 위해 강력한 규제를 시행했으나 마약사범들이 활동 무대를 중남미 국가로 옮기면서 기대한 효과를 거두지 못한 데서 비롯된 개념이다. 즉, 네이버와 네이트에서 사라진 악플들이 온라인 커뮤니티로 이동하면서 오히려 그곳에서 악플 문화를 확산시키는 계기가 된 것이다. 금준경과 박서연(2022.10.08.)은 실제로 연예 뉴스 댓글 폐지 이후 축구 커뮤니티인 에펨코리아의 검색량 추이를 분석했는데, 구글 기준 43.3에서 79.8로, 네이버 기준 35.5에서 70.8로 대폭 증가한 사실을 확인했다. 또한, 온라인 커뮤니케이션에서 발생하는 성별 갈등 문제를 다룬 논문에 따르면 커뮤니티 이용량은 성별 갈등 양극화에 영향을 미치는 요인 중 하나로 밝혀진 바를 보았을 때, 온라인 커뮤니티가 악플의 장으로 변하고 있음을 간접적으로 드러냈다(호규현·이윤종·김정현, 2024). 이처럼 온라인 커뮤니티는 소통의 장에서 악플의 장으로 변화하고 있으며, 이는 마치 중남미가 마약사범의 소굴로 변했던 것과 같은 현상이라 할 수 있다. 더욱 우려되는 점은 네이버나 네이트에서는 다양한 이해관계를 가진 사람들이 한데 모여 댓글을 작성했지만 댓글 기능이 폐지된 이후 사람들은 각자의 가치관과 관심사에 맞는 커뮤니티로 흘러들어가게 되었고, 그 속에서 각기 다른 문화가 형성되었다는 것이다. 그 결과, 이용자들은 자신이 원하는 정보만을 선택적으로 소비하면서 세상을 편향된 시선으로 바라보게 되었고, 이는 마치 현실에서 가상현실을 체험하는 것과 같은 왜곡된 인식을 만들어냈다. 우리는 VR 기기를 쓰지 않아도 각자의 온라인 공간 안에서 '가짜 현실' 속에 살고 있는 셈이다. 

<출처> pixabay

 

AI 댓글검열

 

 AI의 발전은 사회 전반에 걸쳐 많은 영향을 미치고 있으며, 이는 댓글검열 영역에서도 마찬가지다. 이제는 악플을 사람이 일일이 읽지 않고도 자동으로 차단하거나 걸러낼 수 있는 시대가 되었다. 댓글 기능을 운영하는 다양한 사이트에서는 전문 필터링 업체의 서비스를 활용하거나 자체적인 기술을 개발해 악플에 자동 대응하고 있다. 이 과정에는 자연어 처리 기술과 딥러닝, BERT 기반 모델, 욕설 사전 및 특정 패턴 인식 시스템이 활용된다. 최근 배우 김새론이 스스로 생을 마감한 사건 이후, 악플 관리를 강화해야 한다는 주장이 다시금 제기되었고, AI를 통해 이를 사전에 통제해야 한다는 목소리도 이어졌다(YTN, 2025.2.23.). 하지만 이러한 자동 검열 시스템은 여전히 한계가 존재한다. AI는 문맥을 완벽히 이해하지 못하며, 우회적 표현이나 비꼬기, 반대말, 은어 등 미묘한 언어적 표현을 정확히 파악하는 데 어려움을 겪는다. 무엇보다도 정당한 비판과 악의적인 비난을 구별하는데 있어 아직까지 기술적인 한계가 분명하다. 즉, AI 기술은 아직 완벽하게 구현되지 않았으며, 사회적으로 요구되는 정교한 판단을 대신하기엔 부족한 상황이다. 더 중요한 것은 설령 AI가 완벽하게 악플을 차단할 수 있게 된다 하더라도 악플 문제 자체가 사라지지는 않을 것이라는 점이다. 앞서 언급한 풍선효과처럼 만약 모든 악플을 걸러낼 수 있게 되더라도 분명히 그 감정의 분출은 또 다른 공간에서 다시 나타날 것이다. 사람들은 여전히 부정적인 감정을 표출할 통로를 찾을 것이고, 악플이 차단된다면 그 감정을 드러내는 방식만 달라질 뿐이다. 컴퓨터와 TV를 없앤다고 아이가 갑자기 공부를 하지 않으며, 군대에서 수통을 던지며 싸운 병사들의 수통을 압수한다고 상대에 대한 미움이 사라지지 않는다. 이는 방이 쓰레기로 가득한데 침대 밑으로 쓰레기를 밀어넣으며 마치 방이 깨끗하다고 합리화하는 것과 같은 것이다. 결국, 중요한 것은 표면적인 현상을 억누르는 것이 아니라, 그 이면에 자리 잡은 본질을 정확히 들여다보는 것이다.

 

댓글의 미래

 우리가 진정으로 파악해야 하는 것은 왜 사람들이 악플을 분출하는지, 그러한 현상을 왜 사회는 방관하는지, 그리고 왜 악플을 달아서는 안 되는지를 면밀히 이해하고 직시해야 한다는 점이다. 이러한 문제의식은 단순히 기술적·법적 장치를 넘어서, 인간 심리와 사회 구조 전반에 대한 통찰에서 출발해야 한다. 현재 네이버와 다음 뉴스 기사에서 댓글을 작성하려고 댓글창을 클릭하면, ‘악플은 타인의 권리를 침해할 수 있으며 법적 책임이 따를 수 있다’는 경고 문구가 나타난다. 이는 언뜻 보면 경각심을 줄 수 있을지 모르지만, 실상은 법적으로 문제가 되지 않는 선에서 악플을 작성하라는 메시지로 받아들여질 여지가 있다. 그보다는 ‘당신의 댓글을 읽을 상대를 떠올려보라’, ‘우리 모두는 더 나은 사회를 함께 만들어가고 있다’, ‘당신과 생각이 다른 이들도 당신과 마찬가지로 소중한 존재다’라는 식의 공동체적 상상과 접촉을 유도하는 메시지가 오히려 건강한 댓글 문화를 조성하는데 더 효과적일 수 있다. 궁극적으로 중요한 것은 이러한 논의가 일회성으로 그치지 않고 지속적이고 다면적으로 이루어져야 한다는 것이다. 기술이 발전함에 따라 학교에서도 AI를 포함한 디지털 기술의 기본적인 이해를 가르치는 교육과정이 생겨나고 있다. 그에 앞서 반드시 수반되어야 할 것은 AI 윤리, AI 리터러시, 그리고 온라인 시민의식이다. 기술을 다루는 능력뿐 아니라 그것을 어떻게 책임있게 사용할 것인가에 대한 성찰이 병행되어야 한다. 또한, 다양한 캠페인과 사회운동을 통해 온라인에서 발생하는 범죄 역시 결코 가볍지 않은 중대한 범죄이며, 악플 작성이 당연하게 여겨져서는 안 된다는 사회적 분위기를 조성해야 한다. 댓글을 쓰기 전, 감정적으로 키보드를 두드리는 대신 한 번 더 생각할 기회를 제공하고, 스스로를 돌아볼 수 있도록 유도하는 환경이 필요하다. 

 누구나 악플이 나쁘고 근절되어야 한다는 사실에는 공감할 것이다. 그럼에도 불구하고 악플이 줄어들지 않는 이유는 아마도 악플이라는 문화가 이미 사회 전반에 자연스럽게 스며들었기 때문일 수 있다. 글 서두에 언급했던 강동형 교수의 기사에 따르면, 20·30대보다 50대 이상 연령대에서 욕설 댓글 작성 비율이 더 높게 나타났다. 이 기사를 쓴 저자는 다양한 연령대의 사람들이 악플에 가담하고 있는 현실을 알림으로써 악플이 세대나 계층을 초월한 문제임을 지적하고 악플이 근절되기를 바랐을 것이다. 그러나 역설적으로 해당 기사 역시 50대 이상을 ‘할 일 없는 2찍 틀딱들’이라며 비하하고, 전혀 관련 없는 정치인을 끌어들여 욕설을 퍼붓는 내용이 포함되어 있었다. 이는 악플을 비판하는 글조차 악플을 통해 쓰여지는 역설적인 상황을 보여준다. 이와 같이, 최근 배우 김새론의 사망 소식 이후 언론의 관심은 불길처럼 번졌고, 하루에도 수천 건의 기사와 보도가 쏟아졌다. 사람들은 주변 인물을 가해자로 지목하고, 마치 정의의 사도라도 된 듯 그들을 집단적으로 비난했다. 바른 말을 하려했던 사람들도 또 다른 ‘가해자’로 몰려 정의의 심판대에 오르게 되었다. 대다수의 방관자들은 침묵으로 일관했으며, 그 침묵 속에서 또 다른 가해가 만들어졌다. 우리 모두는 피해자일 수 있으며 동시에 가해자일 수도 있다. 이 글을 읽고 공감하며 다시 누군가를 비난하는 당신은 누군가를 심판하는 판사처럼 보이고자 하겠지만 사실은 가해자이자 피해자인 셈이다. 불행한 일에는 애도를, 행복한 일에는 축복을 선사하는 댓글문화로 발전하길 기원한다.

 

참고문헌

 

강동형 (2023,02,14.). 네이버 욕설 댓글, 50대 이상 연령대가 가장 많이 올려. <시민언론 민들레> URL: https://www.mindlenews.com/news/articleView.html?idxno=1685

금준경·박서연 (2022,10,08). 네이버 연예·스포츠 댓글 폐지하자 커뮤니티에 ‘풍선효과’. <미디어 오늘> URL: https://www.mediatoday.co.kr/news/articleView.html?idxno=306142

호규현·이윤종·김정현 (2024). 20대의 성별갈등 이슈에 대한 선택적 노출이 태도극 화에 미치는 영향: 온라인커뮤니케이션의 조절효과를 중심으로. <사이버커뮤니케이션학보>, 41권 1호, 189-234.

YTN. (2025.02.23.). 김새론 이후 '악플 관리' 재점화..."AI로 사전 통제" / YTN[Video]. YouTube https://youtu.be/ZTPGZ4wlvw0?si=tVwiEjW4aN4aOVq9