언론 플랫폼에서의 댓글 기능은 독자의 의견 표현, 공론장 형성, 저널리즘의 민주적 확장이라는 긍정적 기능을 수행해 왔다. 그러나 동시에 댓글 창은 특정 사회 집단에 대한 혐오, 편견, 인신 공격이 무분별하게 발생하는 대표적인 디지털 공간이 되었다. 특히 특정 사건이나 인물, 사회적 소수자를 대상으로 한 보도에 따라 댓글란은 혐오와 비방, 공격성 담론의 온상이 되기 쉬우며, 이는 언론사의 신뢰도 저하, 독자 이탈, 사회 갈등 증폭으로 이어질 수 있다.
1. 언론 댓글의 혐오 표현 실태와 플랫폼 책임
국내외 주요 언론사들은 이미 오래전부터 댓글란을 통한 혐오 표현 확산 문제에 직면해 왔다. 특히 연예, 정치, 젠더, 사회 갈등 이슈와 관련된 기사에선 단순한 의견 개진을 넘어 악의적 조롱, 차별, 모욕적 언사가 조직적으로 확산되는 현상이 빈번하게 나타난다. 이는 단지 개인 간의 갈등을 넘어서, 특정 집단 전체에 대한 사회적 배제를 강화하는 혐오 메커니즘으로 작동한다.
이에 따라 네이버, 다음 등 포털 뉴스 서비스 제공자와 주요 언론사들은 댓글란의 실명제, 자동 비노출 기능, 사용자 신고 기반 시스템 등을 도입해 대응해 왔다. 그러나 기존 시스템은 대부분 사후적 대응에 머물렀으며, 실시간성과 정교함에 있어 한계를 드러냈다. 이러한 상황 속에서 AI 기반 혐오 감지 시스템이 언론 플랫폼에 본격적으로 도입되기 시작한 것이다.
2. AI 혐오 필터링 기술의 원리와 실시간 탐지 구조
AI 기반 댓글 필터링 시스템은 자연어 처리(NLP) 기술을 바탕으로 사용자의 입력을 실시간 분석하고, 특정 키워드, 문맥, 감정 분석 결과를 종합하여 혐오 여부를 판단한다. 특히 BERT, KoBERT, ELECTRA-Ko와 같은 한국어 특화 언어모델이 텍스트의 공격성, 대상성, 반복성 등을 종합적으로 평가하여 콘텐츠의 위험 점수를 산출한다.
실시간성 확보를 위해 대부분의 시스템은 워드 임베딩 단계를 거친 입력값을 즉시 추론 가능한 경량화된 모델로 처리하며, 위험 점수가 일정 기준치를 넘을 경우 다음 세 가지 중 하나의 조치를 자동으로 시행한다:
- 자동 비노출 처리: 다른 사용자에게 해당 댓글이 보이지 않게 숨김 처리
- 작성자 경고 알림: 게시 전 ‘표현 수위 주의’ 메시지를 표시해 스스로 수정 유도
- 관리자 검토 요청: 사전 설정된 고위험 키워드 포함 시 즉시 관리자에게 알림
이러한 구조는 AI가 혐오 콘텐츠를 1차적으로 필터링한 후, 플랫폼 운영자 또는 사용자 커뮤니티의 판단이 최종적으로 개입할 수 있는 ‘혼합 통제 구조’로 진화하고 있음을 보여준다. 특히 실시간 필터링의 적용은 단순 차단을 넘어, 이용자 스스로 혐오적 표현을 자제하도록 유도하는 심리적 효과도 함께 제공한다.
3. 사용자 신고 시스템과 AI 판단의 상호 보완성
AI가 모든 혐오 표현을 완벽히 탐지하는 것은 불가능하다. 은유적 비하, 문화적 코드, 특정 집단 내 통용되는 혐오 은어 등은 AI가 오탐하거나 탐지하지 못하는 경우가 많기 때문이다. 이를 보완하기 위해 대부분의 언론 댓글 시스템은 사용자 신고 기능을 병행하며, 신고된 콘텐츠와 AI가 탐지한 콘텐츠 간의 교차 분석을 통해 신뢰도를 높인다.
예컨대 동일한 표현이 AI에 의해 고위험 판단을 받은 동시에 사용자 다수가 ‘혐오’ 또는 ‘불쾌함’을 신고한 경우, 해당 콘텐츠는 자동 삭제되거나 계정 정지 대상으로 분류된다. 반면 AI가 탐지하지 못했지만, 다수의 신고가 집중된 경우는 ‘탐지 누락 사례’로 기록되어 향후 학습 데이터로 활용된다. 이러한 구조는 혐오 표현 필터링의 ‘지속적 개선 메커니즘’을 구축하는 핵심이다.
또한 최근에는 댓글 작성자 이력 분석, 반복적 혐오 행위 기록 등을 종합해 ‘이용자 평판 기반 필터링’도 적용되고 있다. 이는 플랫폼 내에서의 행위 패턴을 통해 위험 이용자를 조기 식별하고, 개별 콘텐츠의 판단을 넘어 ‘사용자 중심’ 필터링 체계로의 전환을 의미한다.
결론: 언론 댓글의 공론장 회복, 기술과 공동체의 조화가 필요하다
AI 기반 혐오 표현 필터링 시스템은 언론 댓글란을 보다 안전하고 건설적인 공론장으로 전환하기 위한 필수 기술로 자리잡고 있다. 하지만 기술만으로는 혐오를 완전히 제거할 수 없다. 중요한 것은 사용자 참여와 감시, 플랫폼의 책임 있는 운영, 그리고 알고리즘의 공정성과 투명성이다.
언론은 표현의 자유를 보호하는 동시에, 그것이 타인의 권리를 침해하지 않도록 조율하는 사회적 책임을 가진다. AI는 그 책임을 실현하기 위한 보조 수단이자 윤리적 도구이며, 댓글이라는 작은 공간에서 시작된 혐오 대응 기술은 궁극적으로 디지털 민주주의의 기반이 되어야 한다.