전 세계적으로 디지털 플랫폼의 이용률이 증가함에 따라, 혐오 표현은 더 이상 특정 국가의 문제가 아니라 국제 사회 전체의 공동 과제가 되었다. 특히 온라인상 혐오 발언은 국경을 넘나들며 다국적 이용자에게 영향을 미치고 있으며, 이에 따라 AI 기술을 활용한 혐오 감지 및 대응 시스템의 글로벌 협력 필요성이 높아지고 있다. 본 글에서는 국제기구의 정책적 시도, 다국어 AI 기술의 현황과 도전, 그리고 국제 협약을 통한 기술적 대응의 방향성을 살펴본다.
UN과 글로벌 기관의 혐오 대응 정책
유엔(UN)은 2019년부터 '혐오표현 대응 전략과 행동계획(Strategy and Plan of Action on Hate Speech)'을 수립하고, 국제 사회에 이를 공동 이행할 것을 권고해왔다. 2025년 현재, 해당 계획은 다국적 기술 기업, 시민사회, 국가정부 간 연계를 통한 디지털 혐오 억제를 위한 범국가적 협력 기반의 정책 프레임워크로 자리잡고 있다.
UN 산하 유네스코(UNESCO)는 AI 기술이 혐오 표현 대응에 핵심적 도구가 될 수 있다는 점을 명시하며, 'AI 윤리 권고안(Recommendation on the Ethics of AI)'을 통해 인권 중심 기술 설계 원칙을 강조하고 있다. 여기에는 혐오 감지 AI의 투명성, 설명가능성, 공정성 확보 등이 포함된다. 특히 글로벌 남반구(Global South) 국가들을 대상으로 디지털 역량 강화를 지원하는 프로그램이 병행되고 있으며, 이는 데이터 불균형 문제를 완화하는 데 기여하고 있다.
또한, 유럽연합(EU), OECD, G7 국가들 역시 자국 내 혐오 표현 대응 정책을 넘어서, 글로벌 기술 규범과 공통 가이드라인을 마련하기 위한 협력 체계를 구축하고 있으며, 이들은 UN의 전략과 연계된 국가 차원의 이행 보고서를 제출하고 있다.
다국어 AI 기술의 현황과 한계
글로벌 혐오 감지 AI 기술은 다국어 환경에서 작동해야 하므로, 기술적으로 매우 높은 정밀도와 언어별 문화적 문맥 인식 능력을 요구한다. 현재 대부분의 혐오 감지 AI는 영어 기반으로 설계되어 있으며, 프랑스어, 스페인어, 독일어 등 유럽 주요 언어로 확장된 상태다. 그러나 아프리카, 동남아, 중동 지역 언어에서는 학습 데이터 부족, 사회문화적 맥락 이해의 한계 등으로 탐지 정확도가 현저히 낮은 실정이다.
이러한 문제를 해결하기 위해 최근에는 XLM-R(XLM-RoBERTa), mBERT(multilingual BERT)와 같은 다국어 프리트레인 모델이 주목받고 있다. 이들은 여러 언어를 동시에 학습하여 범언어적 패턴을 추론할 수 있으며, 동일한 혐오 표현의 언어적 변형을 감지하는 데 유리하다. 그러나 여전히 구조적 편향과 문화적 차이로 인한 오류는 존재한다.
특히 혐오 표현은 지역마다 쓰이는 방식이 다르고, 표현 강도와 의미도 달라 문화적·정치적 민감성이 높다. 예를 들어, 한 지역에서는 풍자나 유머로 받아들여지는 표현이 다른 지역에서는 모욕적 혐오로 간주될 수 있다. 이러한 언어적 다양성은 AI가 혐오를 감지할 때 반드시 고려되어야 할 요소로, 정확한 혐오 판단을 위해서는 단순한 번역이 아니라, 문화적 의미 분석(cultural contextualization)이 필요하다.
기술 협약과 글로벌 거버넌스의 형성
현재까지의 혐오 감지 AI는 국가별로 독립적으로 개발되고 적용되는 경우가 많았으나, 최근에는 다자간 협력 모델을 통한 기술 규범 통합 및 공동 대응 체계 구축이 논의되고 있다. 대표적으로 2025년 발효된 ‘글로벌 디지털 윤리 협약(GDEC, Global Digital Ethics Convention)’은 AI 기술의 남용을 방지하고, 혐오 표현 감지의 최소 기준을 마련하기 위한 다국적 합의문이다.
GDEC는 기술 기업, 국제기구, 국가 정부, 시민사회가 참여하는 4자 거버넌스 모델을 제안하며, AI 기반 혐오 탐지 시스템의 투명성, 인권 기준, 검증 절차에 대한 국제 표준을 명시하고 있다. 특히 데이터 공유 및 공동 학습 프레임워크를 도입하여, 국경 간 혐오 콘텐츠 유통을 조기 차단하는 기술적 기반을 제공하고 있다.
이러한 움직임은 AI 기술이 국경을 초월한 사회문제 해결의 도구가 될 수 있음을 보여주며, 각국 간 협력 없이는 혐오 표현에 대한 실효적 대응이 불가능하다는 점을 강조한다. 향후 과제는 표준화된 기술 설계, 법적 보호 장치 마련, 다문화 감수성 반영, 그리고 학습 데이터의 다양성 확보이다.
결론: 혐오표현 AI 대응은 국제 협력 없이는 완성될 수 없다
혐오 표현은 언어와 문화를 넘어선 사회적 도전이며, 그 대응 역시 기술·정책·문화의 국제적 통합이 필요하다. AI는 이를 감지하고 대응하는 데 있어 막강한 도구가 될 수 있지만, 그 자체로 완전한 해결책이 될 수는 없다.
UN을 중심으로 한 국제 거버넌스와 기술 협약은 혐오 대응 AI의 공정성, 설명가능성, 투명성을 보장하기 위한 기반이 되어야 하며, 이 과정에서 글로벌 시민사회의 감시와 참여도 필수적이다. AI가 혐오를 먼저 알아채는 시대, 그 방향성은 개별 알고리즘이 아니라 우리가 함께 세우는 국제 기준에 달려 있다.