온라인 혐오 표현 피드백의 역설: 혐오 표현은 부정적 반응에 위축되지 않아

- 이재국 교수 연구진, 네이버 댓글 2500만 건 AI 모델 분석

온라인 공간을 오염시키는 혐오 표현은 부정적 반응이 있을 때 이에 위축되지 않고 오히려 더욱 증가한다는 사실이 밝혀졌다. 미디어커뮤니케이션학과 이재국 교수와 테크놀로지와민주주의연구소 유효선 박사가 네이버 댓글 2,500만 건을 수집해 딥러닝 모델로 분석한 결과, 온라인 혐오표현이 단순히 부정적인 평가만으로는 줄지 않는 것으로 나타났다. 이러한 연구 결과는 최근 Journalism & Mass Communication Quarterly에 게재됐다. JMCQ는 1924년 1호가 나온 이래 102년째 발간되고 있는 언론학계 최고(最古) 학술지이다.

▲ (왼쪽부터) 유효선 박사, 이재국 교수

연구 결과, 지난 2022년 대통령 선거 운동 기간 중 네이버뉴스에 달린 댓글 가운데 혐오 표현이 아닌 일반적인 댓글은 긍정적 평가가 있을 때 증가했으며 부정적 평가가 있을 때는 감소하는 모습을 보였다. 반면, 혐오 표현이 있는 댓글은 부정적 평가가 있을 때 줄지 않고 오히려 늘어났다. 선거와 같은 정치적 맥락에서 혐오표현의 목적이 주로 정치적 반대편에 대한 분노를 증폭시키고 공격을 가하려는 것이기 때문에 부정적 반응에 위축되기보다는 더욱 심각해지는 것으로 해석됐다.

이 연구는 웹크롤링 기법을 활용, 선거 투표일 이전 5개월 동안 주요 정당 대통령 후보 4명에 관련된 기사 33만여 건을 전수조사해 각 기사에 딸린 댓글을 모두 취합했다. 또한 수천만 건에 달하는 대규모 데이터를 분석하기 위해 딥러닝 기반 AI 모델을 자체적으로 개발, 구축했다. 한국어 혐오표현을 탐지하고자 개발된 KPHC(Korean Hate Speech Detection) 모델은 댓글과 같은 텍스트에 혐오표현이 포함돼 있는지 여부를 자동으로 판단한다. 딥러닝 모델 KPHC 개발과 관련된 논문은 지난해 다른 학술지 Language Resources and Evaluation에 게재된 바 있다.

▲ 네이버뉴스 댓글 작성자의 분포를 전체 댓글(그림1)과 혐오 표현(그림2)의 수에 따라 표현한 것

이 연구는 갈수록 심각해지고 있는 온라인 혐오 표현에 대처하는 방안을 어떻게 마련할지 그 방향을 제시한다는 점에서 큰 의미가 있다. 또한 이 연구는 한국에 고유한 사회, 정치적 환경과 그에 근거한 데이터를 활용해 국제 학술지에 게재함으로써 한국 사회의 문제와 그 대안 제시가 세계적 차원의 보편성을 획득했다는 의미도 지닌다.

※ 학술지: Journalism & Mass Communication Quarterly

※ 논문명: Negative feedback fuels hate speech: A deep learning analysis of 25 million news comments

※ 논문링크: https://journals.sagepub.com/doi/10.1177/10776990251343076