AI 기술로 확산되는 혐오 콘텐츠의 위협

C-63 및 C-27 법안 통해 온라인 해악 콘텐츠 규제 추진

최근 인터넷에서 유통되는 혐오 콘텐츠가 인공지능(AI)에 의해 생성된 사례가 늘어나고 있다. 나치 독재자 아돌프 히틀러가 1939년 제2차 세계대전 초기 연설에서 영어로 반유대주의 발언을 하는 영상을 예로 들 수 있다. 이 영상은 AI에 의해 조작된 것으로 올해 초 한 극우 음모론자가 X(구 트위터)에 공유해 1,500만 회 이상의 조회수를 기록했다.

캐나다 반혐오 네트워크(Canadian Anti-Hate Network)의 피터 스미스 기자 는 "혐오 콘텐츠나 혐오 매체를 연구하는 모든 사람들이 AI로 생성된 콘텐츠를 점점 더 많이 보고 있다"고 말했다. 그는 AI 생성 혐오 콘텐츠가 증가하고 있다고 밝혔다.

UBC의 크리스 테노브 민주주의 연구소 부소장은 백인 우월주의 단체와 같은 혐오 단체들이 "새로운 인터넷 기술과 기법을 역사적으로 빨리 채택해왔다"고 설명했다. 테노브 부소장은 "이스라엘-하마스 전쟁 같은 상황에서 AI로 생성된 허위 정보가 양측의 분노와 두려움을 조장하는 데 사용되고 있다"고 덧붙였다.

비엔아이 브리트 캐나다(B'nai Brith Canada)의 최근 보고서에 따르면 지난해 AI로 생성되거나 조작된 반유대주의 이미지와 비디오가 전례 없이 증가했다. 리처드 로버트슨 이사는 "홀로코스트 부정이나 왜곡과 관련된 매우 끔찍하고 그래픽한 이미지들이 AI로 생성되고 있다"고 말했다. 로버트슨 이사는 나치 수용소 내부에 놀이공원이 있는 이미지를 예로 들며 "이는 AI로만 생성될 수 있는 콘텐츠"라고 설명했다.

이 보고서는 AI가 혐오 콘텐츠 생성에 미치는 영향을 다루고 있다. 캐나다 정부는 이러한 문제를 해결하기 위해 법안을 준비 중이다. 샹탈 오베르틴 법무장관 대변인은 "온라인 해악을 다루는 법안인 C-63 법안이 AI로 생성된 혐오 콘텐츠를 포함한 모든 형태의 콘텐츠를 규제할 것"이라고 밝혔다. 혁신부는 AI 콘텐츠를 식별하기 위한 물리적 표시를 요구하는 C-27 법안을 제안했다.

전문가들은 AI 생성 혐오 콘텐츠의 증가가 사회적 문제로 부상하고 있으며 이에 대한 연구와 논의가 필요하다고 강조하고 있다. AI 모델의 안전 기능을 제거하고 혐오 콘텐츠를 생성하는 방법을 찾아내는 악의적인 행위자들에 대한 경고도 계속되고 있다.