메타가 인공지능 기술의 오용에 대응하기 위해 Crush AI라는 논란이 된 AI 누디파이 앱의 운영회사에 대해 소송을 제기했다. 이 법적 조치는 해당 앱이 페이스북과 인스타그램에 걸쳐 대규모 광고 캠페인을 전개하면서 메타의 광고 정책을 자주 위반하였다는 주장에 기초하고 있다. AI 기술이 급격히 발전하는 디지털 환경 속에서 이 사건은 콘텐츠 검열과 AI 기술의 책임 있는 사용 등 중요한 도전 과제를 강조하고 있다.

메타의 고소장은 홍콩에서 Joy Timeline HK라는 Crush AI의 운영체를 상대로 제기되었으며, 메타는 이 회사가 생성적 AI를 이용해 허위의 성적 이미지를 제작하는 서비스를 홍보하기 위해 의도적으로 검토 과정을 우회하고 있다고 주장하고 있다. 이는 사용자 안전 및 신뢰에 심각한 위협이 되기 때문이다.

작년 메타는 Joy Timeline HK와 관련된 광고를 반복적으로 제거했지만, 이 회사는 새로운 광고를 게재하는 등의 방법으로 검열을 피하려고 했다고 한다. 이러한 행동 패턴은 단순한 정책 위반을 넘어 법적 개입이 필요할 정도로 문제를 심각하게 확대했다. Crush AI의 광고 노력 규모는 상당했으며, 최근의 보고서에 따르면 Crush AI는 2025년 첫 두 주 동안 메타 플랫폼에서 8,000개 이상의 광고를 집행한 것으로 나타났다.

이 같은 대량의 광고는 메타의 정책 감시에 중요한 도전을 제기하였고, 해당 광고의 대부분이 페이스북과 인스타그램에서 발생하며 높은 효과를 보였다는 점에서 불법 행위가 확산되고 있음을 보여준다. Crush AI는 광고 계정을 다수 생성하고, 자주 도메인을 변경하며, 알림을 회피하기 위해 모호한 계정 이름을 사용하는 등 여러 방법으로 메타의 광고 검열 시스템을 우회하려 했던 것으로 전해진다.

메타는 이번 소송 외에도 여러 조치를 발표하여 AI 누디파이 앱과 유사한 서비스로부터 플랫폼의 안전성을 강화하는 데 힘쓰고 있다. 메타는 AI 누디파이 서비스의 광고 식별을 위한 새로운 기술을 개발했으며, 이는 직접적인 음란물이 아닌 경우에도 언어와 맥락을 기반으로 광고를 탐지할 수 있도록 설계되었다.

또한, 메타는 중복 광고를 빠르게 식별하고 제거하기 위해 매칭 기술을 도입하고, 광고 및 콘텐츠에서 검토를 촉발할 수 있는 용어의 범위를 확대하고 있다. 최근 메타는 이러한 서비스 광고를 촉진하는 계정을 대상으로 한 네트워크를 disrupted하였으며, 동종의 악성 네트워크를 고립시키기 위해 외부 기업과 협력하고 있다.

이러한 조치는 메타가 이번 법적 조치와 함께 AI 기술 남용을 공적으로 공개적으로 주장하며 여러 전선에서 싸우고 있음을 분명히 한다. 그러나 서비스의 완전한 퇴출은 여전히 어려운 과제로 남아있으며, 새로운 계정 생성과 도메인 변경, 회피 전술의 적응이 간편하다는 점에서 지속적인 감시와 혁신이 필요하다.

메타는 사용자의 안전을 강화하기 위해 법적 조치와 내부의 콘텐츠 검열 노력을 결합하고 있으며, 부모가 청소년이 다운로드할 앱을 관리하고 승인할 수 있는 법률을 지지하는 등 입법적인 대응을 통해 더 나은 환경을 구축하려고 하고 있다.


crossorigin="anonymous">