메타가 10월 26일 목요일, 일부 인스타그램 사용자들이 개인 리얼스 페이지에서 폭력적이고 그래픽한 콘텐츠가 급증하고 있다고 보고한 것에 대해 사과하며 이를 수정하겠다고 약속했다. 메타 대변인은 CNBC에 전달한 성명에서 "인스타그램 리얼스 피드에서 일부 사용자에게 추천되어서는 안 되는 콘텐츠를 노출시키는 오류를 수정하고 있다. 이 실수에 대해 사과드린다"고 밝혔다.

이 성명은 여러 인스타그램 사용자가 최근 폭력적이고 '업무에 적합하지 않은' 콘텐츠의 급증에 대한 우려를 다양한 사회관계망서비스(SNS)에 공유한 후 나온 것이다. 일부 사용자는 인스타그램의 '민감한 콘텐츠 제어' 기능을 최고 수준으로 설정했음에도 불구하고 이러한 콘텐츠를 목격했다고 주장했다.

메타 정책에 따르면, 이 회사는 사용자를 한정된 내용으로부터 보호하기 위해 폭력적이거나 그래픽한 콘텐츠를 제거하고 있으나, 특정 경우에는 그래픽 콘텐츠를 허용한다고 밝혔다. 이러한 콘텐츠는 인권 유린, 무력 충돌 또는 테러와 같은 중요한 문제에 대한 경각심을 불러일으키기 위해 사용될 수 있다. 그러나 이 경우에도 경고 레이블 등 제한이 붙을 수 있다.

수요일 밤, CNBC는 미국 내 인스타그램 리얼스에서 시신, 심각한 부상, 폭력적인 공격을 담은 여러 게시물을 확인할 수 있었고, 이러한 게시물은 '민감한 콘텐츠'로 레이블링되어 있었다. 메타는 사용자의 안전을 우선시하며, 특히 잔인한 내용이 포함된 영상은 '절단된 신체, 보이는 내장, 불타버린 시체'와 같은 내용이 금지된다고 명시했다.

메타의 대변인 발언과 사용자들의 경험을 종합해 볼 때, 안전한 콘텐츠 소비 환경을 조성하기 위한 메타의 노력이 아직 혼란스럽고, 기술적 결함이 여전히 존재함을 보여준다. 사용자들은 앞으로 개선된 콘텐츠 필터링 시스템을 기대하고 있으며, 메타가 이를 안정적으로 운영할 수 있을지에 대한 의문도 제기되고 있다.

이에 따라 메타는 향후 안전하고 건강한 커뮤니티를 만들기 위한 대책 수립과 기술적 개선을 반드시 실행해야 할 것이다. 그래픽한 콘텐츠의 확산은 사용자 경험을 저해할 뿐만 아니라 브랜드 신뢰도에도 부정적 영향을 미치기 때문에, 메타의 신속한 행동이 요구된다.


crossorigin="anonymous">