OpenAI는 최근 발표한 보고서에서 악의적인 행위자들이 ChatGPT와 같은 자사 모델을 이용해 전 세계 선거 결과에 영향을 미치려는 시도가 계속되고 있다고 밝혔다. 이 회사는 올해 들어 전세계에서 20건 이상의 작전과 허위 네트워크를 차단했다고 강조하며, 이는 온라인에서 생성된 AI 콘텐츠가 민주적 절차를 위협할 수 있음을 시사한다.

OpenAI가 발표한 54페이지의 보고서는 선거와 사이버 작전의 영향을 보여주는 '스냅샷'을 제공하고, AI가 더 넓은 위협 환경에서 어떻게 작용하는지에 대한 초기 동향을 파악하는 데 목적이 있다. 이 보고서는 미국 대선이 가까워지고 있는 시점에서 발표되었으며, 전 세계 40개국에서 40억명 이상에게 영향을 미치는 중요한 선거의 해로 보인다. 특히, AI가 생성한 콘텐츠로 인한 선거 관련 허위정보 문제는 심각한 우려를 낳고 있으며, 딥페이크의 수가 전년 대비 무려 900% 증가했다고 Clarity라는 기계 학습 회사가 보고했다.

선거와 관련된 허위정보는 새로운 현상이 아니다. 이는 2016년 미국 대선에서 러시아의 악의적인 행위자들이 소셜 플랫폼을 통해 저렴하고 손쉬운 방법으로 허위 콘텐츠를 퍼뜨리는 문제로부터 시작되었다. 2020년에는 코로나19 백신과 선거 사기에 대한 잘못된 정보가 소셜 네트워크를 뒤덮었다.

현재 입법자들은 생성적 AI의 급증에 대해 더욱 우려하고 있으며, 이는 ChatGPT의 출시 이후 2022년 말부터 본격적으로 확산되고 있다. OpenAI는 보고서에서 AI의 선거 관련 사용이 단순한 콘텐츠 생성 요청에서부터 소셜 미디어 게시물에 대한 분석 및 응답을 포함하는 복잡한 다단계 노력에 이르기까지 다양하다고 강조했다. 특히, 이 보고서에서 언급된 AI 사용은 주로 미국, 르완다의 선거와 관련이 있는 반면, 인도 및 유럽 연합 선거도 어느 정도 포함되어 있다.

올해 8월 말에는 이란의 한 작전이 OpenAI의 제품을 사용해 미국 선거 및 기타 주제에 대한 '장문 기사'와 소셜 미디어 댓글을 생성했으나, OpenAI는 대부분의 게시물이 좋아요, 공유 및 댓글을 거의 받지 못했다고 발표했다. 7월에는 르완다에서 선거 관련 코멘트를 게시하던 ChatGPT 계정을 차단했으며, 5월에는 이스라엘의 한 기업이 인도의 선거에 대한 소셜 미디어 댓글을 생성하기에 OpenAI가 24시간 안에 조치를 취했다고 밝혔다. 6월에는 프랑스의 유럽 의회 선거에 대한 댓글을 생성한 비밀 작전을 다루었다.

OpenAI는 이 모든 선거 관련 작전이 ChatGPT와 자사의 기타 도구를 사용하여 '바이럴 참여'를 유도하거나 '지속된 청중'을 형성하는 데 실패했다고 언급했다. 이는 현재 사이버 공간에서의 AI 사용이 기존의 허위 정보를 극복하기 어려운 점을 다시 한 번 일깨워준다.


crossorigin="anonymous">