최근 OpenAI의 GPT-4와 같은 인공지능 모델들이 저작권이 있는 자료를 '암기'했다는 주장이 제기되면서 기술계에서 큰 파문을 일으키고 있다. 이 주장은 워싱턴 대학교, 코펜하겐 대학교, 스탠퍼드 대학교 등 여러 대학의 연구팀이 발표한 새로운 연구 결과에 기반을 두고 있으며, OpenAI가 자사의 AI 모델을 훈련시키기 위해 사용한 데이터의 출처와 윤리에 대한 중대한 의문을 제기하고 있다.

AI 모델은 방대한 양의 데이터로 훈련되어 패턴과 관계를 학습하여 사람처럼 텍스트를 생성하는 예측 엔진 역할을 한다. 그러나 최근 연구에 따르면, 이러한 모델이 훈련 과정 중 일부 저작권이 있는 콘텐츠를 그대로 재생산하는 현상이 나타났다는 것이다. 연구자들은 특정 단어들이 통계적으로 드물게 사용되는 '하이 서프리잘'(high-surprisal) 단어를 통해 AI 모델의 암기를 감지할 수 있는 방법을 개발했다. 예를 들어, "Jack and I sat perfectly still with the [MASK] humming."이라는 문장에서 모델이 "radar"를 맞춘다면, 이는 해당 문장이 훈련 중에 암기되었음을 나타낸다는 것이다.

연구 결과, GPT-4는 저작권이 있는 여러 인기 소설의 일부를 암기한 것으로 보이며, 특히 'BookMIA'라는 데이터셋에서 나온 전자책의 내용을 포함하고 있었다. 또한 뉴욕타임즈 기사의 일부 구문도 녹아들어 있었지만, 소설에 비해서는 낮은 빈도로 나타났다. 이러한 발견은 OpenAI가 저작권이 있는 콘텐츠를 무단으로 사용한 것인지에 대한 심각한 의문을 제기하고 있다.

이러한 상황 속에서 Abhilasha Ravichander, 워싱턴 대학교의 박사 과정 학생이자 연구 공동 저자는, 언론과의 인터뷰에서 AI 모델의 신뢰성을 확보하기 위해 훈련 데이터에 대한 투명한 감사와 분석이 필요하다고 강조했다. 현재 OpenAI는 저작권자들로부터 불리한 소송을 받고 있으며, 이들은 OpenAI가 저작권이 있는 자료를 불법적으로 사용했다고 주장하고 있다. OpenAI는 '공정 사용'의 원칙을 주장하고 있지만, 원고들은 AI 훈련을 위한 방대한 데이터의 섭취가 공정 사용의 범위를 넘어선다고 반박하고 있다.

이 법적 논쟁은 AI 개발에서의 지적 재산권의 경계를 재정의할 가능성이 크며, AI 훈련 데이터에 대한 규제의 중요성을 더 강조하고 있다. 또한 OpenAI는 저작권 사용에 대한 보다 유연한 규제 마련을 적극적으로 로비하고 있으며, 이는 창작자의 권리를 존중하면서도 혁신을 지속할 수 있는 방법을 모색하는 주제로 이어질 가능성이 높다.

결국 이 연구는 AI 개발의 투명성과 윤리적 고려의 필요성을 부각시키고 있으며, 향후 AI와 컨텐츠 창작 간의 관계를 심화시킬 핵심 요소가 될 것이다. AI 산업은 앞으로도 훈련 데이터에 대한 명확한 이해와 책임을 기반으로 한 개발을 통해 신뢰성을 높여 나가야 할 것이다.


crossorigin="anonymous">