OpenAI는 월요일, 그동안 Safety and Security Committee로 알려진 안전 및 보안 위원회가 독립적인 이사회 감독 위원회로 전환된다고 발표했다. 이 위원회는 카네기멜론대학교 기계학습과의 Zico Kolter 교수가 의장을 맡으며, OpenAI 이사이자 Quora의 공동 창립자인 Adam D'Angelo, 전 NSA 국장인 Paul Nakasone, 그리고 Sony의 전 부사장인 Nicole Seligman이 위원으로 참여한다.

이 독립 위원회는 OpenAI 모델의 배포 및 개발을 안내하는 안전 및 보안 프로세스를 감독할 예정이며, 최근에는 OpenAI의 프로세스와 방어 시스템에 대한 90일 검토를 완료하고 이사회에 권고안을 제출한 상태이다. OpenAI는 이 위원회의 결과를 공개 블로그 포스트를 통해 발표할 예정이다.

현재 Microsoft의 지원을 받는 OpenAI는 ChatGPT와 SearchGPT를 만든 스타트업으로, 새로운 투자 라운드를 진행하고 있으며, 이 회사의 가치는 1500억 달러를 초과할 것으로 예상되고 있다. 이 투자 라운드는 Thrive Capital이 주도하며, 10억 달러를 투자할 계획이다. Tiger Global 또한 이 라운드에 참여할 예정이며, Microsoft, Nvidia, Apple도 투자 논의에 참여하고 있는 것으로 알려져 있다.

위원회는 안전과 보안을 위한 독립적인 거버넌스 수립, 보안 조치 강화, OpenAI의 작업에 대한 투명성을 높이고 외부 조직과 협력하며 안전 프레임워크를 통합할 것을 추천하였다. 최근 OpenAI는 추론 및 "어려운 문제 해결"에 초점을 맞춘 새로운 AI 모델인 o1의 미리보기를 발표했다. 위원회는 OpenAI o1의 출시에 대한 안전 및 보안 기준을 검토하고 안전 평가 결과도 살펴보았다.

이 위원회는 전체 이사회와 함께 모델 출시를 감독하며, 안전 문제 해결 전까지 출시를 지연할 수 있는 권한도 가진다. OpenAI는 2022년 말 ChatGPT를 출시한 이후 급속히 성장했지만, 동시에 다양한 논란과 고위직 직원들의 이탈 문제를 겪고 있다. 현재 일부 현재 및 전직 직원들은 회사가 너무 빠르게 성장해 안전하게 운영하기 어렵다는 우려를 표명하고 있다.

지난 7월, 민주당 상원 의원들은 Sam Altman CEO에게 OpenAI의 안전 문제 해결 방안에 대한 질문을 담은 서한을 발송했다. 그 이전 달에는 현재 및 전직 OpenAI 직원들이 감독 부족과 내부 고발자 보호 부재에 대한 우려를 담은 공개 서한을 발표하기도 했다. 또한, 5월에는 OpenAI의 한 전직 이사가 Altman의 일시적인 해임과 관련해 이사회에 보고한 정보가 여러 차례 부정확했다고 언급한 바 있다.

한편, OpenAI는 AI의 장기적 위험에 대한 팀을 새로 설립한 지 1년 만에 해체하기로 결정했으며, 그 팀의 리더인 Ilya Sutskever와 Jan Leike는 5월에 회사를 떠났다. Leike는 X플랫폼에 올린 게시물에서 OpenAI의 “안전 문화와 프로세스가 화려한 제품에 밀려 뒷전으로 물러난 것”이라고 비판했다.

OpenAI는 이제 안전 문제를 위한 독립적인 감독 채널을 갖추게 되었으며, 이는 회사의 지속 가능한 발전과 사용자 안전을 보장하기 위한 중요한 발걸음으로 평가된다. 앞으로 이 위원회가 OpenAI의 안정성을 높이고 AI 기술의 발전에 긍정적인 영향을 미칠지 주목된다.


crossorigin="anonymous">