앤트로픽이 최신 인공지능(AI) 기술에 대한 '책임 있는 확장' 정책에 관하여 업데이트를 발표하며, 어떤 모델 안전 수준이 추가적인 보안 조치가 필요한지를 정의했다. 이 회사는 아마존의 지원을 받으며 블로그 포스트를 통해 안전 및 보안 업데이트를 공개했다.

이전 버전의 책임 있는 확장 정책에서는, 앤트로픽이 ramped-up 보안 노력을 위해 숨겨진 장치들을 찾기 위해 물리적 사무실을 조사하겠다고 발표한 바 있다. 즉, AI 모델을 스트레스 테스트할 때, 만약 모델이 중간 규모의 국가 프로그램이 화학 및 생물 무기를 개발하는 데 도움을 줄 가능성이 있음을 확인할 경우, 해당 기술을 출시하기 전에 새로운 보안 보호 조치를 시행할 것이라고 앤트로픽은 밝혔다.

이런 결정은 모델이 앤트로픽의 입사 초보 연구직의 역할을 완전히 자동화할 수 있는 경우나, 지나치게 빠른 속도로 확장이 진행될 위험이 있는 경우에도 같은 방식으로 이루어진다. 앤트로픽은 최근 자금 모집 라운드를 성공적으로 마감하며 615억 달러의 평가 가치를 기록, 가장 가치 있는 AI 스타트업 중 하나로 남았다. 그러나 이는 3000억 달러의 가치에 400억 달러 규모 자금을 모집한 오픈AI에 비해 적은 수치이다.

향후 10년 내에 생성적 AI 시장은 천억 달러를 초과하는 수익을 기록할 것으로 보인다. 고속 성장 스타트업 이외에도, 구글, 아마존 및 마이크로소프트와 같은 기술 대기업들이 새로운 제품과 기능 출시를 위해 경쟁을 하는 가운데, 중국의 경쟁도 주목받고 있다. 특히, 올해 초 딥시크의 AI 모델이 미국에서 큰 인기를 끌면서 나타난 리스크도 더욱 부각되고 있다.

앤트로픽은 이전에 발표한 책임 있는 확장 정책에서 물리적 사무실을 숨겨진 장치들로부터 보호하기 위한 보안 조치를 시행한다고 언급했으며, 이는 고급 탐지 장비와 기법을 사용하여 '침입자'를 찾아내는 물리적 안전 프로세스를 수립하는 것을 포함한다. 또한, 취약점 관리를 위한 경영 위험 위원회를 구성하고 내부 보안 팀을 구축했다고도 밝혔다.

정리하자면, 앤트로픽의 새로운 보안 조치는 AI 기술의 발전과 함께 하는 인류의 안전을 위해 더욱 확고한 길을 모색하고 있음을 보여준다. 이러한 기술들의 무분별한 사용이 초래할 수 있는 위험을 사전에 차단하기 위한 노력이 계속되고 있다.


crossorigin="anonymous">