앤트로픽(Anthropic)이 인공지능 기술의 '책임 있는 확장' 정책에 대한 업데이트를 발표하며, 각 모델 안전 수준에 따라 추가적인 보안 보호가 필요한 기준을 정의했다. 이 회사는 아마존의 지원을 받으며 블로그 포스트를 통해 안전 및 보안 업데이트를 공개했다.

새로운 정책에 따르면, 앤트로픽은 AI 모델의 스트레스 테스트를 진행하는 과정에서 해당 모델이 '중간 자원 국가 프로그램'이 화학 및 생물학 무기를 개발하는 데 도움을 줄 수 있는 잠재력이 있다고 판단되면, 새로운 보안 보호 조치를 즉시 시행할 예정이다. 이러한 반응은 해당 모델이 앤트로픽의 신입 연구원의 역할을 완전히 자동화하거나, 빠른 확장으로 인해 지나치게 많은 피해를 초래할 수 있다고 판단될 경우에도 적용된다.

앤트로픽은 이번 달 초에 진행된 최근 펀딩 라운드에서 615억 달러(약 84조 원)의 기업 가치를 기록하며, AI 스타트업 중에서 가장 높은 가치를 가진 기업 중 하나에 올라섰다. 그러나 이는 오픈AI(OpenAI)의 3000억 달러라는 가치를 고려할 때 여전히 작은 범위다. 오픈AI는 이번에 400억 달러 규모의 펀딩 라운드를 마무리했다.

생성형 AI 시장은 향후 10년 내에 1조 달러 이상의 수익을 초과할 것으로 예상된다. 이에 따라 고성장 스타트업뿐만 아니라, 구글, 아마존, 마이크로소프트와 같은 기술 대기업들이 새로운 제품과 기능을 발표하기 위해 치열한 경쟁을 벌이고 있다. 또한, 중국의 AI 모델이 미국에서 화제가 되며 나타난 경쟁 리스크도 주목받고 있다.

이전에 발표된 앤트로픽의 '책임 있는 확장' 정책에서는, 사무실 내에 숨겨진 장치가 있는지를 점검하기 위해 사무실 푸쉬를 진행할 것이라고 명시했다. 앤트로픽은 이에 대한 보안 노력을 강화하기 위해 경영 위기 위원회를 설립하고, 내부 보안 팀을 구축했다고 밝혔다.

앤트로픽은 추가로 '물리적' 안전 프로세스를 도입하여, 조직을 감시하기 위해 사용되는 감시 장치를 찾고 식별하는 기술적 감시 대응 조치를 실시할 예정이다. 이 과정은 '고급 탐지 장비와 기술'을 이용하여 수행되며, '침입자'를 찾아내는 데 중점을 둔다.

최신 AI 모델 발표를 통해 앤트로픽은 점차 증가하는 AI 기술에 대한 사회적 요구와 우려에 대응하고 있으며, 보다 철저한 보안 시스템 구축을 통해 안전을 강화해 나가고 있다.


crossorigin="anonymous">