앤소프릭(AI Anthropic)은 자사의 인공지능 기술에 대한 '책임 있는 확장' 정책을 업데이트하며, 이 모델의 안전성 수준이 추가적인 보안 장치를 필요로 하는 정도를 정의했다고 2025년 3월 31일 발표했다. 이번 업데이트는 식약청(FDA)의 규제를 받고 있는 화학 및 생물 무기 개발에 악용될 가능성을 고려하여, 특정 모델이 이러한 위험성을 내포하고 있다고 판단될 경우 새로운 보안 조치를 즉시 시행할 것이라는 내용을 담고 있다.

정확히는 특정 AI 모델이 '중간 자원 국영 프로그램'의 화학 및 생물 무기를 개발하는 데 기여할 수 있는 잠재력이 드러나는 경우, 해당 기술을 배포하기 전에 더욱 철저한 보안 방어를 설정할 것이라고 앤소프릭 측은 밝혔다. 또한, 이 회사는 AI 모델이 자체적으로 초급 연구원의 역할을 전자동화하거나 너무 빠른 확장을 초래할 수 있는 경우에도 비슷한 방식으로 대응할 것이라고 덧붙였다.

앤소프릭은 최근 615억 달러의 기업 가치를 인정받으며, 세계에서 가장 높은 평가를 받는 AI 스타트업 중 하나로 자리 잡았다. 이는 3000억 달러 가치를 가진 오픈AI와 비교하면 일부분에 불과하다. 전반적으로 생성형 AI 시장은 향후 10년 내 1조 달러 이상의 수익을 기록할 것이라고 예상되고 있으며, 구글, 아마존, 마이크로소프트와 같은 대형 기술 기업들이 자사 제품과 기능을 지속해서 발표하며 치열한 경쟁에 나서고 있다.

앤소프릭은 이전에 발표한 '책임 있는 확장' 정책에 따라 물리적 사무실에서 숨겨진 장치 검색을 시작하고, 임원 리스크 위원회를 설립하며 내부 보안팀을 구성한 바 있다. 이는 우선 새로운 보안 프로세스를 구축하기 위한 일환으로, 고급 감지 장비와 기술을 통해 스파이 장치를 찾아내는 검사 작업이 포함된다.

마지막으로, 이 회사는 과거에 발표한 정책 중 일부가 새로운 것이 아니었다고 명확히 하며, 보안 강화를 위한 조치를 지속적으로 업데이트하고 있다는 점을 강조했다. 앤소프릭의 이런 조치들은 인공지능 기술이 발전하면서 그에 따른 부작용을 최소화하고, 사회에 기여할 수 있는 방향으로 발전하기 위한 노력의 일환으로 이해할 수 있다.


crossorigin="anonymous">