< 목록으로

앤트로픽, AI 모델의 보안 강화 업데이트 발표

M
관리자
2025.04.01
추천 0
조회수 25
댓글 0


앤트로픽(Anthropic)이 인공지능 기술의 '책임 있는 확장' 정책에 대한 업데이트를 발표하며, 각 모델 안전 수준에 따라 추가적인 보안 보호가 필요한 기준을 정의했다. 이 회사는 아마존의 지원을 받으며 블로그 포스트를 통해 안전 및 보안 업데이트를 공개했다.

새로운 정책에 따르면, 앤트로픽은 AI 모델의 스트레스 테스트를 진행하는 과정에서 해당 모델이 '중간 자원 국가 프로그램'이 화학 및 생물학 무기를 개발하는 데 도움을 줄 수 있는 잠재력이 있다고 판단되면, 새로운 보안 보호 조치를 즉시 시행할 예정이다. 이러한 반응은 해당 모델이 앤트로픽의 신입 연구원의 역할을 완전히 자동화하거나, 빠른 확장으로 인해 지나치게 많은 피해를 초래할 수 있다고 판단될 경우에도 적용된다.

앤트로픽은 이번 달 초에 진행된 최근 펀딩 라운드에서 615억 달러(약 84조 원)의 기업 가치를 기록하며, AI 스타트업 중에서 가장 높은 가치를 가진 기업 중 하나에 올라섰다. 그러나 이는 오픈AI(OpenAI)의 3000억 달러라는 가치를 고려할 때 여전히 작은 범위다. 오픈AI는 이번에 400억 달러 규모의 펀딩 라운드를 마무리했다.

생성형 AI 시장은 향후 10년 내에 1조 달러 이상의 수익을 초과할 것으로 예상된다. 이에 따라 고성장 스타트업뿐만 아니라, 구글, 아마존, 마이크로소프트와 같은 기술 대기업들이 새로운 제품과 기능을 발표하기 위해 치열한 경쟁을 벌이고 있다. 또한, 중국의 AI 모델이 미국에서 화제가 되며 나타난 경쟁 리스크도 주목받고 있다.

이전에 발표된 앤트로픽의 '책임 있는 확장' 정책에서는, 사무실 내에 숨겨진 장치가 있는지를 점검하기 위해 사무실 푸쉬를 진행할 것이라고 명시했다. 앤트로픽은 이에 대한 보안 노력을 강화하기 위해 경영 위기 위원회를 설립하고, 내부 보안 팀을 구축했다고 밝혔다.

앤트로픽은 추가로 '물리적' 안전 프로세스를 도입하여, 조직을 감시하기 위해 사용되는 감시 장치를 찾고 식별하는 기술적 감시 대응 조치를 실시할 예정이다. 이 과정은 '고급 탐지 장비와 기술'을 이용하여 수행되며, '침입자'를 찾아내는 데 중점을 둔다.

최신 AI 모델 발표를 통해 앤트로픽은 점차 증가하는 AI 기술에 대한 사회적 요구와 우려에 대응하고 있으며, 보다 철저한 보안 시스템 구축을 통해 안전을 강화해 나가고 있다.


crossorigin="anonymous">

댓글

뉴스

아시아의 가족 사무소, 인공지능에 대한 투자 증가
M
관리자
조회수 13
추천 0
2025.04.02
아시아의 가족 사무소, 인공지능에 대한 투자 증가
에투리움 가격, 거시경제 불안 속에서 하락세 지속: ETH는 반등할까?
M
관리자
조회수 11
추천 0
2025.04.02
에투리움 가격, 거시경제 불안 속에서 하락세 지속: ETH는 반등할까?
아시아 가족 사무소, AI 투자에 집중…가장 흥미롭고 중요한 분야로 주목
M
관리자
조회수 6
추천 0
2025.04.02
아시아 가족 사무소, AI 투자에 집중…가장 흥미롭고 중요한 분야로 주목
미국의 USDC 발행사 서클, 수익 성장을 기록하며 IPO 신청
M
관리자
조회수 7
추천 0
2025.04.02
미국의 USDC 발행사 서클, 수익 성장을 기록하며 IPO 신청
아시아 가족 사무소들, 인공지능에 주목하며 투자 확대
M
관리자
조회수 8
추천 0
2025.04.02
아시아 가족 사무소들, 인공지능에 주목하며 투자 확대
주식 시장 CEO, XRP의 천 달러 및 만 달러 예상 비판
M
관리자
조회수 8
추천 0
2025.04.02
주식 시장 CEO, XRP의 천 달러 및 만 달러 예상 비판
아시아 가족 사무소들이 AI에 대한 투자를 늘리고 있다
M
관리자
조회수 6
추천 0
2025.04.02
아시아 가족 사무소들이 AI에 대한 투자를 늘리고 있다
투자자들, 트럼프 관세 정책 등장에 따라 미국 달러에 대해 부정적 전망 확대
M
관리자
조회수 16
추천 0
2025.04.02
투자자들, 트럼프 관세 정책 등장에 따라 미국 달러에 대해 부정적 전망 확대
에릭 트럼프, 금융 검열 반응으로 암호화폐 세계로 뛰어들다
M
관리자
조회수 15
추천 0
2025.04.02
에릭 트럼프, 금융 검열 반응으로 암호화폐 세계로 뛰어들다
이더리움, 심각한 경제 위기 직면 - 회복 가능할까?
M
관리자
조회수 8
추천 0
2025.04.02
이더리움, 심각한 경제 위기 직면 - 회복 가능할까?
미국 달러 약세 전망, 트럼프 관세 시행에 따른 변동성 증가
M
관리자
조회수 23
추천 0
2025.04.02
미국 달러 약세 전망, 트럼프 관세 시행에 따른 변동성 증가
비트코인 $85,000 상승: 전문가들이 바라보는 향후 전망
M
관리자
조회수 9
추천 0
2025.04.02
비트코인 $85,000 상승: 전문가들이 바라보는 향후 전망
중저펑, 가상 자산 투자 승인 받아
M
관리자
조회수 16
추천 0
2025.04.02
중저펑, 가상 자산 투자 승인 받아
게임스탑, 15억 달러 모집 완료… 비트코인을 자산에 추가
M
관리자
조회수 17
추천 0
2025.04.02
게임스탑, 15억 달러 모집 완료… 비트코인을 자산에 추가
2025년 암호화폐 세금 신고: 필수 날짜와 전략
M
관리자
조회수 15
추천 0
2025.04.02
2025년 암호화폐 세금 신고: 필수 날짜와 전략
작성
28 29 30 31 32