앤소프릭, AI 모델의 보안 강화를 위한 업데이트 발표
M
관리자
2025.04.01
추천 0
조회수 408
댓글 0

앤소프릭(AI Anthropic)은 자사의 인공지능 기술에 대한 '책임 있는 확장' 정책을 업데이트하며, 이 모델의 안전성 수준이 추가적인 보안 장치를 필요로 하는 정도를 정의했다고 2025년 3월 31일 발표했다. 이번 업데이트는 식약청(FDA)의 규제를 받고 있는 화학 및 생물 무기 개발에 악용될 가능성을 고려하여, 특정 모델이 이러한 위험성을 내포하고 있다고 판단될 경우 새로운 보안 조치를 즉시 시행할 것이라는 내용을 담고 있다.
정확히는 특정 AI 모델이 '중간 자원 국영 프로그램'의 화학 및 생물 무기를 개발하는 데 기여할 수 있는 잠재력이 드러나는 경우, 해당 기술을 배포하기 전에 더욱 철저한 보안 방어를 설정할 것이라고 앤소프릭 측은 밝혔다. 또한, 이 회사는 AI 모델이 자체적으로 초급 연구원의 역할을 전자동화하거나 너무 빠른 확장을 초래할 수 있는 경우에도 비슷한 방식으로 대응할 것이라고 덧붙였다.
앤소프릭은 최근 615억 달러의 기업 가치를 인정받으며, 세계에서 가장 높은 평가를 받는 AI 스타트업 중 하나로 자리 잡았다. 이는 3000억 달러 가치를 가진 오픈AI와 비교하면 일부분에 불과하다. 전반적으로 생성형 AI 시장은 향후 10년 내 1조 달러 이상의 수익을 기록할 것이라고 예상되고 있으며, 구글, 아마존, 마이크로소프트와 같은 대형 기술 기업들이 자사 제품과 기능을 지속해서 발표하며 치열한 경쟁에 나서고 있다.
앤소프릭은 이전에 발표한 '책임 있는 확장' 정책에 따라 물리적 사무실에서 숨겨진 장치 검색을 시작하고, 임원 리스크 위원회를 설립하며 내부 보안팀을 구성한 바 있다. 이는 우선 새로운 보안 프로세스를 구축하기 위한 일환으로, 고급 감지 장비와 기술을 통해 스파이 장치를 찾아내는 검사 작업이 포함된다.
마지막으로, 이 회사는 과거에 발표한 정책 중 일부가 새로운 것이 아니었다고 명확히 하며, 보안 강화를 위한 조치를 지속적으로 업데이트하고 있다는 점을 강조했다. 앤소프릭의 이런 조치들은 인공지능 기술이 발전하면서 그에 따른 부작용을 최소화하고, 사회에 기여할 수 있는 방향으로 발전하기 위한 노력의 일환으로 이해할 수 있다.
crossorigin="anonymous">
뉴스
CBS가 트럼프의 영향력에 굴복하다
M
관리자
조회수
45
추천 0
2025.07.03

리플, 미국에서 은행 라이선스 신청…암호화폐의 합법화 추진
M
관리자
조회수
21
추천 0
2025.07.03

오픈AI, 로빈후드 토큰은 회사 주식이 아니다
M
관리자
조회수
19
추천 0
2025.07.03

비탈릭 부테린 "암호화폐는 기술의 난해함이 아닌 인류의 자유에 초점을 맞춰야 한다"
M
관리자
조회수
16
추천 0
2025.07.03

공화당의 대규모 법안, 국가 부채에 수조 달러 추가 예고
M
관리자
조회수
16
추천 0
2025.07.03

SEC 의장, 토큰화는 '혁신'으로 새로운 규제 방향성을 제시
M
관리자
조회수
18
추천 0
2025.07.03

션 콤브스, 경미한 두 가지 혐의로 유죄 판결…가장 심각한 혐의는 무죄로 판명
M
관리자
조회수
17
추천 0
2025.07.03

트럼프의 암호화폐 사업, 개인 자산에 6억 2천만 달러 추가
M
관리자
조회수
19
추천 0
2025.07.03

타이완 알리산의 붉은 삼나무 숲에서 느끼는 영원한 아름다움
M
관리자
조회수
16
추천 0
2025.07.03

피터 틸, 암호화폐 친화적 실리콘 밸리 뱅크 후계은행 설립 지원
M
관리자
조회수
20
추천 0
2025.07.03

다시 돌아온 수염의 시대, 새로운 턱수염 문화가 시작되다
M
관리자
조회수
18
추천 0
2025.07.03

오늘의 암호화폐 소식: 코인베이스의 인수 소식과 사이버 공격 경고
M
관리자
조회수
21
추천 0
2025.07.03

달라이 라마, 후계자 계획 발표…중국의 간섭은 허용하지 않아
M
관리자
조회수
14
추천 0
2025.07.02

DWS와 도이치은행의 유로 스테이블코인, 규제 승인 받다
M
관리자
조회수
15
추천 0
2025.07.02

바이낸스 페이, 프렌치 리비에라의 80개 상점에 암호화폐 결제 도입
M
관리자
조회수
12
추천 0
2025.07.02

댓글