비탈릭 부테린은 1월 5일 블로그 포스트에서 인공지능(AI)이 인간의 지능을 초월할 가능성에 대해 경고하며, 이 시점이 불과 5년 이내일 수 있다고 언급했다. 그는 이와 같은 상황이 초래할 수 있는 위험에 대한 심각성을 강조하며, 인류가 이 도전 과제에 대비할 시간을 확보하기 위해 인공지능 하드웨어의 사용을 일시적으로 제한해야 한다고 제안했다.

부테린은 "소프트 파우즈"라는 개념을 제시하며, 이는 전 세계 컴퓨팅 파워를 최대 99%까지 줄이는 것을 포함한다. 그는 이러한 조치가 인공지능의 초지능 개발 속도를 늦추고, 인류가 이 기술에 적응할 시간을 확보하는 데 도움이 될 것이라고 주장했다. 그는 이를 마지막 수단으로 인정하면서도, AI의 위험이 상당한 경우 이러한 조치가 필수적이라고 강조했다. 또한, 산업별 AI 하드웨어에 국제 기구의 주간 승인을 요구하는 칩을 장착하는 방안도 제안했다.

부테린의 경고는 초지능 AI에 대한 우려가 전 세계 기술 리더와 연구자 사이에서 커지고 있다는 맥락에서의 발언이다. 2023년 3월, 엘론 머스크를 포함한 2,600명 이상의 개인이 서명한 공개 서한에서는 AI 개발의 중단을 촉구했으며, 이는 사회와 인류에 대한 심각한 위험을 초래할 수 있다고 경고했다.

부테린의 주장은 이전의 "방어적 가속주의"(defensive accelerationism)와 관련이 깊다. 이 접근 방식은 기술 발전에 있어 신중함을 강조하며, "효과적 가속주의"(effective accelerationism)와는 대조적으로 신속하고 제한 없는 발전을 지양한다. 그는 이전의 방어적 가속주의 논의는 구체성이 부족했다고 인정하며, 이번 제안은 고위험 AI 시나리오를 직접적으로 다루기 위한 것이라고 밝혔다.

또한, 그는 AI 모델로 인해 발생하는 피해에 대한 책임 규정을 도입할 필요성도 언급했다. 이러한 규정은 AI의 개발자와 사용자에게 책임을 물을 수 있는 안전장치가 될 것이지만, 부테린은 책임 규정이 불충분할 경우 하드웨어 일시 정지가 더 강력한 조치가 될 것이라고 제안했다. 그는 AI 하드웨어 규제 방안으로 AI 칩을 등록하고, 이들의 위치를 파악하는 시스템을 소개하며, 블록체인 기술을 활용하여 인증 프로토콜 준수를 검증하는 방법도 고려하였다.

부테린은 AI 하드웨어의 일시정지가 혁신의 브레이크를 거는 것이 아니라 인류를 잠재적 재앙으로부터 보호하기 위한 방법으로 보고 있다. 그는 이러한 일시 정지가 기술이 통제 불능 상태로 진입하는 것을 방지하는 데 필수적이라고 강조했다.


crossorigin="anonymous">