오픈AI의 연구 책임자 노암 브라운(Noam Brown)이 최근 발표에서 인공지능(AI) 기술이 현재보다 수십 년 전에 더 발전할 수 있었다고 주장했다. 그는 최근 샌호세에서 열린 엔비디아 GTC 컨퍼런스에서 "AI 추론 모델"이 현재의 혁신적인 AI 시스템과 유사하게 20년 전에 개발될 수 있었지만, 연구자들이 올바른 접근 방식과 알고리즘을 발견하지 못했기 때문이라고 밝혔다. 이 주장은 AI 발전의 경로에 대한 심오한 질문을 던지며 우리가 간과했던 잠재력에 대해 성찰하게 한다.

브라운은 과거의 AI 연구에서 한 가지 중요한 공백이 있었음을 지적했다. 그는 인간이 복잡한 상황에서 행동하기 전에 상당한 시간을 고민하는 경향이 있는데, 이러한 '추론' 요소가 초기 AI 모델에서 거의 무시되었다고 설명했다. 그에 따르면, 여러 요인이 이러한 과오에 기여했다. 첫째, 연구 방향이 다른 분야에 집중되어 추론 능력에 대한 탐색이 부족했다는 점이다. 둘째, AI 추론을 구현하기 위한 올바른 알고리즘과 접근 방식이 연구자들에게 즉각적으로 드러나지 않았다는 점이다. 마지막으로, 복잡한 추론 모델을 위한 컴퓨팅 자원이 부족했을 가능성도 있다. 이러한 요소들은 20년 상당의 지연을 초래한 중요한 요인으로 작용했을 것으로 보인다.

브라운의 통찰은 AI 사고 방식의 기초적인 변화를 강조한다. 바로 행동 전에 '사고'하는 과정을 통합하기 시작한 것이다. 이는 오픈AI의 o1 모델의 핵심 기술인 '테스트 시간 추론(test-time inference)'과 관련이 깊다. 테스트 시간 추론은 AI 모델을 실행하는 과정에서 추가적인 계산을 수행하게 하여 응답 전에 '추론'을 가능하게 한다. 이는 AI가 복잡한 상황에서 인간처럼 잠깐의 시간을 두고 생각하고 전략을 세우는 것과 유사하다. 이러한 접근 방식은 전통적인 AI 모델이 훈련 시 배운 패턴에 따라 사전 프로그래밍된 응답에 의존했던 것과는 큰 차이를 보인다.

테스트 시간 추론의 장점은 상당하다. 첫째, 복잡한 영역인 수학 및 과학과 같은 분야에서의 논리적 추론이 필수적인 경우 더 높은 정확성을 제공한다. 둘째, 문제를 '생각'함으로써 이러한 모델은 더 신뢰할 수 있고 일관된 출력을 제공하여 오류나 비논리적인 응답의 가능성을 줄인다. 셋째, 섬세한 이해와 문제 해결이 필요한 복잡한 작업에서 더 뛰어난 성능을 발휘한다.

브라운은 이러한 두 가지 접근 방식이 상호 배타적이지 않으며 상호 보완적이라고 강조한다. 프리 트레이닝은 AI 모델에 대한 광범위한 지식 기반을 제공하고, 테스트 시간 추론은 중요한 추론 및 분석 능력을 추가하여 더 정교하고 강력한 AI 시스템을 구축하는 데 기여한다. 이러한 협력은 산업과 학계 간의 진전을 촉진할 것이다.

AI 연구의 미래에 있어 학계의 역할도 주목할 만하다. 브라운은 AI 실험의 규모가 커짐에 따라 연구자들이 컴퓨팅 자원에 대한 접근이 제한적이어서 빠르게 발전하는 AI 연구에 학계가 발맞출 수 있는지가 큰 도전 과제가 될 것이라고 말했다. 그러나 그는 학문적 기여의 기회를 강조했다. 예를 들어, 학계는 더 적은 계산력으로 높은 성능을 내는 혁신적인 모델 아키텍처를 탐구할 수 있다.

또한 AI 분야에서 중요한 기준이 되는 벤치마크 문제는 학계가 깊이 있게 연구해야 할 분야라고 언급했다. 브라운은 현재 AI의 벤치마크가 상실되고 있으며, 실질적인 평가에 실패하고 있다고 비판했다. 따라서 학계는 더 의미 있고 실제적인 벤치마크 개발을 통해 AI 성능을 객관적으로 평가할 수 있는 길을 모색해야 한다.

결론적으로, 노암 브라운의 통찰은 AI 발전의 여정에 대한 중요한 성찰을 제공한다. AI 추론 모델이 수십 년 전 도달 가능했을 수도 있다는

crossorigin="anonymous">