최근 미국 캘리포니아주에서 인공지능(AI) 관련 법안들이 통과되면서 AI 기술의 발전과 그에 대한 규제가 주목받고 있다. AI 모델들은 더욱 정교하게 복잡한 질문을 이해하고, 보다 통찰력 있는 응답을 제공하는 방향으로 발전하고 있으며, 이는 OpenAI의 신규 모델 ‘Strawberry’ 발표에서 더욱 두드러진 모습을 보인다. OpenAI는 2024년 9월 12일 새로운 AI 모델 시리즈인 OpenAI o1을 공개하며, 이 모델이 사람처럼 문제를 고민한 후 응답할 수 있도록 설계되었다고 밝혔다. 개발된 모델들은 과학, 코딩, 수학 등 복잡한 작업을 처리할 수 있는 능력을 더욱 강화하고 있다.

그러나 이러한 발전에 따라 법률가들은 AI가 통제 불능에 빠질 경우에 대한 우려를 표명하고 있으며, 이에 대한 안전 조치를 개발 단계에서부터 실시해야 한다고 주장하고 있다. 최근 캘리포니아주에서는 저작권 보호와 관련된 법안들을 포함하여 여러 AI 관련 법안들이 통과되었으며, 이 중에서도 ‘안전한 혁신을 위한 AI 모델 법안’이 Industry 내에서 큰 논란이 되고 있다.

해당 법안은 OpenAI, Google, Microsoft 등 대형 AI 개발사들에 주로 영향을 미치며, 10^26의 정수 또는 부동소수점 연산(FLOPs)을 요구하고 1억 달러 이상의 비용이 드는 AI 모델에 대해 여러 가지 안전 조치를 도입하도록 요구하고 있다. 이에 따라 개발자들은 AI 모델의 셧다운 기능 구현, 안전 프로토콜 유지, 제3자 감사 및 캘리포니아 법무장관에게 준수 문서 및 사고 보고서를 제출해야 하는 의무가 부여된다.

그러나 이 법안은 모든 규모의 개발자들로부터 혁신을 위축시킨다는 비판을 받고 있다. 법무법인 Haynes Boone의 디나 블릭슈타인의 의견에 따르면, 이 법안은 3 x 10^25 FLOP 이상의 연산량을 투입하는 소규모 개발자들에게도 영향을 미칠 수 있다고 경고하고 있다. 안전 프로토콜 및 감사 요구 사항이 과중할 경우, 소규모 기업에 불필요한 부담을 줄 수 있다는 지적도 이어졌다.

블릭슈타인은 “법안의 의도는 긍정적이나, 특정 안전 기준과 감사의 필요는 지나치게 복잡하게 느껴질 수 있으며, 이는 캘리포니아의 AI 산업에서의 혁신을 저해할 수 있다”고 전했다. 현재 미국은 AI 모델의 출력에 대한 연방 차원의 규제 프레임워크가 미비한 상황이다. 블릭슈타인은 캘리포니아와 콜로라도와 같은 주들에서 각자 규제를 제정하고 있지만, 이러한 다양성이 기업들에게 혼란을 초래할 수 있다고 덧붙였다.

캘리포니아는 기술 혁신의 글로벌 리더로, 이러한 법률 결정들이 전 세계적으로 주목받고 있는 상황이다. 주지사 개빈뉴스엄은 이 법안에 대해 ‘합리적인 규제는 위험 감수를 지원하나, 경솔함은 피해야 한다’며 긍정적인 의도를 표명하면서도 경쟁력에 대한 우려도 나타냈다.

결론적으로, AI 모델 개발과 관련된 법안들은 기술 발전의 필요성과 안전성 간의 균형을 잡는 데 중요한 역할을 할 것으로 보인다. 그러나 지나치게 복잡한 요구 사항이 혁신을 저해할 수 있다는 점에서는 계속해서 주의 깊은 논의가 필요할 것이다.


crossorigin="anonymous">