Zahra Bahrololoumi, 세일즈포스의 영국 및 아일랜드 CEO는 CNBC와의 인터뷰에서 영국 정부가 인공지능(AI) 기업을 일률적으로 규제하지 말고, 각 회사의 특성을 반영한 차별화된 규제를 시행할 것을 촉구했다. Bahrololoumi는 기술 거대 기업인 세일즈포스가 모든 법안을 “진지하게” 받아들이지만, 영국의 AI 규제가 “비례적이고 맞춤형”이어야 한다고 강조했다.

그녀는 소비자 대상 AI 툴을 개발하는 기업과 기업용 AI 시스템을 만드는 기업 간의 차별성을 언급하며 소비자Facing AI 시스템, 예를 들어 OpenAI는 상대적으로 적은 제약을 받는 반면, 세일즈포스와 같은 기업의 AI 시스템은 높은 개인정보 보호 기준을 충족하고 기업 지침에 따를 필요가 있다고 설명했다.

영국 과학 혁신 기술부(DSIT)의 한 대변인은 예정된 AI 규제가 “가장 강력한 AI 모델을 개발하는 몇몇 기업을 겨냥한 고도로 표적화된 규칙이 될 것”이라고 밝혔으며, “AI 사용에 대한 일률적인 규칙”을 적용하지 않을 것이라고 밝혔다. 이는 세일즈포스와 같은 기업이 OpenAI와 같은 기본 모델을 개발하지 않기 때문에 규제에서 제외될 수 있음을 시사한다.

Bahrololoumi는 “기업 환경에서 요구되는 데이터 보안 및 개인정보 보호와 관련한 규정들는 기업과 소비자 간의 실질적인 차이를 감안할 때, 각기 다른 방식으로 접근해야 한다”고 말했다. 또한, 세일즈포스의 Agentforce AI 기술 플랫폼은 기업이 독립적으로 AI “에이전트”를 개발할 수 있도록 돕는데, 이 플랫폼은 고객 데이터를 외부에 저장하지 않는 “제로 리텐션” 기능과 같은 윤리적이고 안전한 고려 사항을 내세우고 있다.

그러나 Bahrololoumi는 소비자 AI 챗봇, 예를 들어 ChatGPT와 같은 경우, 어떤 데이터가 훈련에 사용되고 있으며 그 데이터가 어디에 저장되는지 명확하지 않다고 덧붙였다. 심지어 마이크로소프트의 협업 도구인 Copilot 조차도 기업 고객에게 마케팅되지만, 관련된 보안 위험이 있다고 경고했다.

분석 기업 CCS Insight의 Bola Rotibi는 기업 중심의 AI 공급업체들이 보안 및 데이터 개인정보 보호에 대해 더 인식하고 있지만, 규제 당국이 소비자 및 비즈니스 기업 모두를 면밀히 조사하지 않을 것이라는 잘못된 생각을 경계해야 한다고 전했다. 그는 GDPR(일반 데이터 보호 규정)과 같은 기존 규제들이 모든 기업에 일관되게 적용됨을 강조했다.

Bahrololoumi는 세일즈포스의 Agentforce 월드 투어에서 CNBC와 대화했으며, 해당 행사에서는 새로운 “에이전틱” AI 기술을 파트너 및 고객들에게 알리는 자리가 마련됐다. 이러한 그녀의 발언은 영국 총리 Keir Starmer의 노동당이 최근 국왕의 연설에서 AI 법안을 소개하지 않은 이후 나온 것이다. 현재 정부는 AI에 대한 “적절한 입법”을 수립할 계획이라고 발표했다.


crossorigin="anonymous">