미국 연방거래위원회(FTC)가 인공지능을 활용해 소비자들을 오도한 혐의를 받고 있는 여러 기업에 대해 단속을 시작했다. 이들 기업 중에는 '세계 최초의 로봇 변호사'라고 주장한 업체도 포함되어 있다. FTC는 9월 25일 'AI 준수 작전(Operation AI Comply)'을 시작한다고 발표하며, 소비자에게 피해를 줄 수 있는 다섯 개 기업에 대한 강력한 법 집행 조치를 취했다고 전했다.

FTC 의장 리나 칸(Lina Khan)은 성명에서 “AI 도구를 사용하여 사람들을 속이거나 사기치는 것은 불법”이라며, 해당 단속이 현행법에 AI 면제가 없음을 분명히 한다고 강조했다. 그녀는 “불공정하거나 기만적인 관행을 단속함으로써, FTC는 정직한 사업체와 혁신가들이 공정한 기회를 얻도록 보장하고, 소비자들이 보호받을 수 있도록 한다”고 덧붙였다.

Operation AI Comply의 일환으로, FTC는 'DoNotPay'라는 회사에 대한 조치를 취했다. 이 회사는 '세계 최초의 로봇 변호사'라고 주장했지만, FTC는 이 회사가 유효한 법률 서비스를 제공하지 못했다고 지적했다. DoNotPay는 "변호사 없이도 폭행에 대해 소송할 수 있다"면서 "완벽하게 유효한 법적 문서를 즉시 생성할 수 있다"고 주장했지만, FTC는 이들 약속을 이행하지 못했다고 밝혔다. 이 프로젝트는 AI 봇이 실제 변호사와 비교하여 합격점을 받았는지조차 확인하지 않았으며, 법률 전문가를 고용하지도 않았다고 주장했다.

또한, FTC는 작은 기업 웹사이트의 법률 위반을 이메일만으로 확인할 수 있는 서비스도 '효과적이지 않다'고 판단했다. DoNotPay는 193,000달러를 지급하고 서비스의 한계를 소비자에게 알리기로 합의했다.

이외에도 FTC는 'Ascend Ecom'이라는 회사를 겨냥하고 있는데, 이 회사는 소비자들이 상당한 수익을 올릴 수 있다고 주장하며 AI를 이용한 온라인 비즈니스 전략을 제시했으나, 실제로는 2천5백만 달러 이상을 소비자들로부터 사기당했다는 혐의를 받고 있다.

또한 'Ecommerce Empire Builders(EEB)'는 소비자들에게 높은 수익을 창출할 수 있도록 돕는다고 주장했지만, 이러한 약속이 이행되지 않자 소비자들의 불만이 이어졌다. 넷째로, 'Rytr'는 소비자 리뷰를 생성하는 AI 작문 도구를 마케팅하여 잘못된 소비자 정보가 퍼지게 했다는 혐의를 받고 있으며, 이에 대한 합의 제안은 앞으로 그러한 서비스를 제공할 수 없도록 할 예정이다.

마지막으로, 'FBA Machine'은 AI를 활용한 온라인 상점으로 보장된 수익을 약속했으나, 이로 인해 소비자들은 1천5백90만 달러의 피해를 입었고, 현재 이 사건은 진행 중이다.

이처럼 FTC의 단속은 AI 기술을 악용하여 소비자를 기만하는 행위를 엄중하게 처벌하겠다는 의지를 보여준다. 이는 AI 기술이 계속 발전함에 따라 이에 대한 사용의 윤리성과 법적 책임을 더욱 강조하는 계기가 될 것으로 보인다.


crossorigin="anonymous">