미국 연방거래위원회(FTC)는 '허위 AI 주장 및 계획'에 대해 단속을 강화한다고 발표했다. 이 단속의 대상이 된 기업들은 법률 서비스 회사인 DoNotPay와 세 개의 비즈니스 기회 벤처를 포함하여, 인공지능(AI) 기술을 이용해 소비자들을 속이려는 방법을 동원했다고 FTC는 설명했다.

FTC 의장 리나 칸은 “AI 도구를 사용하여 사람들을 속이거나 사기를 치는 것은 불법”이라고 강조하며, "AI에 대한 법적 면책 조항은 없다는 것을 명확히 하기 위해 이 같은 조치를 취했다"고 말했다. FTC는 이번 단속이 정직한 사업자와 혁신가들이 공정한 경쟁을 할 수 있도록 보장하고 소비자들이 보호받을 수 있도록 하기 위한 것이라고 덧붙였다.

특히 DoNotPay는 자사의 AI 서비스가 '세계 최초의 로봇 변호사'라고 홍보했지만, 실제로는 이 주장에 대한 과학적 검증이 이루어지지 않았다고 FTC는 밝혔다. DoNotPay는 고객들이 변호사 없이도 타인을 상대로 고소를 진행할 수 있도록 하고, 상당한 시간 내에 유효한 법률 문서를 생성한다고 주장했으나, 이러한 서비스의 정확성은 확인되지 않았다는 것이다. 또한, 고객의 이메일 주소만으로 소규모 비즈니스 웹사이트의 연방 및 주 법규 위반 여부를 점검한다는 서비스도 실효성이 없었다고 전했다.

DoNotPay는 잘못을 인정하지는 않았지만, FTC의 요구에 따라 19만 3천 달러를 지급하고 2021년부터 2023년까지 자사의 서비스를 이용한 소비자들에게 서비스의 한계를 설명하는 조치를 약속했다. FTC는 이 회사가 전문 서비스의 대체 가능성에 대한 주장에 대해 근거 없는 내용을 공표하지 않도록 금지할 것이라고 밝혔다.

또한 FTC는 다른 세 건의 부정정 거래 사례에 대해서도 법적 조치를 취했다. 캘리포니아주 로스앤젤레스 연방 법원에 제기된 소송에서는 기업 기회 모델로 활동하던 Ascend Ecom이라는 업체가 소비자들에게 'AI로 구동되는 신뢰할 수 있는 비즈니스 기회'를 제공한다고 속여 약 2,500만 달러를 부정 취득했다고 주장하고 있다. 소비자들은 이 업체의 투자로 수익을 얻을 것이라는 약속을 믿고 투자했지만, 최종적으로는 손실만 남게 되었다는 설명이다.

이 외에도 뉴저지와 펜실베니아주에서도 유사한 사기가 진행된 것으로 적발되었으며, FTC는 이들이 소비자들로부터 수백만 달러를 불법으로 챙겼다고 주장하고 있다. 특히 리턴을 보장하는 'AI 기반 소프트웨어'를 이용한 기회 모델도 주요 대상이 되었다.

마지막으로, AI 작성 도구를 제공하는 Rytr에 대한 규제적인 소송도 포함되었다. 이 회사가 고객 리뷰를 생성하는 서비스를 제공하였으나, 생성된 리뷰는 사용자가 입력한 내용과는 전혀 무관한 정보들을 포함하고 있어 소비자들을 오도할 수 있다고 FTC는 지적했다.

결과적으로 FTC는 AI 분야에서의 사기 행위를 엄중히 단속하고 있으며, 소비자 보호를 위한 조치를 지속적으로 강화해 나갈 것임을 밝혔다.


crossorigin="anonymous">