인공지능(AI)은 이제 단순한 도구가 아니라 우리 삶과 일, 나아가 사이버 보안 및 사이버 범죄에 변혁을 일으키는 요소로 자리잡고 있다. 기업들이 AI를 활용해 방어를 강화하는 한편, 사이버 범죄자들은 AI를 무기로 삼아 공격을 더 확장 가능하고 설득력 있게 만들고 있다. 2025년 연구자들은 독립적으로 복잡한 작업을 수행할 수 있는 AI 에이전트가 사이버 공격과 사이버 보안 방어를 혁신할 것으로 예측하고 있다.

AI 기반 챗봇은 이미 존재하지만, AI 에이전트는 단순한 보조 역할을 넘어서 실시간으로 계획, 실행 및 적응하는 자가 학습형 디지털 작업으로 기능한다. 이러한 발전은 사이버 범죄자의 전술을 단지 향상시키는 것을 넘어 사이버 보안 전쟁의 본질을 근본적으로 변화시킬 가능성이 있다.

AI는 사이버 범죄를 변혁하여 공격을 더 확장 가능하고 효율적이며 접근하기 쉽게 만든다. 세계 경제 포럼(WEF)의 2025년 인공지능 및 사이버 보안 보고서는 AI가 사이버 위협을 민주화하고 공격자가 사회공학을 자동화하며 피싱 캠페인을 확장하고 AI 기반 악성코드를 개발할 수 있게 한다고 강조한다. 오렌지 사이버 방어의 2025년 보안 내비게이터 보고서도 AI 기반 사이버 extortion, 딥페이크 사기 및 적대적 AI 기법에 대한 경고를 한다.

AI 에이전트의 등장은 사이버 범죄의 미래에 중대한 영향을 미치고 있다. 사이버 범죄자들은 AI 생성 피싱 및 사회 공학 기법을 활용하여 더 믿을 수 있고 정교한 피싱 이메일을 다양한 언어로 작성할 수 있게 되었다. 이들은 일반적으로 알고 있는 문법이나 철자 오류가 없기 때문에 피해자의 의심을 사지 않게 된다. AI는 또한 가짜 피싱 웹사이트, 물웅덩이 공격 및 챗봇 사기의 생성을 자동화하여 범죄를 서비스 형태로 판매하며 사이버 범죄의 진입 장벽을 더욱 낮추고 있다.

딥페이크 기술은 비즈니스 임원이나 가족을 사칭하여 피해자로 하여금 돈을 이체하거나 민감한 정보를 유출하게 만들기 위해 사용되고 있다. 영국의 엔지니어링 회사인 아럽은 2024년의 유명한 사건에서 홍콩 직원이 딥페이크로 변조된 비디오 통화 중 임원을 속아 2,500만 달러를 잃은 사례를 이야기할 수 있다.

AI의 보안 위협은 비단 사이버 범죄자들만의 문제가 아니다. 기업이 AI 챗봇과 대형 언어 모델(LLM)을 채택하면서 새로운 상당한 보안 위험도 발생하고 있다. 특히 충분히 검증되지 않은 AI 인터페이스가 중요한 백엔드 시스템 및 민감한 데이터에 연결될 경우, 적대적 공격자가 이를 악용할 수 있는 새로운 공격 경로를 열어줄 위험이 있다. AI 제어 없는 해킹, 자율형 AI의 행위로 인해 정보가 오염될 우려도 커지고 있다.

결론적으로, 사이버 보안과 AI 에이전트의 발전은 상호 경합하는 양상을 띠게 된다. 하지만 보안 전문가들은 AI에 의해 발생하는 위협에 단순히 물러서서는 안 된다. 조직은 실시간 네트워크 모니터링, 이상 탐지 및 자동화된 공격 대응 시스템을 통해 AI를 활용해야 한다. 기업들은 비즈니스 환경에서의 새로운 AI 위협 접근 방식에 대응하기 위해 직원 교육과 AI 기반 보안 훈련을 강화해야 한다.

여기서 중요한 점은, 공격자와 방어자 모두가 AI를 사용하게 되는 미래에서 방어자들이 위협을 인식하고 적절한 대응 방안을 강구하지 않는다면, 스스로의 안일함에 의해 더 큰 피해를 입을 수 있다는 사실이다.


crossorigin="anonymous">