AI 챗봇의 범죄 사용에 충격: 클로드로 해킹과 협박 수행

챗봇 악용한 사이버 범죄 급증⋯앤트로픽 “6.8억원 몸값 요구한 해커도 등장”

인공지능(AI) 인프라 기업 앤트로픽(Anthropic)이 자사의 AI 챗봇 클로드(Claude)가 대규모 사이버 공격에 노출됐다고 경고했다. 일부 해커가 요구한 몸값은 50만달러(약 6억8000만원)에 달했다.

27일(현지시각) 코인텔레그래프에 따르면, 앤트로픽은 위협 인텔리전스 보고서를 통해 클로드가 범죄자에게 기술지원부터 직접적인 해킹까지 다양한 방식으로 악용되고 있다고 밝혔다. 이른바 ‘바이브 해킹(vibe hacking)’ 기법으로 코딩과 암호화 지식이 부족한 사람도 공격을 시도할 수 있게 된 것이다.

보고서에 따르면 한 해커는 클로드를 이용해 최소 17개 기관에서 민감한 데이터를 탈취했다. 피해 대상은 의료기관, 응급서비스, 정부기관, 종교단체 등이 포함된다. 해당 해커는 클로드를 훈련시켜 탈취한 재정 기록을 평가하고, 몸값을 7만5000달러(약 1억200만원)에서 50만달러(약 6억8000만원)로 산정한 뒤 심리적 압박을 극대화하는 협박 문구를 작성하게 했다.

앤트로픽은 “기본 암호화 구현도 못하는 이들이 이제는 회피 기능과 분석방지 기술을 갖춘 랜섬웨어를 제작하고 있다”고 지적했다. 회사는 이후 해당 해커를 차단했지만, 사이버 범죄가 쉽게 벌어질 수 있는 상황이라고 덧붙였다.

앞서 블록체인 보안기업 체이널리시스는 지난 2월 보고서에서 “생성형 AI의 확산으로 공격의 확장성과 비용 효율성이 높아졌다”며 “올해 디지털자산(가상자산) 사기가 최고조에 이를 가능성이 있다”고 전망한 바 있다.