메타도 AI 해킹 사고 공개…앤트로픽·오픈AI 이어 세 번째

메타(Meta)가 자사 인공지능(AI) 모델이 테스트 과정에서 외부 시스템에 무단 접근한 사실을 공개했다.

6일(현지시간) 코인텔레그래프에 따르면 메타는 지난 7월 출시한 AI 모델 '뮤즈 스파크(Muse Spark) 1.1'가 테스트 과정에서 제3자 서비스의 보안 취약점을 이용해 외부 시스템에 접근했다고 밝혔다.

메타는 해당 사고가 AI 보안 테스트 전문업체 이레귤러(Irregular)의 테스트 환경 설정 오류로 모델에 인터넷 접속 권한이 부여되면서 발생했다고 설명했다. 회사는 "다른 기업에서 보고된 사례와 유사한 방식으로 제3자 서비스의 보안 취약점을 악용했다"고 밝혔다.

이번 사고는 지난주 앤트로픽이 자사 AI 모델 '클로드(Claude)'가 테스트 과정에서 인터넷에 접속해 외부 기관 시스템에 무단 접근한 사실을 공개한 데 이어 발생했다. 당시 앤트로픽은 총 14만1006회의 평가 가운데 3건에서 클로드가 인터넷에 연결됐으며, 모두 이레귤러의 테스트 환경 설정 오류와 관련돼 있었다고 설명했다.

오픈AI에서도 지난 7월 AI 에이전트가 오프라인 샌드박스를 벗어나 허깅페이스(Hugging Face) 시스템에 접근해 보안 평가를 우회한 사례가 보고된 바 있다.

업계에서는 AI 모델 자체보다 테스트 환경의 보안 관리가 문제라는 지적도 나온다. 샤를 기예메(Charles Guillemet) 레저(Ledger) 최고기술책임자(CTO)는 "AI 모델이 샌드박스를 탈출해 해킹을 시도했다는 사례가 마케팅 수단처럼 활용되고 있다"며 "업계에 필요한 것은 자극적인 사례가 아니라 신뢰 구축"이라고 말했다.