오픈AI '통제 불능' 여파…엔비디아·MS 주도 'AI 동맹' 출범

"폐쇄형 모델만으로는 사이버 공격 신속 대응 한계"

현재는 오픈웨이트 모델 상당수가 중국 AI모델

ㅅ

오픈AI의 모델이 통제를 벗어나 미국 스타트업 허깅 페이스에 사이버 공격을 한 여파가 계속되면서 엔비디아와 마이크로소프트 등 기술 대기업이 주도하는 새로운 AI안전 이니셔티브가 출범했다.

27일(현지시간) CNBC 등에 따르면, 엔비디아는 엔비디아와 마이크로소프트,스페이스X 등 수십개 미국과 유럽의 기술기업들이 '오픈 시큐어 AI 얼라이언스'라는 AI 안전 이니셔티브를 새로 출범시켰다고 블로그를 통해 발표했다.

엔비디아는 성명에서 "오픈 시큐어 AI 얼라이언스는 오픈 기술을 활용해 취약점을 해결하고 공개하기 위해 노력할 것"이라며, "최근 발생한 허깅 페이스 보안 사고는 사이버 방어자들이 스스로를 방어하기 위해 개방된 최첨단 에이전트 시스템이 필요하다는 점을 상기시켜 주었다"고 밝혔다.

지난주, 스타트업 허깅페이스가 미국 유수의 방어 모델들을 활용했음에도 스스로 방어하지 못한 것으로 드러났다. 이들 모델들이 공격자와 방어자를 구분하지 않는 보안 장치를 갖추고 있었기 때문이다. 허깅페이스는 결국 이 같은 제약에서 자유로운, 자체 호스팅 방식의 오픈 웨이트 중국산 방어 모델을 선택했다.

개방형 모델은 다운로드, 수정 및 자체 호스팅이 가능한 반면, 앤스로픽과 오픈AI가 구축한 AI모델은 폐쇄형 모델로 특정 인프라를 통해서만 접근할 수 있다.

미국내에서는 중국 AI 기업들이 개발한 모델에 대한 접근을 제한해야 한다는 목소리가 커지고 있다. 현재 미국 의원들은 주로 오픈웨이트 모델인 중국산 AI 모델의 확산을 억제하는 방안을 추진중이다.

중국 기업들은 AI학습 비용을 대폭 절감하기 위해 미국의 앞선 AI모델에서 대량으로 출력값을 추출하는 이른바 '증류'행위를 통해 자신들의 모델을 구축하는 것으로 알려졌다.

지난주 스콧 베선트 미국 재무장관은 미국 기업을 대상으로 불법 복제 공격을 감행하는 중국 기업에 제재를 가하겠다고 경고했다.

미국 외교협회의 중국 및 신흥 기술 담당 선임 연구원인 크리스 맥과이어는 CNBC와의 인터뷰에서 "미국 정부가 중국산 모델에 제한을 가할 가능성이 실제로 있다"고 말했다. 그는 이 조치에는 "API를 통한 토큰 구매나 미국 클라우드 기업이 중국 AI모델을 호스팅하고 비용을 청구하는 등의 거래 금지가 포함될 수 있다"고 말했다.

그는 "워싱턴에서 벌어지는 논쟁은 오픈소스 생태계가 아닌 중국 기업에 초점을 맞출 것이며 중국의 지적재산권 도용을 용인할지 여부에 대한 논쟁"이라고 말했다. 그러나 현재 가장 뛰어난 오픈 소스 모델의 대부분이 중국 기업에서 개발되고 있어 중국 AI기업에 대한 제재에 대한 우려도 제기되고 있다.

지난주 엔비디아, 마이크로소프트,메타, 팰런티어 등 20여개 기업은 정책 입안자들에게 "오픈웨이트 AI 모델에 대한 시기상조적 규제"는 피해야 한다고 촉구하는 서한을 발표했다. 이러한 규제는 "경쟁을 저해하거나 혁신을 해외로 몰아갈 수 있다"는 것이다.

엔비디아는 "오픈AI의 허깅 페이스 사건이 '실질적인 진실'을 보여줬다"고 밝혔다. 방어자가 자체 인프라에서 고급 AI를 검사, 적용 및 실행할 수 없으면 속도가 가장 중요한 순간에 대응 능력이 제한될 수 밖에 없기 때문이라는 설명이다.

김정아 객원기자