오픈AI "최첨단 AI 국제 표준 필요"…美 주도 글로벌 공조 촉구

오픈AI가 인공지능(AI) 기술의 잠재적 위험에 대응하기 위해 미국이 주도해 최첨단 AI 개발과 안전에 관한 국제 표준을 마련해야 한다고 촉구했다.

21일(현지시간) 블룸버그에 따르면 오픈AI는 이날 블로그를 통해 AI를 안전하게 개발하기 위한 국제적인 기술 표준이 필요하다고 밝혔다. 구체적으로 AI 모델과 관련해 어떤 사고를 보고 대상으로 삼을지 정하고, 각국이 AI 발전 과정에서 협력하는 방식과 AI 개발에 필요한 컴퓨팅 자원 접근성을 개선하기 위한 기준을 마련해야 한다고 제안했다.

오픈AI는 "AI의 지속적인 발전을 안전하고 유익하게 만들기 위해서는 정렬(alignment) 연구의 진전과 함께 연구소와 국가 전반의 개발 방향을 이끌 공동의 표준이 필요하다"고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)는 오는 23일 유엔 안전보장이사회에서 AI와 국제 안보를 주제로 연설할 예정이다. 이어 24일에는 시진핑 중국 국가주석을 위한 백악관 국빈 만찬에도 참석한다.

미국과 중국도 AI 관련 협의에 나선 상태다. 스콧 베센트 미국 재무장관은 지난 주말 양국이 AI의 이점과 위협에 대한 공통된 이해를 구축하기 위한 '미·중 AI 대화'를 만들기로 합의했다고 밝혔다. 미국은 국가안보에 영향을 미치는 AI 사고를 상호 통보하는 체계도 제안했다.

오픈AI는 각국이 개별적인 국내 기준과 국제 기준을 상호 보완적으로 구축해야 한다고 강조했다. 미국 상무부 산하 AI 표준·혁신센터(CAISI)를 비롯해 여러 국가에서 운영 중인 AI 안전 관련 기관을 활용하는 방안도 제시했다.

AI가 인간의 개입 없이 스스로 작업을 수행하는 능력이 커지는 데 대한 안전 기준도 필요하다고 주장했다. 특히 AI가 자체 코드를 변경하거나 성능을 스스로 개선하는 '완전 자율 재귀적 자기개선'은 안전성을 확보하기 전까지 추진해서는 안 된다고 밝혔다.

최근 주요 AI 기업 내부에서도 첨단 모델의 위험성을 경고하는 목소리가 커지고 있다. 다리오 아모데이 앤트로픽 CEO는 AI의 자기개선이 시작될 경우 인간의 통제 능력을 앞지르는 피드백 고리가 형성될 수 있다고 우려한 바 있다.

이 같은 논의는 최근 고성능 AI 모델의 사이버 역량을 둘러싼 우려가 커지는 가운데 나왔다. 블룸버그는 오픈AI의 AI 에이전트들이 평가 과정에서 협력해 격리 환경을 벗어나 AI 스타트업 허깅페이스를 해킹한 사례 등이 AI 안전성에 대한 우려를 키웠다고 전했다.