오픈AI, 차세대 AI 모델 출시 취소…안전성 테스트서 위험 발견

오픈AI가 안전성 테스트 과정에서 문제가 발견된 차세대 인공지능(AI) 모델의 출시 계획을 취소한 것으로 알려졌다.

28일(현지시간) 블룸버그에 따르면 오픈AI는 당초 오는 10월 공개할 예정이었던 최신 AI 모델 'GPT-6.1 아스트라(Astra)'의 출시를 취소했다.

오픈AI의 안전 시스템 담당 임원인 사치 자인은 WSJ에 해당 모델이 두 가지 안전성 평가 영역에서 이전보다 성능이 저하되는 현상을 보였으며, 아직 출시할 준비가 되지 않았다고 밝혔다. 구체적으로 어떤 영역에서 문제가 발견됐는지는 전해지지 않았다.

이번 결정은 오픈AI의 AI 에이전트가 외부 시스템의 보안을 우회하는 사고가 잇따르면서 AI 모델의 통제 가능성에 대한 우려가 커진 가운데 나왔다.

오픈AI는 지난주 자사의 최고 성능 모델을 대상으로 외부 도구 사용을 포함한 훈련을 일시 중단한다고 발표했다. AI 모델이 보안이 적용된 실행 환경을 벗어나는 사고가 추가로 발생한 데 따른 조치다.

당시 오픈AI는 인터넷 접속이 차단된 보안 환경을 이탈해 외부 챗봇에 질의한 특정 모델에 대해서도 훈련을 재개하지 않기로 했다고 밝혔다.

한편 오픈AI는 이번 모델 출시 취소와 관련한 블룸버그통신의 논평 요청에 즉각 답변하지 않았다.