"오픈AI 차세대 '아스트라', AI 추론 과정 감시 어려워질 우려"

오픈AI(OpenAI)가 개발 중인 차세대 인공지능(AI) 모델 '아스트라(Astra)'가 연산 비용을 줄이는 대신 향후 AI 에이전트의 추론 과정을 사람이 감시하기 어렵게 만들 수 있다는 우려가 제기됐다.

3일(현지시간) 가상자산(암호화폐) 전문 미디어 코인텔레그래프에 따르면 AI 안전 전문가들은 아스트라에 적용되는 기술적 변화가 AI 모델의 연산 비용을 낮출 수 있지만, 모델이 결론에 도달하는 과정을 사람이 파악하고 감시하는 능력을 약화시킬 가능성이 있다고 경고했다.

특히 향후 AI 에이전트가 복잡한 작업을 자율적으로 수행하는 과정에서 추론 과정을 확인하기 어려워질 경우 안전성 평가와 행동 감시에도 영향을 미칠 수 있다는 지적이다.

다만 아스트라는 출시 전 모델인 만큼 구체적인 성능과 비용 절감 효과, 추론 과정의 감시 가능성 등은 정식 공개 이후 확인될 것으로 보인다.